TFM-Tokenizer · Mã hóa token EEG
Chuyển đổi EEG đơn kênh thành các token rời rạc theo miền thời gian-tần số cho Transformer.
13579 views
Bắt đầu với câu lệnh này
Chuyển EEG đơn kênh thành các token rời rạc theo thời gian–tần số cho Transformer.
Dùng thử Kimi DesignTạo sơ đồ phương pháp khái niệm TFM-Tokenizer theo bố cục ngang 16:9, minh họa cách EEG đơn kênh được chuyển thành các token rời rạc theo thời gian–tần số và đưa vào Transformer. Tiêu đề: "TFM-Tokenizer: Rời rạc hóa thời gian–tần số EEG | Ví dụ khái niệm". Dạng sóng EEG lần lượt đi qua STFT và Patching chồng lấp; đầu vào được che theo thời gian đi vào Bộ mã hóa thời gian, đầu vào được che theo dải tần đi vào Bộ mã hóa cửa sổ phổ cục bộ, rồi hai nhánh hợp nhất tại Tổng hợp theo patch có cổng; tiếp theo là Lượng tử hóa để tạo Từ vựng token và EEG-Tokens, cùng Tái tạo có che để khôi phục phổ đồ; ở phía bên phải, thể hiện các token EEG đã học → Che → Bộ mã hóa Transformer → Đầu dự đoán token → Dự đoán token có che. Dùng màu tím cho phổ, xanh dương cho nhánh thời gian, cam cho từ vựng và token, gạch chéo màu xám cho phần che, trên nền trắng với các mũi tên và hộp mô-đun rõ ràng. Giữ lại các ghi chú định tính rằng phương pháp không phụ thuộc vào mô hình và có thể thích ứng với các mô hình nền tảng cùng bối cảnh đa kênh.
Thêm chú thích hàm mất mát
Chú thích nhánh Tái tạo có che bằng hàm mất mát tái tạo, giữ nguyên phần còn lại của quy trình.
Dùng thử Kimi DesignTạo sơ đồ phương pháp khái niệm TFM-Tokenizer theo bố cục ngang 16:9, minh họa cách EEG đơn kênh được chuyển thành các token rời rạc theo thời gian–tần số và đưa vào Transformer. Tiêu đề: "TFM-Tokenizer: Rời rạc hóa thời gian–tần số EEG | Ví dụ khái niệm". Dạng sóng EEG lần lượt đi qua STFT và Patching chồng lấp; đầu vào được che theo thời gian đi vào Bộ mã hóa thời gian, đầu vào được che theo dải tần đi vào Bộ mã hóa cửa sổ phổ cục bộ, rồi hai nhánh hợp nhất tại Tổng hợp theo patch có cổng; tiếp theo là Lượng tử hóa để tạo Từ vựng token và EEG-Tokens, với Tái tạo có che khôi phục phổ đồ; ở phía bên phải, thể hiện các token EEG đã học → Che → Bộ mã hóa Transformer → Đầu dự đoán token → Dự đoán token có che. Dùng màu tím cho phổ, xanh dương cho nhánh thời gian, cam cho từ vựng và token, gạch chéo màu xám cho phần che, trên nền trắng với các mũi tên và hộp mô-đun rõ ràng. Giữ lại các ghi chú định tính rằng phương pháp không phụ thuộc vào mô hình và có thể thích ứng với các mô hình nền tảng cùng bối cảnh đa kênh.
Đổi bảng màu
Đổi màu phổ, nhánh thời gian và token lần lượt thành chàm, xanh mòng két và đỏ son mà không thay đổi cấu trúc.
Dùng thử Kimi DesignTạo sơ đồ phương pháp khái niệm TFM-Tokenizer theo bố cục ngang 16:9, minh họa cách EEG đơn kênh được chuyển thành các token rời rạc theo thời gian–tần số và đưa vào Transformer. Tiêu đề: "TFM-Tokenizer: Rời rạc hóa thời gian–tần số EEG | Ví dụ khái niệm". Dạng sóng EEG lần lượt đi qua STFT và Patching chồng lấp; đầu vào được che theo thời gian đi vào Bộ mã hóa thời gian, đầu vào được che theo dải tần đi vào Bộ mã hóa cửa sổ phổ cục bộ, rồi hai nhánh hợp nhất tại Tổng hợp theo patch có cổng; tiếp theo là Lượng tử hóa để tạo Từ vựng token và EEG-Tokens, với Tái tạo có che khôi phục phổ đồ; ở phía bên phải, thể hiện các token EEG đã học → Che → Bộ mã hóa Transformer → Đầu dự đoán token → Dự đoán token có che. Dùng màu tím cho phổ, xanh dương cho nhánh thời gian, cam cho từ vựng và token, gạch chéo màu xám cho phần che, trên nền trắng với các mũi tên và hộp mô-đun rõ ràng. Giữ lại các ghi chú định tính rằng phương pháp không phụ thuộc vào mô hình và có thể thích ứng với các mô hình nền tảng cùng bối cảnh đa kênh.
Thêm phác thảo đa kênh
Thêm một phác thảo nhỏ về phần mở rộng đa kênh bên cạnh các ghi chú định tính.
Dùng thử Kimi DesignTạo sơ đồ phương pháp khái niệm TFM-Tokenizer theo bố cục ngang 16:9, minh họa cách EEG đơn kênh được chuyển thành các token rời rạc theo thời gian–tần số và đưa vào Transformer. Tiêu đề: "TFM-Tokenizer: Rời rạc hóa thời gian–tần số EEG | Ví dụ khái niệm". Dạng sóng EEG lần lượt đi qua STFT và Patching chồng lấp; đầu vào được che theo thời gian đi vào Bộ mã hóa thời gian, đầu vào được che theo dải tần đi vào Bộ mã hóa cửa sổ phổ cục bộ, rồi hai nhánh hợp nhất tại Tổng hợp theo patch có cổng; tiếp theo là Lượng tử hóa để tạo Từ vựng token và EEG-Tokens, với Tái tạo có che khôi phục phổ đồ; ở phía bên phải, thể hiện các token EEG đã học → Che → Bộ mã hóa Transformer → Đầu dự đoán token → Dự đoán token có che. Dùng màu tím cho phổ, xanh dương cho nhánh thời gian, cam cho từ vựng và token, gạch chéo màu xám cho phần che, trên nền trắng với các mũi tên và hộp mô-đun rõ ràng. Giữ lại các ghi chú định tính rằng phương pháp không phụ thuộc vào mô hình và có thể thích ứng với các mô hình nền tảng cùng bối cảnh đa kênh.