# Thí nghiệm dùng dataset ngoài (Track 03, Muse)

Ngày 2026-10-25. Danh sách dựa trên:
- EDA ([eda_muse/EDA_Muse_va_phuong_phap.md](eda_muse/EDA_Muse_va_phuong_phap.md), mục 12 foundation model, 13 model khác, 14 dataset, 15 paper);
- kết quả các thí nghiệm đã chạy ([PREPROCESS_EXPERIMENTS.md](PREPROCESS_EXPERIMENTS.md), [AUGMENT_EXPERIMENTS.md](AUGMENT_EXPERIMENTS.md), [FEATURE_EXPERIMENTS.md](FEATURE_EXPERIMENTS.md), [MULTITASK_EXPERIMENTS.md](MULTITASK_EXPERIMENTS.md)).

Chưa chạy thí nghiệm nào trong danh sách này. **Máy hiện chưa có dataset ngoài nào** (đã kiểm tra 2026-10-25; ổ đĩa còn 642 GB). Bảng kết quả ở cuối để điền dần.

## 0. Vì sao dataset ngoài đáng thử, và vì sao rủi ro

**Lý do đáng thử.** Điểm yếu lớn nhất của bài này là **ít mốc N2**: mỗi bản ghi chỉ cho một mốc, và 540 bản ghi là tất cả. Bin 0-40 s và 40-90 s chiếm khoảng 80% điểm, mà số cửa sổ ở đó chỉ khoảng 12% (khoảng 9,700 cửa sổ). Mọi dataset PSG có hypnogram đều cho tạo **đúng cùng nhãn** (thời gian tới epoch N2 đầu tiên). Theo bảng ở mục 1, các dataset công khai cho khoảng **1,900 đêm**, tức khoảng **3.5 lần** số mốc N2 của Muse.

**Rủi ro.** Dữ liệu PSG khác Muse ở thiết bị, kênh, tham chiếu, biên độ và cách cắt bản ghi. Theo EDA, AF7/AF8 thấp hơn PSG 5-9 dB và không đạo trình PSG nào tái tạo được; band power tuyệt đối không chuyển được, nhưng các feature tỉ số (sigma/beta, 1/f slope) thì chuyển được. Foundation model thì theo các benchmark độc lập không hơn mạng nhỏ trên cửa sổ ≤ 5 s với ít kênh.

### Ràng buộc cần tuân thủ

| Ràng buộc | Nội dung |
|---|---|
| **Rule 04** của cuộc thi | được pre-train trên dữ liệu **công khai, phân phối lại được**; cấm tập sealed và "closed clinical datasets"; **phải khai báo mọi corpus ngoài** ([rules](https://neural-interfaces26.github.io/rules.html)) |
| Giấy phép | NSRR (SHHS, MESA), MASS cần thoả thuận sử dụng, ISRUC và DCSM chưa tìm thấy văn bản giấy phép: không dùng khi chưa kiểm tra |
| Bài nộp | chỉ `submission.py` cộng file trọng số; ZIP tối đa 15 GB; không cài thêm gói nào lúc chấm; suy luận tối đa 60 phút trên A100 |
| Package trong solver | chỉ numpy, scipy, scikit-learn, torch, pandas, mne, braindecode (quy tắc 2026-10-24). **Riêng khâu chuẩn bị dữ liệu và train thử** được dùng gói khác (ví dụ `wfdb`), nhưng code feature và model đi vào solver thì không |
| Model pretrained | worker Codabench chỉ cache sẵn `brain-bzh/reve-base`; model khác phải đóng trong ZIP. REVE dùng giấy phép riêng ("Responsible Use License v1.0"), LUNA là CC-BY-ND-4.0 (rủi ro khi fine-tune): cần đọc kỹ điều khoản trước khi nộp |
| Ý nghĩa với solver | dữ liệu ngoài chỉ dùng lúc **train**; solver nộp vẫn là file trọng số, suy luận từng cửa sổ như hiện nay |

## 1. Dataset ứng viên

Số liệu lấy từ EDA mục 14 (đợt nghiên cứu 2026-10-12/14), chưa tải và chưa kiểm tra lại. Cột "Mốc N2" là số đêm có hypnogram, xấp xỉ số nhãn dùng được.

| Dataset | Mốc N2 | Thiết bị, kênh | Giấy phép | Vai trò đề xuất |
|---|---|---|---|---|
| [BOAS, OpenNeuro ds005555](https://openneuro.org/datasets/ds005555) | 128 đêm, 100 người | băng đô Bitbrain **AF7/AF8** + PSG đồng thời | CC0 | **ưu tiên 1**: gần Muse nhất (trán), nhãn từ PSG đi kèm |
| [PhysioNet/CinC 2018](https://physionet.org/content/challenge-2018/1.0.0/) | 994 người có nhãn | PSG 6 EEG tham chiếu mastoid, 200 Hz | ODC-By | nguồn PSG lớn nhất; 292 h trước N2 (Muse: 110 h) |
| [Sleep-EDF Expanded](https://physionet.org/content/sleep-edfx/1.0.0/) | 153 đêm, 78 người | Fpz-Cz, Pz-Oz, 100 Hz | ODC-By | phải cắt tại lúc tắt đèn; proxy của warm-up cũ |
| [HMC Sleep Staging](https://physionet.org/content/hmc-sleep-staging/1.1/) | 151 bản ghi | F4-M1, C4-M1, O2-M1, C3-M2, 256 Hz | CC-BY | quần thể phòng khám; low-pass phần cứng 35 Hz |
| [EESM19/EESM23](https://www.nature.com/articles/s41597-025-04579-8) | 320 đêm | ear-EEG khô, tại nhà | CC0 | domain thiết bị đeo |
| [Dreem DOD-H/DOD-O](https://arxiv.org/abs/1911.03221v2) | 25 khoẻ mạnh, 55 OSA | đạo trình trán, 5 người chấm | MIT (theo Zenodo) | nhãn đồng thuận nhiều người chấm |
| [CAP Sleep Database](https://physionet.org/content/capslpdb/1.0.0/) | 108 PSG | ≥ 3 EEG | ODC-By | an toàn về giấy phép |
| **Tổng** (7 nguồn trên) | **khoảng 1,900** | | | khoảng 3.5 lần 540 bản ghi Muse |

### Ánh xạ kênh PSG sang Muse (từ đợt phân tích PSG trước, theo EDA)

- TP9/TP10 gần các đạo trình tham chiếu mastoid (C3-M2, C4-M1, F3-M2, F4-M1), cả về mức lẫn hình dạng phổ.
- AF7/AF8 thấp hơn PSG 5-9 dB và không đạo trình nào tái tạo được; gần nhất là F4-C4.
- Feature tỉ số chuyển được; band power tuyệt đối thì không.

### Cách dựng nhãn cho PSG (dùng chung cho mọi thí nghiệm)

- **Nhãn:** thời gian từ cuối cửa sổ tới **epoch N2 đầu tiên** của đêm (giống nhãn Muse), kẹp ở 600 s. Epoch AASM 30 s, nên onset là bội số của 30 s.
- **Cắt bản ghi:** bộ công khai Muse được chọn để N2 xuất hiện trong khoảng 25-30 phút. Với PSG, chọn điểm bắt đầu sao cho khoảng cách tới N2 có phân phối giống Muse (median 690 s, 5%-95% là 268-1379 s). Mỗi đêm có thể cho nhiều "bản ghi giả" bằng cách chọn nhiều điểm bắt đầu khác nhau. Điều này làm tăng số cửa sổ xa, **không** làm tăng số mốc N2.
- **Tiền xử lý:** lấy mẫu lại 128 Hz, low-pass 45 Hz causal, zero 1 s đầu như E4, rồi tính 217 feature bằng đúng hàm đang dùng.
- **Điểm cần chú ý:** các dataset khác nhau về mốc "bắt đầu bản ghi" (tắt đèn, bắt đầu PSG); cần ghi rõ từng dataset.

## 2. Cách so sánh

- **Nền (`base`):** công thức hiện tại (E4, low-pass 45 Hz, 217 feature, CNN + GRU, head `dist_w`), chạy lại cùng phiên làm đối chứng.
- **Giao thức:** CV 5 fold theo người × seed 0-2 và test công khai seed 42-46, so ghép cặp trên từng bản ghi Muse. Dữ liệu ngoài **không bao giờ** nằm trong nhóm giữ ngoài; nó chỉ thêm vào phần train của mỗi fold. Tập kiểm tra nội bộ chọn epoch chỉ gồm người Muse, để không chọn epoch theo phân phối ngoài.
- **Chỉ số phụ:** MAE theo bin, bài cắt đầu và bài kéo dài (như các loạt trước).
- **Thêm hai số tham chiếu** cho mỗi nguồn ngoài:
  - **chỉ train ngoài, chấm trên Muse** (zero-shot): cho biết dữ liệu ngoài đại diện được cho Muse tới đâu;
  - **ensemble:** theo bài học E12 và đối chứng kích thước ensemble, biến thể thắng ở model đơn phải được kiểm tra lại ở mức ensemble.

## 3. Bảng ưu tiên

| ID | Thí nghiệm | Ưu tiên | Lý do | Chi phí |
|---|---|---|---|---|
| X0 | Tải, kiểm tra giấy phép, dựng nhãn "thời gian tới N2" cho BOAS, Sleep-EDF, PhysioNet 2018, HMC, CAP, EESM, DOD | P0 | mọi thí nghiệm sau cần; chưa có dataset nào trên máy | cao (nhiều ngày công, nhiều chục GB) |
| X1 | Đo khoảng cách miền: classifier phân biệt "feature của PSG đã ánh xạ" với "feature của Muse" (cửa sổ thức xa N2); thử các cách ánh xạ kênh và chuẩn hoá | P0 | chọn ánh xạ trước khi train; không cần nhãn Muse | thấp |
| X2 | **Chỉ train ngoài, chấm trên Muse** (zero-shot) cho từng nguồn | P1 | biết dữ liệu ngoài đại diện được cho Muse tới đâu; nếu gần mức hằng số (60.7) thì dừng | thấp |
| X3 | **Pre-train trên dữ liệu ngoài, fine-tune trên Muse** (từng fold) so với train từ đầu | P1 | cách phổ biến nhất; tận dụng được cả khi miền khác | trung bình |
| X4 | **Train chung** Muse và dữ liệu ngoài, có cờ miền và trọng số loss w<sub>ext</sub> ∈ {0.1, 0.3, 1} | P1 | không cần pre-train riêng; chỉnh được mức ảnh hưởng của dữ liệu ngoài | trung bình |
| X5 | Chỉ dùng **feature chuyển được** (tỉ số, độ dốc 1/f, sigma residual, entropy, SEF) cho phần ngoài; bỏ band power tuyệt đối và biên độ | P1 | EDA: chỉ nhóm này chuyển được giữa PSG và Muse | thấp |
| X6 | **Bộ staging ngoài làm feature:** train model N1/N2/ngủ-thức trên PSG đã ánh xạ, chạy trên Muse để lấy P(N1), P(N2) từng cửa sổ, đưa vào model chính | P1 | model huấn luyện **chỉ trên dữ liệu ngoài**, nên không rò rỉ nhãn Muse và không cần out-of-fold | trung bình |
| X7 | Kiểm tra trước X6: P(N2) của bộ staging ngoài có tăng quanh `n2_onset` của Muse không (AUC theo khoảng cách tới N2) | P1 | rẻ, quyết định có làm X6 hay không | rất thấp |
| X8 | **Pre-train tự học** (relative positioning, temporal shuffling, CPC, PARS) trên mọi dữ liệu không nhãn (PSG đã ánh xạ cộng Muse), rồi fine-tune | P2 | cần nhiều dữ liệu, không cần nhãn; bằng chứng tốt khi ít nhãn | cao |
| X9 | **REVE-base đóng băng** (đã có sẵn trên worker): embedding từng cửa sổ (resample 200 Hz, 4 kênh) làm feature thêm cho GRU | P2 | không phải đóng ZIP; nhưng REVE tụt rõ khi chỉ có 4 kênh | trung bình; **kiểm tra thời gian suy luận** |
| X10 | **LaBraM, CBraMod, SignalJEPA** (đóng băng, rồi LoRA) | P3 | giấy phép BSD-3 hoặc MIT; bằng chứng độc lập nói không hơn mạng nhỏ trên cửa sổ ngắn | cao |
| X11 | **Domain adaptation:** gradient reversal giữa PSG và Muse, hoặc chuẩn hoá feature riêng cho từng miền | P2 | nhắm vào chênh lệch thiết bị | trung bình |
| X12 | Chọn **nguồn ngoài nào** giúp: so từng nguồn (BOAS, Sleep-EDF, PhysioNet, EESM…) trong X3 hoặc X4 | P1 | nguồn gần Muse (trán, đeo) có thể giúp, nguồn lâm sàng có thể làm tệ | trung bình |
| X13 | Dữ liệu ngoài cho **ensemble:** thêm model có pre-train ngoài làm một "view" | P2 | bài học E12: view khác công thức giúp ensemble khoảng 0.3 s | thấp (sau X3) |
| X14 | **BOAS làm miền giữ ngoài:** chấm model Muse trên băng đô khác thiết bị | P3 | kiểm tra độ bền với thiết bị lạ; không dùng để chọn | thấp |

## 4. Chi tiết

### X0. Chuẩn bị dữ liệu

- Với mỗi dataset: tải, ghi nguồn và giấy phép vào bảng khai báo (Rule 04), đọc hypnogram, tìm epoch N2 đầu tiên, và xác định mốc bắt đầu bản ghi.
- **BOAS trước**, vì gần Muse nhất. Sau đó Sleep-EDF (nhỏ), HMC, CAP. PhysioNet 2018 làm sau cùng vì nặng nhất; định dạng WFDB cần kiểm tra cách đọc (`wfdb` hoặc đọc `.mat` trực tiếp).
- Đầu ra: file `.npy` cho từng dataset gồm cửa sổ đã lọc (float16), 217 feature, nhãn, và định danh người, dùng chung khung `run_augment.py` bằng cách thêm "bản ghi ngoài" vào phần train của mỗi fold.
- Kiểm tra bắt buộc: cắt đầu bản ghi không làm lộ nhãn (độ dài file vẫn là nguồn rò rỉ ở Muse; với PSG tự cắt theo phân phối Muse nên cần chắc rằng mô hình không học được "độ dài giả").

### X1-X2. Đo miền và zero-shot

- **X1:** lấy cửa sổ thức cách N2 hơn 5 phút của từng nguồn, tính các feature phổ, huấn luyện một classifier nhỏ phân biệt nguồn ngoài với Muse. AUC càng gần 0.5 thì hai miền càng giống nhau. Thử từng cách ánh xạ kênh (TP9/TP10 ← C3-M2/C4-M1 hay F3-M2/F4-M1; AF7/AF8 ← F4-C4…) và từng cách chuẩn hoá (z-score theo miền, chỉ feature tỉ số).
- **X2:** train từ đầu chỉ trên dữ liệu ngoài, chấm trên toàn bộ Muse. Đây là số "dữ liệu ngoài đại diện cho Muse tới đâu". Mốc tham chiếu: hằng số 35 s cho 60.7 trên test công khai; Muse train từ đầu cho khoảng 41 (CV).

### X3-X5. Dùng dữ liệu ngoài để train

- **X3:** pre-train đến hội tụ trên dữ liệu ngoài (có thể dùng toàn bộ nguồn ngoài), rồi fine-tune từng fold trên Muse với lr nhỏ hơn. Biến thể: đóng băng CNN, hoặc fine-tune toàn bộ.
- **X4:** mỗi batch trộn bản ghi Muse và bản ghi ngoài; loss nhân w<sub>ext</sub> cho bản ghi ngoài. Có thể thêm cờ miền (một feature 0/1).
- **X5:** áp cho X3 hoặc X4 một bộ feature con chỉ gồm các cột chuyển được (tỉ số theta/alpha, sigma/beta, delta/beta, 1/f slope, sigma residual, entropy, SEF, frstd…). Nếu X5 tốt hơn dùng đủ 217 cột thì chênh lệch miền là vấn đề chính.

### X6-X7. Bộ staging ngoài

- **Vì sao hấp dẫn:** nhãn giai đoạn đầy đủ (N1, N2, N3, REM) có ở mọi dataset PSG, nhưng không có ở Muse. Một bộ staging N1/N2 cho P(N1), P(N2) từng cửa sổ, là thông tin trực tiếp về điều ta cần dự đoán.
- **Không rò rỉ:** model chỉ train trên dữ liệu ngoài, nên có thể chạy trên mọi bản ghi Muse mà không cần out-of-fold. Muốn dùng trong solver, phải gói thêm model này vào ZIP và chạy nó causal.
- **X7 (làm trước):** nếu P(N2) của bộ staging ngoài không phân biệt được cửa sổ sát N2 của Muse (AUC gần 0.5), X6 vô nghĩa.

### X8. Tự học trên dữ liệu không nhãn

- Pretext task: "hai cửa sổ cách nhau bao xa" (relative positioning, PARS), "thứ tự có bị xáo không" (temporal shuffling), CPC dự báo cửa sổ kế tiếp.
- Dữ liệu: PSG đã ánh xạ (không cần nhãn, nên dùng được cả phần không có hypnogram) và Muse. Fine-tune từ encoder đã pre-train.
- Paper: [Banville 2019](https://arxiv.org/pdf/1911.05419), [2020](https://arxiv.org/pdf/2007.16104), [PARS](https://arxiv.org/abs/2511.11940), [MAEEG](https://arxiv.org/pdf/2211.02625).

### X9-X10. Foundation model

- **REVE-base:** 69.2M tham số, cần tín hiệu 200 Hz, có sẵn trên worker. Trên test công khai có khoảng 5,600 cửa sổ; cần đo thời gian suy luận thật trước (giới hạn 60 phút), và đóng kèm `positions.json` hoặc kiểm tra bằng debug submission (EDA mục 12).
- **Cách gắn:** `embedding(cửa sổ) → Linear → ghép với 217 feature và CNN → GRU`. Có thể thử `linear_probe`, `attentive_probe`, `lora_r4` như cấu hình của neuralbench.
- **Kỳ vọng thấp:** theo các benchmark độc lập, foundation model hơn khi fine-tune trên epoch 30 s, yếu khi đóng băng, và REVE-base tụt từ 0.824 (64 kênh) xuống 0.728 (4 kênh) trên motor imagery.

### X11-X14

- **X11:** gradient reversal đẩy encoder tạo biểu diễn không phân biệt được miền; có thể kết hợp với X4.
- **X12:** chạy X3 hoặc X4 riêng cho từng nguồn để biết nguồn nào giúp, nguồn nào hại. Cần làm trước khi gộp tất cả.
- **X13:** model có pre-train ngoài là một "view" khác, kiểm tra bằng cách thêm vào pool như `ens_feat_views.py`.
- **X14:** BOAS có băng đô khác Muse, dùng để kiểm tra độ bền, không dùng chọn model.

## 5. Kế hoạch chạy

1. **X0** cho BOAS và Sleep-EDF trước (nhỏ, gần Muse hoặc đã có sẵn nhãn tốt), rồi **X1**.
2. **X7** (rẻ nhất, quyết định X6) và **X2** (zero-shot) trên BOAS và Sleep-EDF. **Cổng quyết định:** nếu zero-shot gần mức hằng số thì xem lại ánh xạ kênh (X1) trước khi làm tiếp.
3. **X3, X4, X5, X12** trên nguồn qua được cổng. Mỗi biến thể 20 lần train (15 CV + 5 test công khai) như các loạt trước, khoảng 2 giờ với 5 tiến trình GPU.
4. Mở rộng sang PhysioNet 2018 và các nguồn lớn khi có bằng chứng ở bước 3.
5. **X6** nếu X7 cho kết quả tốt; **X8, X9, X11, X13** theo thứ tự ưu tiên.
6. Chỉ làm solver mới khi biến thể thắng ở cả CV, test công khai **và** mức ensemble; nhớ khai báo corpus ngoài theo Rule 04.

## 6. Bảng kết quả

| ID | Biến thể | Nguồn ngoài | CV macro | Hiệu so với `base` ± SE | Test công khai seed 42 | Trung bình 5 seed | Kết luận |
|---|---|---|---|---|---|---|---|
| — | `base` | không | | | | | đối chứng |
| X2 | zero-shot (chỉ train ngoài) | BOAS | | | | | |
| X2 | zero-shot | Sleep-EDF | | | | | |
| X2 | zero-shot | PhysioNet 2018 | | | | | |
| X3 | pre-train rồi fine-tune | | | | | | |
| X4 | train chung (w<sub>ext</sub> = 0.1 / 0.3 / 1) | | | | | | |
| X5 | feature chuyển được | | | | | | |
| X6 | bộ staging ngoài làm feature | | | | | | |
| X8 | pre-train tự học | | | | | | |
| X9 | REVE đóng băng | không áp dụng | | | | | |
| X11 | domain adaptation | | | | | | |
