# Committee của mọi model dạng cây + chọn feature: kết quả

Tạo lúc 2026-10-16 11:42. W-bMAE bằng giây, thấp hơn là tốt hơn. Chỉ chạy CPU (8 luồng): scikit-learn không có cây trên GPU. Đầu vào: low-pass 45 Hz (tiền xử lý tốt nhất tới giờ), 217 feature theo cửa sổ + 210 feature ngữ cảnh causal = 427 ứng viên. Chọn feature và mọi model chỉ dùng các bản ghi train của từng lần chia, không bao giờ dùng bản ghi giữ ngoài. Mọi model thành viên được fit trên 85% số người của tập train; 15% còn lại (tập kiểm tra nội bộ) dùng để chọn số feature K, số vòng của HistGradientBoosting và học trọng số ghép. Ba cách ghép: `committee_mean` (trung bình đều), `committee_median` (trung vị các thành viên) và **`committee_stack`** (tổ hợp tuyến tính có trọng số học trên tập kiểm tra nội bộ để tối thiểu hoá sai số tuyệt đối có trọng số của metric). `committee_stack` là kết quả chính vì chỉ nó nhắm vào metric: các cây loss bình phương (rừng, bagging) dự đoán trung bình có điều kiện, xa trung vị mà metric cần. Cách ghép chính được đổi từ trung bình đều sang `committee_stack` sau lần chạy thử với model nhỏ xíu (smoke), vì lần đó cho thấy độ lệch này; cả ba đều được báo cáo đầy đủ.

## 5-fold CV theo người (seed 0)

Kết quả `committee_stack` từng fold (macro = trung bình seen và unseen):

| Fold | Số feature chọn (K) | Seen | Unseen | **Macro** | GRU lp45 | GRU dist_w | XGBoost |
|---|---|---|---|---|---|---|---|
| 0 (seed 0) | 381 | 47.9 | 45.2 | **46.5** | 41.2 | 41.1 | 47.7 |
| 1 (seed 0) | 30 | 47.9 | 48.8 | **48.3** | 44.7 | 42.5 | 46.4 |
| 2 (seed 0) | 30 | 48.7 | 47.9 | **48.3** | 40.4 | 40.3 | 49.2 |
| 3 (seed 0) | 120 | 43.2 | 47.0 | **45.1** | 39.6 | 38.9 | 44.6 |
| 4 (seed 0) | 60 | 43.0 | 45.5 | **44.3** | 41.7 | 41.4 | 45.1 |
| **Trung bình** | 124 | 46.1 | 46.9 | **46.5 ± 1.8** | 41.5 | 40.8 | 46.6 |

Từng model thành viên và hai cách ghép (CV, trung bình qua fold; MAE theo bin gộp mọi cửa sổ giữ ngoài):

| Model | Seen | Unseen | **Macro (mean ± SD fold)** | 0-40 s | 40-90 s | 90-300 s | 300-600 s |
|---|---|---|---|---|---|---|---|
| DecisionTree | 52.3 | 55.0 | 53.7 ± 1.9 | 23.9 | 44.2 | 107.0 | 303.6 |
| ExtraTree | 54.1 | 52.5 | 53.3 ± 5.6 | 24.1 | 43.7 | 103.5 | 316.8 |
| RandomForest | 54.7 | 56.9 | 55.8 ± 3.6 | 39.2 | 51.8 | 70.6 | 253.9 |
| ExtraTrees | 57.5 | 60.6 | 59.0 ± 4.7 | 43.0 | 55.9 | 74.3 | 236.7 |
| GradientBoosting | 45.5 | 47.4 | 46.5 ± 2.0 | 22.0 | 33.1 | 85.3 | 324.7 |
| HistGradientBoosting | 46.5 | 46.9 | 46.7 ± 2.1 | 21.7 | 31.3 | 87.5 | 334.3 |
| AdaBoost | 95.2 | 97.3 | 96.3 ± 4.9 | 90.8 | 98.3 | 87.6 | 201.8 |
| Bagging | 51.2 | 53.9 | 52.6 ± 2.8 | 35.3 | 44.3 | 72.7 | 269.0 |
| committee_mean | 51.5 | 53.2 | 52.3 ± 3.2 | 35.9 | 42.1 | 71.2 | 277.8 |
| committee_median | 49.5 | 51.5 | 50.5 ± 2.9 | 31.7 | 42.1 | 74.1 | 274.8 |
| **committee_stack** | 46.1 | 46.9 | **46.5 ± 1.8** | 18.2 | 33.8 | 92.5 | 340.2 |
| constant | 62.2 | 62.0 | 62.1 ± 1.0 | 17.2 | 27.9 | 156.6 | 482.4 |

So cặp trên từng bản ghi (trung bình qua seed; âm = committee tốt hơn), ± SE:

- committee_stack − GRU lp45 (hồi quy điểm): +5.04 ± 0.54 s (n = 693 bản ghi-nhóm; tốt hơn ở 28% bản ghi)
- committee_stack − GRU dist_w: +6.01 ± 0.53 s (n = 693 bản ghi-nhóm; tốt hơn ở 26% bản ghi)

## Split test công khai (train 500 bản ghi, chấm 40 bản ghi test), seed 42

Seed 42 là seed của ban tổ chức. Sai số chuẩn của một con số khoảng 4 s, và đây chỉ là nhóm 'seen'. Không dùng bảng này để chọn model.

| Model | W-bMAE | 0-40 s | 40-90 s | 90-300 s | 300-600 s |
|---|---|---|---|---|---|
| DecisionTree | 62.0 | 32.2 | 53.1 | 114.6 | 326.9 |
| ExtraTree | 58.0 | 26.9 | 49.6 | 111.4 | 337.2 |
| RandomForest | 64.2 | 46.4 | 58.7 | 81.6 | 267.0 |
| ExtraTrees | 67.7 | 51.0 | 62.2 | 84.7 | 248.1 |
| GradientBoosting | 52.4 | 26.1 | 42.6 | 92.7 | 336.1 |
| HistGradientBoosting | 52.7 | 28.6 | 42.0 | 89.7 | 316.9 |
| AdaBoost | 112.4 | 109.4 | 109.5 | 98.8 | 207.4 |
| Bagging | 63.9 | 46.3 | 54.0 | 83.1 | 285.8 |
| committee_mean | 61.3 | 44.0 | 50.2 | 81.9 | 289.6 |
| committee_median | 60.4 | 40.5 | 52.0 | 85.5 | 287.1 |
| **committee_stack** | **52.0** | 25.6 | 41.2 | 91.7 | 339.3 |
| constant | 60.7 | 17.1 | 27.8 | 156.1 | 484.5 |

Mốc cùng seed 42 trên cùng 40 bản ghi: GRU `none` 48.0, GRU `lp45` 48.8, GRU `dist_w` 48.0; hằng số 35 s: 60.7; EEGNet của ban tổ chức: 60.6.

## Chọn feature

| Lần chia | Số feature giữ sau lọc tương quan | K chọn bởi kiểm tra nội bộ | W-bMAE kiểm tra nội bộ theo K | Số cây HGB |
|---|---|---|---|---|
| cv_f0_s0 | 381 | 381 | {30: 47.7, 60: 46.82, 120: 47.59, 381: 46.07} | 115 |
| cv_f1_s0 | 387 | 30 | {30: 45.66, 60: 46.03, 120: 48.27, 387: 46.91} | 80 |
| cv_f2_s0 | 384 | 30 | {30: 49.26, 60: 50.22, 120: 50.15, 384: 51.83} | 40 |
| cv_f3_s0 | 387 | 120 | {30: 47.46, 60: 48.83, 120: 47.21, 387: 47.67} | 55 |
| cv_f4_s0 | 388 | 60 | {30: 50.26, 60: 50.16, 120: 51.04, 388: 52.49} | 85 |
| public_f0_s42 | 390 | 60 | {30: 46.55, 60: 46.36, 120: 46.66, 390: 47.49} | 235 |

Tỉ lệ feature ngữ cảnh (EMA, running mean) trong các tập đã chọn: 73%.

Feature được chọn ở nhiều lần chia nhất (số lần / tổng số lần chia): ema120_rel_sigma_TP (6/6), ema30_rel_sigma_TP (6/6), ema30_log_delta_TP (6/6), ema30_log_gamma_TP (6/6), ema30_sigma_resid_TP (6/6), ema120_log_delta_TP (6/6), ema30_theta_alpha_TP (6/6), ema30_n_bad (6/6), ema30_minus_rm_sigma_beta_TP (6/6), ema30_rel_delta_TP (6/6), ema120_log_gamma_TP (6/6), ema30_rel_theta_TP (6/6), ema120_sigma_resid_TP (6/6), ema30_minus_rm_theta_alpha_TP (6/6), ema30_minus_rm_aper_slope_TP (6/6), ema30_minus_rm_rel_delta_TP (6/6), ema30_minus_ema300_rel_delta_TP (6/6), ema30_log_beta_TP (6/6), ema30_rel_alpha_TP (6/6), ema30_delta_beta_TP (6/6), ema120_rel_delta_TP (6/6), rel_delta_TP10 (6/6), ema30_minus_ema300_theta_alpha_TP (5/6), ema120_rel_alpha_TP (5/6), spec41_TP (5/6)
