Ë
    ˜(èj‘@  ã                   óN  — d Z ddlZddlZddlZddlZddlZddlZddlZddl	m
Z
mZmZmZmZmZmZ ddlmZmZmZ ddlmZmZmZ ddlmZ ddlmZmZ ddlmZ  eed	   ez  «       eed
   ez  «       eed   ez  «      cZ Z!Z"e e"z
  e!z
  e ez
  cZ#Z$ e%ee
d      «      D � �cg c]  \  } }|dv sŒ| ‘Œ c}} Z&ddl'm(Z(m)Z) e(Z*d„ Z+ ejX                  «       d�d„«       Z-džd„Z.d„ Z/e0dk(  �r ejb                  «       Z2e2jg                  dd¬«       e2jg                  d e4e)«      dd¬«       e2jg                  ded¬«       e2jg                  ddd ¬!«       e2jg                  d"e5d#d$¬%«       e2jg                  d&e5dd'¬%«       e2jg                  d(edd)¬%«       e2jg                  d*ed¬«       e2jg                  d+dd,¬!«       e2jg                  d-d.d/¬0«       e2jg                  d1d2g d3¬4«       e2jg                  d5d2g d6¬4«       e2jg                  d7dd8d9gd:¬;«       e2jg                  d<e5d=¬«       e2jg                  d>d?d@¬!«       e2jg                  dAdBdC¬!«       e2jg                  dDd.dE¬0«       e2jm                  «       Z7e7jp                  re2js                  dF«       e7jt                  � e7jt                  dGk7  re2js                  dH«       dIe7_;        e7jt                  r# ee7jt                  ez  «      Z e e"z
  e!z
  e ez
  cZ#Z$e7jx                  j{                  dJ«      edK<   i e
dL   ¥e
dM   e7j|                     ¥edN<    ej~                  e7j€                  e7j‚                  «       e7jp                  r( ej„                  e7jp                  e7j†                  ¬O«       e7jˆ                  �e7jˆ                  edP<   e7jŠ                  re7jŠ                  edQ<    ejŒ                  dR«       e7jŽ                  �rÔ ej�                  dPd«      ZIeIedP<    eej”                  j—                  edSdTe7j˜                  › dUeI› dV�«      «      ZM edWgd?eM«      ZNeND ]  ZO eeO«      eOdX<   Œ  e4eND �ch c]  }|dY   j{                  dZ«      d   ’Œ c}«      ZP e@ej¢                  j¥                  d[«      j§                  ePdRd\¬]«      «      ZT eMd^eI› d_ eUeP«      dRz
  › d` e4eT«      › �«        e.eND �cg c]  }|dY   j{                  dZ«      d   eTvsŒ|‘Œ  c}eND �cg c]  }|dY   j{                  dZ«      d   eTv sŒ|‘Œ  c}eMe7«      \  ZVZW ej°                  ej”                  j—                  eda«      db¬c«       ej”                  j—                  edadTe7j˜                  › dUeI› dd�«      ZY ej´                  eVj·                  «       eY«        eMdeeY› dfeWdg›dh�«       e\‚die7jº                  › e7j˜                  › �Z^ eej”                  j—                  edSe^› dV�«      «      ZM eMdje^› dke7j¾                  › dl�«       eD ]<  Z`ej”                  jÃ                   ee^e`«      «      r eMdme`› dn�«       Œ2 e/e`e^eMe7«       Œ>  ebdŸi doe^“dpdq“dre7j¾                  “dse7jº                  “dKedK   “dte7jÆ                  “due7jÈ                  “dve7jÊ                  “dwe7jÌ                  “dxe7jv                  “d	e ez  “dP ej�                  dPe
dy   «      “dzd{“dNedN   “d|d}e
d|   d~   › d�“d€ ee^d€e"e!z   ez  «      “ŽZYeD �ci c]  }|eYd€   d�   |   d‚   “Œ c}eYd‚<   eYd€   dƒ   Zg eMd„egd…   d†›d‡egdˆ   d†›d‰egdŠ   d‹›dŒegd�   d‹›dŽegd�   d‹›dh�«       d�D ]Y  Zh eMd‘ehd’›d“�d”j—                  d•„ eD «       «      z   d– ejÒ                  eD �cg c]  }eYd‚   |   eh   d—   ‘Œ c}«      d‹›�z   «       Œ[  ejej”                  j—                  ed˜e^› d™�«      dš«      5 Zk ejØ                  eYekde5¬›«       ddd«        eMdœe^› dl�«       yyc c}} w c c}w c c}w c c}w c c}w c c}w # 1 sw Y   Œ6xY w) a  huyle STQD-v1 classifier.

Separate EEG/speech encoders, candidate-conditioned attention, antisymmetric output.
The source-compatible LODO sampler, pretraining, augmentation, evidence and
scoring interface are retained from decoder_lodo/direct_classifier.py.
é    N)ÚCFGÚEXPÚFSÚ	fold_fileÚ
load_trialÚrows_ofÚsave_pickle)ÚDS_KEYSÚMONTAGESÚSEED)ÚDÚDEVÚ_targets)Údraw_switch_times)Úload_externalÚlog_to)Úscore_experimentÚwindow_sÚinfer_hop_sÚcausal_future_sÚmontage)ÚFP1ÚFPZÚFP2ÚAF3ÚAF4ÚF7ÚF8)ÚSTQDNetÚVARIANTSc                 ó’  — t        j                  | D �cg c]  }t        |d   «      t        z
  ‘Œ c}«      }t        j                  |d«      j                  t        «      }|j                  t        | «      |||j                  «       z  ¬«      }	|	t        _
        t        j                  |t        dft         j                  «      }
t        j                  |t        f| d   d   j                  dd  z   t         j                  «      }t        j                  |t         j                  «      }|�t        j                  d«      xs i ni }t!        |j                  dd«      «      |j                  d	d
«      |j                  dd
«      }}}t#        |	«      D �]Ø  \  }}|j%                  d||   dz   «      }| |   }|r:t!        t        j&                  ||j%                  | |dz   «      z   d||   «      «      n|}|d   ||t        z    |d   ||t        z    c|
|<   ||<   t!        |d   |t(        z      «      }|j+                  «       |k  rÝt!        |j%                  t,        dz  t        t,        dz  z
  «      «      }|||d …d d d…f   |||d …f<   |t(        k  rd|z
  n|}|r‡|j+                  «       |k  rtt        t,        dz  z
  |z
  dt,        z  kD  rWt!        |j%                  |dt,        z  z   t        t,        dz  z
  «      «      }|||d …d d d…f   |||d …f<   |t(        k  rd|z
  n|}|r<|j+                  «       |k  r)d
||d d …d d …|j%                  |j                  d   «      f<   |dk(  rdnd
||<   �ŒÛ |�|j/                  |
|«      }
|rd
|
d d  t1        j2                  |
«      t1        j2                  |«      t1        j2                  |«      fS c c}w )NÚeegr   )Úpé:   Ú_Sé   ÚaugmentÚclf_lag_jitterÚclf_p_feat_dropç        Úclf_p_switch2Úatté   éÿÿÿÿg      ð?)ÚnpÚarrayÚlenÚWÚmaximumÚastypeÚfloatÚchoiceÚsumÚwindowsÚlast_tiÚemptyÚfloat32Úshaper   ÚgetÚintÚ	enumerateÚintegersÚclipÚLABÚrandomr   Ú_augmentÚtorchÚ
from_numpy)ÚtrialsÚnÚrngÚaugÚp_swÚzero_eegÚtÚlensr#   ÚtiÚXÚSÚyÚAÚlagÚp_fdÚp_sw2ÚjÚiÚsÚtrÚs2ÚcolÚtauÚtau2s                            ú_/root/disk_3tb/EEG-sAAD-Grand-Challenge-Training-Dataset/experiments/huyle/direct_classifier.pyr8   r8   #   sN  € Ü�8‰8±Ó7±¨1”S˜˜5™“]¤QÓ&°Ñ7Ó8€DÜ
�
‰
�4˜Ó×"Ñ"¤5Ó)€AØ	�‰”C˜“K  a¨!¯%©%«'¡kˆÓ	2€BØ„G„OÜ
�‰�!”Q˜�œRŸZ™ZÓ(€AÜ
�‰�!”Q�˜& ™) D™/×/Ñ/°°Ð3Ñ3´R·Z±ZÓ@€AÜ
�‰�”B—J‘JÓ€AØ$' OŒ�‰ˆyÓ	Ò	™R¸€AÜ˜1Ÿ5™5Ð!1°1Ó5Ó6¸¿¹Ð>OÐQTÓ8UÐWX×W\ÑW\Ð]lÐnqÓWrˆuˆ€CÜ˜"—‰ˆˆ1Ø�L‰L˜˜D ™G a™KÓ(ˆØ�A‰YˆÙJMŒS”—‘˜˜SŸ\™\¨3¨$°°a±Ó8Ñ8¸!¸TÀ!¹WÓEÔFÐSTˆØ˜‘Y˜q ¤Q¡Ð'¨¨D©°"°R¼!±VÐ)<ˆ
ˆˆ!‰ˆa�‰dÜ�"�U‘)˜A¤™GÑ$Ó%ˆØ�:‰:‹<˜$ÒÜ�c—l‘l¤2¨¡7¬A´°a±©KÓ8Ó9ˆCØ˜1˜c™d¡D b D˜=Ñ)ˆAˆa�‘ˆg‰JØ ¤CšZ�!�c’'¨SˆCÙ˜Ÿ™›¨Ò-´!´b¸A±g±+ÀÑ2CÀaÌ"ÁfÒ2LÜ˜3Ÿ<™<¨¨a´"©f©´a¼"À¹'±kÓBÓC�Ø  4¡5©$¨B¨$ Ñ/��!�T‘U�(‘Ø!%¬¢�a˜#’g°#�Ù�C—J‘J“L 4Ò'Ø47ˆAˆa’’A�s—|‘| A§G¡G¨B¡KÓ0Ð0Ñ1Ø˜Q’h‰s Cˆˆ!‹ð! ð" €Ø�L‰L˜˜CÓ ˆÙØˆ‰!ˆÜ×Ñ˜AÓ¤× 0Ñ 0°Ó 3´U×5EÑ5EÀaÓ5HÐHÐHùò= 8s   ”Or&   c                 óî  — t        |«      }t        j                  t        j                  t        dft        j
                  «      |j                  t        j
                  «      t        j                  t        t        z   dft        j
                  «      g«      }t        j                  t        j                  t        f|j                  dd z   t        j
                  «      |t        j                  t        t        z   f|j                  dd z   t        j
                  «      g«      }t        j                  d|t        |z  «      }t        j                  t        |«      t        j
                  «      }t        dt        |«      d«      D ]à  }	||	|	dz    }
 | t        j                  t        j                  |
D �cg c]  }|||t         z    ‘Œ c}«      «      j#                  t$        «      t        j                  t        j                  |
D �cg c]  }|||t         z    ‘Œ c}«      «      j#                  t$        «      «      j'                  «       j)                  «       ||	|	t        |
«      z    Œâ ||fS c c}w c c}w )zeCausal decisions: hop start a -> window x[a - POS0 : a + HOP + FUT] (zero padded), every `step` hops.r$   r&   Nr   é€   )r1   r/   ÚconcatenateÚzerosÚPOS0r;   r4   ÚFUTÚHOPr<   Úaranger:   ÚrangerE   rF   Ústackr2   Útor   ÚcpuÚnumpy)ÚnetÚxrQ   ÚstepÚTÚxpÚSpÚstartsÚoutrX   ÚaÚks               r_   Úlogitsrw   E   sà  € ô 	ˆA‹€AÜ	�‰œŸ™¤4¨ *¬b¯j©jÓ9¸1¿8¹8ÄBÇJÁJÓ;OÔQS×QYÑQYÔ[^ÔadÑ[dÐfhÐZiÔkm×kuÑkuÓQvÐwÓ	x€BÜ	�‰œŸ™¤4 '¨A¯G©G°A°B¨KÑ"7¼¿¹ÓDÀaÌÏÉÔSVÔY\ÑS\ÐR^Ðab×ahÑahÐijÐikÐalÑRlÔnp×nxÑnxÓIyÐzÓ	{€BÜ�Y‰Y�q˜!œS 4™ZÓ(€FÜ
�(‰(”3�v“;¤§
¡
Ó
+€CÜ�1”c˜&“k 3Ö'ˆØ�1�Q˜‘WÐˆÙ¤× 0Ñ 0´·±ÑPQÓ:RÑPQÈ1¸2¸aÀÄAÁº;ÐPQÑ:RÓ1SÓ T× WÑ WÔX[Ó \Ü %× 0Ñ 0´·±ÑPQÓ:RÑPQÈ1¸2¸aÀÄAÁº;ÐPQÑ:RÓ1SÓ T× WÑ WÔX[Ó \ó^ß^aÑ^aÓ^c×diÑdiÓdkð 	ˆAˆa”#�a“&‰jÑð (ð �ˆ;Ðùò ;SùÚ:Rs   Æ5I-ÈI2c                 ó¦  — | d   d   j                   d   }t        j                  dt        d   «      }t	        j
                  |«       t        |j                  dt        t        ¬«      j                  t        «      }|r5|j                  t	        j                  |t        ¬«      «        |d	|› �«       t        j                  j!                  t        j                  «      }t        t"        t$        df\  |_        |_        |_        |_        t,        j.                  j1                  |«      }	t3        |t        d
   |	d|j4                  |j6                  «      \  }
}}ddt9        |j;                  «       «      }}}t        j                  d«      r¥t        j<                  | t        d   «      \  }}t        j>                  |j@                  jB                  |«      j                  t        «      }|t9        |j;                  «       «      z  } |dt        d   › d|› dt        j                  dd«      › �«       t        jD                  jG                  |t        d   t        d   ¬«      }t        jD                  jH                  jK                  |ddt        d   ¬«      }t        jL                  jN                  jP                  }t,        jR                  dd}}}tU        t        d   «      D �]/  }tW        jV                  «       g g }}}|jY                  «        tU        t        d   «      D �]ê  }t3        | t        d   |	||j4                  |j6                  «      D �cg c]  }|j                  t        «      ‘Œ c}\  }}} |€1 | |||«      | «      }!|j[                  |!j]                  «       «       �n
 |||d¬«      \  }"}# ||"| «      }!|j[                  |!j]                  «       «        ||#t        j^                  |«      «      }$t	        j`                  t2        jb                     «      j                  t        «      }%|!t        jL                  jN                  je                  |$|%«      z   }!|j[                  |$jg                  d«      |%k(  ji                  «       jk                  «       j]                  «       «       |dz  }|jm                  «        |!jo                  «        t        jL                  jp                  js                  |d«       |ju                  «        �Œí |jw                  «        t	        jx                  «       5  t	        jz                  tU        dt}        |
«      d «      D �&cg c]K  }& ||
|&|&d z    j                  t        «      ||&|&d z    j                  t        «      «      j                  «       ‘ŒM c}&«      }'ddd«        |'|«      j]                  «       |'dkD  ji                  «       |k(  ji                  «       jk                  «       j]                  «       })}(||j€                  k\  r|ju                  |(«        |d!|d"›d#t-        jj                  |«      d$›d%|(d$›d&|)d'›d(tW        jV                  «       |z
  d)›d*�|rd+t-        jj                  |«      d'›�nd,z   «       |(|d-z
  k  rS|(d|jƒ                  «       j…                  «       D �*�+ci c]$  \  }*}+|*|+j‡                  «       j‰                  «       “Œ& }}*}+}}�Œ||j€                  k\  s�Œ|dz  }|t        d.   k\  s�Œ0 n |j                  |«       |jw                  «        ||fS c c}w c c}&w # 1 sw Y   �Œ•xY wc c}+}*w )/zlTrain a DirectNet (binary cross-entropy, early stopping on the validation windows). Returns (net, best val).r   r%   r.   Ú
train_seedÚseedr$   )ÚvariantÚchannelsÚwindowÚtarget_index)Úmap_locationz  initialised from Úval_windowsNÚadvz  adversarial z loss: z classes, lambda Ú
adv_lambdaçš™™™™™©?ÚlrÚweight_decay)r„   r…   Úminç      à?Úlr_patience)ÚmodeÚfactorÚpatienceÚ
max_epochsÚsteps_per_epochÚ
batch_sizeT)Úfeatr&   g      @é@   z
    epoch Ú02dz train ú.4fz	 val BCE z acc ú.3fz (ú.0fzs)z | adversary acc Ú g-Cëâ6?r‹   )Er<   r   r=   r   rE   Úmanual_seedÚ	DirectNetr{   r2   rB   rj   r   Úload_state_dictÚloadÚdecodersÚDNNDecÚ__new__re   rf   ÚfutÚhopÚCr/   rC   Údefault_rngr8   Úp_switchrL   ÚlistÚ
parametersÚ
domain_idsÚAdvHeadÚheadÚin_featuresÚoptimÚAdamWÚlr_schedulerÚReduceLROnPlateauÚnnÚ
functionalÚ binary_cross_entropy_with_logitsÚinfrh   ÚtimeÚtrainÚappendÚitemr‚   rF   r9   Úcross_entropyÚargmaxr5   ÚmeanÚ	zero_gradÚbackwardÚutilsÚclip_grad_norm_ro   ÚevalÚno_gradÚcatr1   rk   Ú
min_epochsÚ
state_dictÚitemsÚdetachÚclone),r±   ÚvalÚlogru   Ú	init_fromÚFsrz   rm   rJ   ÚrsÚXvÚSvÚyvr�   ro   ÚparamsÚdomÚn_domÚoptÚschÚbceÚbestÚbadÚstateÚepÚt1ÚtlÚdaÚ_ÚzrP   rQ   rR   ÚlossÚlgÚfÚdlÚdtrX   ÚlvÚvlÚvarv   Úvs,                                               r_   Úfitrã   T   sÇ  € à	ˆq‰�$‰×	Ñ	˜bÑ	!€BÜ�5‰5�œs 6™{Ó+€DÜ	×Ñ�dÔÜ
˜AŸI™I°¼1Ì3Ô
O×
RÑ
RÔSVÓ
W€CÙØ×ÑœEŸJ™J y¼sÔCÔDÙÐ! ) Ð-Ô.Ü
�/‰/×
!Ñ
!¤(§/¡/Ó
2€CÜ%&¬¬S°" _Ñ"€C„Eˆ3Œ7�C”G˜SœUÜ	�‰×	Ñ	˜tÓ	$€BÜ˜œa Ñ.°°D¸!¿*¹*ÀaÇjÁjÓQ�J€BˆˆBØ˜a¤ c§n¡nÓ&6Ó!7ˆvˆ€CÜ‡u�uˆU„|Ü×(Ñ(¨´°%±Ó9‰
ˆˆUÜ×Ñ˜sŸx™x×3Ñ3°UÓ;×>Ñ>¼sÓCˆØ”$�s—~‘~Ó'Ó(Ñ(ˆÙˆnœQ˜u™X˜J g¨e¨WÐ4EÄaÇeÁeÈLÐZ^ÓF_ÐE`ÐaÔbÜ
�+‰+×
Ñ
˜F¤q¨¡w¼Q¸~Ñ=NÐ
Ó
O€CÜ
�+‰+×
"Ñ
"×
4Ñ
4°S¸uÈSÔ[\Ð]jÑ[kÐ
4Ó
l€CÜ
�(‰(×
Ñ
×
>Ñ
>€CÜ—v‘v˜q $ˆuˆ#€DÜ”A�l‘O×$ˆÜ—Y‘Y“[ " b�ˆBˆØ�	‰	ŒÜ”qÐ*Ñ+×,ˆAÜ*1°%¼¸<¹È"ÈcÐST×S]ÑS]Ð_`×_iÑ_iÔ*jÓkÑ*j Q�q—t‘tœC•yÐ*jÑk‰GˆAˆq�!Øˆ{Ù™3˜q !›9 aÓ(�Ø—	‘	˜$Ÿ)™)›+Ö&á˜A˜q tÔ,‘��AÙ˜2˜q“z�Ø—	‘	˜$Ÿ)™)›+Ô&Ù˜œH×/Ñ/°Ó5Ó6�Ü×%Ñ% c¬'¯/©/Ñ&:Ó;×>Ñ>¼sÓC�ØœeŸh™h×1Ñ1×?Ñ?ÀÀBÓGÑG�Ø—	‘	˜2Ÿ9™9 Q›<¨2Ñ-×4Ñ4Ó6×;Ñ;Ó=×BÑBÓDÔEØ˜‘	�Ø�M‰MŒOØ�M‰MŒOÜ�H‰H�N‰N×*Ñ*¨6°3Ô7Ø�H‰HŽJð# -ð$ 	�‰Œ
Ü�]‰]�_Ü—‘Ô[`ÐabÔdgÐhjÓdkÐmoÔ[pÓqÑ[pÐVW™C  1 Q¨¡V §¡´Ó 4°b¸¸1¸r¹6°l·o±oÄcÓ6JÓK×OÑOÕQÐ[pÑqÓrˆB÷ á�R˜“×!Ñ!Ó# r¨A¡v§n¡nÓ&6¸"Ñ&<×%CÑ%CÓ%E×%JÑ%JÓ%L×%QÑ%QÓ%SˆBˆØ�—‘ÒØ�H‰H�RŒLÙˆj˜˜C˜ ¬¯©°«°CÐ'8¸	À"ÀSÀÈÈrÐRUÈhÐVXÔY]×YbÑYbÓYdÐgiÑYiÐjmÐXnÐnpÐqÙ8:Ð"¤2§7¡7¨2£;¨sÐ"3Ñ4ÀñDô 	Eà��t‘ÒØ! 1ÈÏÉÓIY×I_ÑI_ÔIaÔ&bÑIaÁÀÀA q¨!¯(©(«*×*:Ñ*:Ó*<Ñ'<ÐIa�uÑ&b�#ŠDØ�1—<‘<ÔØ�1‰HˆCØ”a˜
‘mÔ#ÙðE %ðF ×Ñ˜ÔØ‡H�H„JØ�ˆ9ÐùòC lùò& r÷ ‰_üó 'cs+   Í\6Ô.(] ÕA\;Ö&] Ú:)]Ü;] Ý ]
	c                 óÄ  — t         j                  j                  t        d   t	        j
                  | «      z   «      }g g }}t        D ]�  }|| k(  rŒ	t        |«      }|j                  t        |j                  j                  «       «      «      }	|j                  «       D ]7  \  }
}|d   |	k(  r|n|j                  t        |j                  |d   «      «       Œ9 Œ‘ |t        dg|j                  |«      z  }||z   D ]  }t!        |«      |d<   Œ  |d| › dt#        |«      › dt#        |«      › d	|d
   d   j$                  d   › d|j&                  › �
«       t)        j(                  «       }t+        |||||j,                  «      \  }}t)        j(                  «       |z
  }~~t         j                  j                  t.        t	        j
                  | «      z   «      }i dD �ci c]  }|i “Œ }}}t        | «      j                  «       D �]�  \  }
}t        |j                  |d   «      }t!        |«      |d   |d   j1                  t2        «      t3        |d   «      f\  }}}}t5        ||dz  «      }|j7                  d
d«       t        j8                  |t:        «      dd
}}}|D ]0  }t=        |dz
  t3        t?        |dz  «      «      «      }|||| | |}}Œ2 |||d  |t        j@                  |dz
  t        j>                  t        jB                  t#        |«      «      tD        z  |d   z   dz  «      j1                  t2        «      «         }t        jF                  |d d …d d f   |d d …d d d…f   |«      } |jH                  rt        jJ                  |«      n|}!tM        ||!| «      \  }"}#||z  t        jN                  |#tP        z
  d
«         }$t#        |"«      dz  }%tS        |"dz  |" dz  |$j1                  t         jT                  «      |#tD        z  |d   z   j1                  t         jV                  «      |"d |%dz   jY                  |%d«      j[                  d«      dz  |"d |%dz   jY                  |%d«      j[                  d«       dz  |$d |%dz   jY                  |%d«      j[                  d«      dkD  j1                  t         jT                  «      d¬«      ||d   <   |j]                  «       }&d|&d d …t^        f<   d|!fdt        jJ                  |«      fdt        j`                  |!t#        |«      dz  d
«      fd|&ffD ]e  \  }'}(tM        ||(|d¬ «      \  })}*||'   jc                  |d!   g «      j                  |)d
kD  |t        jN                  |*tP        z
  d
«         d
k(  k(  «       Œg �Œ“ |je                  «       D ��+�,ci c]Ï  \  }}+|tS        tg        t        jZ                  t        jh                  |+jk                  «       D �,cg c]  },t        jh                  |,«      ‘Œ c},«      «      «      tg        t        jl                  |+jk                  «       D �,cg c]*  },t        jZ                  t        jh                  |,«      «      ‘Œ, c},«      «      ¬"«      “ŒÑ }-}+}},tS        d#|j&                  |j                  | |t)        j(                  «       |z
  tn        tP        z   tD        z  |d$|-¬%«
      }.tq        tS        d&|i|.¬'«      ts        || «      «        |d| › d(|.d)   d*›d+�d,ju                  d-„ |-je                  «       D «       «      z   «       ~tv        jx                  j{                  «        y c c}w c c},w c c},w c c},}+}w ).Nrz   ÚsubjectÚkeyÚFuglsang2020r%   ú  fold held-out=ú: z	 train / z val trials, r   r.   z$ stimulus features per stream, STQD ©ÚnormalrL   Ú	shift_eegÚ
no_frontalr"   r,   rH   ra   r-   Fr&   Út0é(   r‡   T)Úr0Úr1r,   Út_endÚr0_10Úr1_10Úatt10Úpre_switchedr*   rë   rL   rì   rí   é   )ro   Úsubj_uid)ÚpooledÚsubject_medianÚ
direct_clfr$   )
Údecoderr{   ÚprepÚheld_outÚfit_sÚtotal_sÚlookahead_sÚbest_valr|   ÚcontrolsÚcausal)ÚevidenceÚinfoz	 done in r   r”   z-s: controls (5-s decisions, pooled accuracy) ú  c              3   ó8   K  — | ]  \  }}|› d |d   d›�–— Œ y­w)Ú rù   r“   N© )Ú.0rv   râ   s      r_   Ú	<genexpr>zrun_fold.<locals>.<genexpr>Ç   s)   è ø€ ÐJÑ9I±°°A�q�c˜˜1˜X™; sÐ+Ô,Ñ9Iùs   ‚)>r/   rC   r    r   r
   Úindexr   r6   Úsortedrå   ÚuniqueÚiterrowsr²   r   rý   r   r   r1   r<   r{   r°   rã   rÅ   r   r4   r>   r   r@   rc   Úboolr†   ÚroundÚminimumrg   r   ÚwhererL   Ú
zeros_likerw   r3   rf   ÚdictÚint8r;   Úreshaper¶   ÚcopyÚFRONTALÚrollÚ
setdefaultrÀ   r5   rb   ÚvaluesÚmedianre   r	   r   ÚjoinrE   ÚcudaÚempty_cache)/ÚheldÚexprÄ   ru   rI   r±   rÃ   ÚdsÚrowsÚvsrØ   ÚrrZ   rî   rm   rÑ   Út_fitÚsrngrv   ÚevÚctlrQ   rn   r,   ÚT128ÚtimesÚst128ÚcurÚprevÚttÚs0ÚstÚSswÚxerÛ   rs   ÚtruthÚn10ÚxfÚnameÚxcÚl1Ús1Údrâ   r  r  s/                                                  r_   Úrun_foldr>  “   sÿ  € Ü
�)‰)×
Ñ
¤ F¡¬g¯m©m¸DÓ.AÑ AÓ
B€CØ�Rˆ3€EßˆØ�Š:ØÜ�r‹{ˆØ�Z‰Zœ˜tŸ|™|×2Ñ2Ó4Ó5Ó6ˆØ—M‘M–O‰DˆAˆqØ�i‘L BÒ&‰S¨E×9Ñ9¼*ÀQÇVÁVÈQÈuÉXÓ:VÕWñ $ð ð 
Œ]˜NÐ+¨Q¯V©V°SÓ9Ñ9€EØ�cŒkˆÜ˜B“<ˆˆ4Šð áÐ
˜4˜& ¤3 u£: ,¨i¼¸C»°zÀÈuÐUVÉxÐX\É~×OcÑOcÐdfÑOgÐNhð  iMð  NO÷  NWñ  NWð  MXð  	Yô  ZÜ	�‰‹€BÜ�E˜3  Q¨¯©Ó4�I€CˆÜ�I‰I‹K˜"Ñ€EØˆsä�9‰9× Ñ ¤¬¯©°dÓ(;Ñ!;Ó<€DØÑ"SÓTÑ"S˜Q�1�b‘5Ð"SˆÐT€BÜ˜“×&Ñ&×(‰ˆˆ1Ü˜Ÿ™  %¡Ó)ˆÜ" 2›,¨¨5©	°2°e±9×3CÑ3CÄCÓ3HÌ#ÈaÐPSÉfË+ÐU‰ˆˆ1ˆc�4Ü! $¨¨s©
Ó3ˆØ�‰�a˜ÔÜŸ8™8 D¬$Ó/°¸�DˆsˆÛˆBÜ�T˜A‘Xœs¤5¨¨c©£?Ó3Ó4ˆBØ ˆE�$�rˆNØ˜ �‰Cð ð ˆˆdˆeˆØ”2—:‘:˜d Q™h¬¯©´"·)±)¼CÀ»FÓ2CÄbÑ2HÈ2ÈdÉ8Ñ2SÐWZÑ1ZÓ([×(bÑ(bÔcfÓ(gÓhÑiˆÜ�h‰h�rš!˜T 4˜-Ñ(¨!ªA©t°¨t¨G©*°aÓ8ˆØ!"§¢ŒR�]‰]˜1Ô°ˆÜ˜C  SÓ)‰
ˆˆFØ�r‘œ2Ÿ:™: f¬s¡l°AÓ6Ñ7ˆÜ�"‹g˜‰mˆÜ˜r A™v¨2¨#°©'°u·|±|ÄBÇGÁGÓ7LÐU[Ô^`ÑU`ÐceÐfjÑckÑUk×TsÑTsÔtv×t~Ñt~ÓTØ"$ Y c¨B¡h -×"7Ñ"7¸¸RÓ"@×"EÑ"EÀaÓ"HÈ1Ñ"LÐUWÐXaÐY\Ð_aÑYaÐUb×UjÑUjÐknÐprÓUs×UxÑUxÐyzÓU{ÐT{Ð~ÑTØ#(¨¨#°©(Ð#3×#;Ñ#;¸CÀÓ#D×#IÑ#IÈ!Ó#LÈsÑ#R×"ZÑ"ZÔ[]×[bÑ[bÓ"cÐrvôxˆˆ1ˆU‰8‰ð �V‰V‹XˆØˆŠ1Œgˆ:‰Ø" B˜¨*´b·m±mÀAÓ6FÐ)GÈ+ÔWY×W^ÑW^Ð_aÔcfÐghÓciÐmnÑcnÐpqÓWrÐIsð  wCð  EGð  vHó  I‰HˆD�"Ü˜C  Q¨QÔ/‰FˆB�Ø�‰I× Ñ   :¡°Ó3×:Ñ:¸BÀ¹FÈÌBÏJÉJÐWYÔ\_ÑW_ÐabÓLcÑHdÐhiÑHiÑ;jÕkò Ið- )ð4 x{÷  xAñ  xAô  xCõDñ xCÑosÐopÐrsð ”4œu¤R§W¡W¬R¯^©^ÐXY×X`ÑX`ÔXbÓ<cÑXbÐST¼R¿^¹^ÈAÕ=NÐXbÑ<cÓ-dÓ%eÓfÜ',¬R¯Y©YÐ\]×\dÑ\dÔ\fÓ7gÑ\fÐWX¼¿¹ÄÇÁÈqÓ@QÕ8RÐ\fÑ7gÓ-hÓ'iôkñ kð xCð ò Dä˜¨a¯i©i¸a¿f¹fÈtÐ[`Ôjn×jsÑjsÓjuÐxzÑjzô  JMô  PSñ  JSô  WYñ  IYØ¨°Xô?€Dä”˜x¨˜n°4Ô8¼)ÀCÈÓ:NÔOÙÐ
˜4˜& 	¨$¨y©/¸#Ð)>Ð>kÐlØ
�)‰)ÑJ¸¿¹Ô9IÓJÓ
Jñ	Kô LàÜ	‡J�J×ÑÕùòE Uùò4 =dùÚ7gùôDs+   Ç
]Ö'A]×*] Ø4]Ø:/]Ù)]Ý
]Ú__main__z--tagr•   )Údefaultz	--variantÚ	stqd_fullzSTQD v1 architectural ablation)Úchoicesr@  Úhelpz--train-seed)Útyper@  z	--targetszenv,onset,domz'stimulus features given for each stream)r@  rC  z
--p-switchg333333Ó?z8share of training windows with a synthetic switch inside)rD  r@  rC  z
--window-szŽclassifier window in s (default config dnn.window_s = 5); the read-out timing (0.75 s lookahead, label 1 s before the window end) is unchangedz--min-epochsz=epochs without LR decay / early stopping (training stability)z--max-epochsz--init-fromz-DirectNet state_dict to start every fold fromz--pretrain-spkÚ
store_truezòpretrain on SparrKULee (single talker): stream A = the presented speech, stream B = its mismatched (half-run shifted) envelope, i.e. match-mismatch; saves models/pretrain_spk_direct_clf_s<seed>.pt. Needs GLIMPSE_THR=onorm (dom for SparrKULee))ÚactionrC  z--setÚ*z6hyper-parameter overrides of config dnn: key=value ...)Únargsr@  rC  z	--aug-setz5overrides of the augmentation settings: key=value ...z--advÚdatasetrå   zfadversarial loss (gradient reversal) removing dataset / subject information from the backbone features)r@  rB  rC  z--adv-lambdarƒ   z--prepÚmat_reacz·mat_reac (EA state carried across a subject's trials) | mat_rea (EA restarts in every trial: needs no subject / trial ID at test time); the SparrKULee pretraining always uses mat_reacz--aug-variantÚclusterz9EEG augmentation: dnn_augment + config aug_variants[NAME]z
--zero-eegz5envelope-only model (EEG zeroed in training and test)zd--adv is not supported in STQD v1; domain-adversarial ablations require a new validated feature headg      $@z6STQD v1 is specified for the 10 s window (320 samples)ÚstqdÚ,ÚtargetsÚdnn_augmentÚaug_variantsr'   )r�   r‚   ry   rŒ   r÷   ÚlogsÚpretrain_spk_direct_clfÚ_sz.logÚ
SparrKULeer%   ræ   rØ   iÒ  F)Úreplacezpretrain direct_clf seed z on SparrKULee: z train subjects, val ÚmodelsT)Úexist_okz.ptzsaved z (best val BCE r’   Ú)Údirect_clf__z=== experiment z
, variant z ===rè   z: cachedÚ
experimentrü   rû   r{   rý   rL   r¡   rÅ   r¾   Úbackbonerz   Úextra_trainrç   ÚswitchzHMM p_stay=Úp_stayzJ per 0.25-s step, SYNTHETIC switches applied to the classifier INPUT, LODOr  r  r  r¶   z#  MEAN over held-out datasets: Acc ÚAccz.2fz  SDT ÚSDTz  L ÚLr“   z  H ÚHz  (window acc Úacc1rê   z
  control Ú10sré   r  c              #   óT   K  — | ]   }|› d t         d   |   t           d   d›�–— Œ" y­w)r	  r  rù   r“   N)rt   rv   )r  r=  s     r_   r  r    s6   è ø€ Ð.mÑelÐ`a°!°°A´c¸*±oÀaÑ6HÌÑ6KÈHÑ6UÐVYÐ5ZÔ/[Ñelùs   ‚&(z	  | mean rù   Úresultsz.jsonÚw)Úindentr@  z	=== done )r&   )Nr
  )mÚ__doc__ÚargparseÚjsonÚosr°   rl   r/   rE   rš   Ú
common_expr   r   r   r   r   r   r	   Úcommonr
   r   r   r   r   r   Ú	e1_switchr   Úrun_experimentr   r   Úscorer   r>   r2   rf   re   rd   rB   r?   r  Ú
stqd_modelr   r    r—   r8   r¼   rw   rã   r>  Ú__name__ÚArgumentParserÚapÚadd_argumentr  r5   Ú
parse_argsru   r�   Úerrorr   r[  rN  ÚsplitÚaug_variantÚapply_overridesÚsetÚaug_setÚupdater‚   ry   rŒ   Úset_num_threadsÚpretrain_spkr=   rz   Úpathr  ÚtagrÄ   rZ   rM   ÚsubsrC   r    r6   r&  r1   rm   rÑ   Úmakedirsrt   Úsaver¿   Ú
SystemExitrý   r#  r{   r"  Úexistsr  rL   r¡   rÅ   r¾   Úmrv   r¶   ÚopenÚfhÚdump)rX   ÚcrM   r=  s   0000r_   Ú<module>r�     s>	  ðñó Û Û 	Û ã Û ã ß P× PÑ Pß *Ñ *ß %Ñ %Ý 'ß 0Ý "á�!�J‘- "Ñ$Ó%¡s¨1¨]Ñ+;¸bÑ+@Ó'AÁ3ÀqÐIZÑG[Ð^`ÑG`ÓCa€€€3ˆØ�‰G�c‰M˜1˜r™6€	€€cÙ" 8¨C°	©NÑ#;Ô<Ô
uÑ<‘��AÀÐEtÒ@tŠ1Ð<Ò
u€÷ )ð €	òIðD €‡�ƒòó ðó<ò~6ðr ˆzÓØ	 ˆ×	 Ñ	 Ó	"€BØ‡O�O�G R€OÔ(Ø‡O�O�K©°Ó)9À;ÐUu€OÔvØ‡O�O�N¨°d€OÔ;Ø‡O�O�K¨Ð?h€OÔiØ‡O�O�L u°cÐ@z€OÔ{à‡O�O�L u°dð Bk€Oô là‡O�O�N¨°aÐ>}€OÔ~Ø‡O�O�N¨°d€OÔ;Ø‡O�O�M¨4Ð6e€OÔfØ‡O�OÐ$¨\ð At€Oô uð ‡O�O�G 3°Ð9q€OÔrØ‡O�O�K s°BÐ=t€OÔuØ‡O�O�G T°I¸yÐ3Ið QO€Oô Pà‡O�O�N¨¸€OÔ=Ø‡O�O�H jð 8A€Oô Bà‡O�O�O¨YÐ=x€OÔyØ‡O�O�L¨Ð<s€OÔtØ
�‰‹€AØ‡u‚uØ
�‰ÐwÔxØ‡z�zÐ !§*¡*°Ò"4Ø
�‰ÐIÔJØ€A„JØ‡z‚zÙ�—
‘
˜R‘Ó ˆØ˜‘G˜c‘M 1 r¡6ˆ	ˆˆcØ—9‘9—?‘? 3Ó'€A€i�LØO�c˜-Ñ(ÐO¨C°Ñ,?ÀÇÁÑ,NÐO€A€i�LØ€H×Ñ˜QŸU™U A§I¡IÔ.Ø‡u‚uØˆ�‰�Q—U‘U q§|¡|Õ4Ø‡|�|ÐØŸ,™,ˆˆ,‰Ø‡|‚|ØŸ,™,ˆˆ,‰Ø€E×Ñ˜!ÔØ‡~ƒ~Øˆq�u‰u�\ 1Ó%ˆØˆˆ,‰Ù�R—W‘W—\‘\ # vÐ1HÈÏÉÈÈrÐRVÐQWÐW[Ð/\Ó]Ó^ˆÙ˜L˜>¨:°sÓ;ˆÛˆAÙ˜q“kˆAˆdŠGð á±rÓ:±r°!�q˜‘x—~‘~ cÓ*¨1Ó-°rÑ:Ó;ˆÙ�—‘×&Ñ& tÓ,×3Ñ3°D¸!ÀUÐ3ÓKÓLˆÙÐ'¨ vÐ-=¹cÀ$»iÈ!¹m¸_ÐLaÑbhÐikÓblÐamÐnÔoÙ¡BÓK¡B˜q¨!¨E©(¯.©.¸Ó*=¸aÑ*@ÈÒ*Jš BÑKÑY[ÓM|ÑY[ÐTUÐ_`ÐafÑ_g×_mÑ_mÐnqÓ_rÐstÑ_uÐy{Ò_{ÊaÐY[ÑM|ð  Bð  DEó  F‰	ˆˆTØˆ�‰�B—G‘G—L‘L  hÓ/¸$Õ?Ø�g‰g�l‰l˜3 Ð,CÀAÇEÁEÀ7È"ÈTÈFÐRUÐ*VÓWˆØˆ�
‰
�3—>‘>Ó# SÔ)Ùˆf�S�E˜¨¨c¨
°!Ð4Ô5ØÐØ˜Ÿ™˜ §¡ Ð
(€CÙ
�—‘—‘˜c 6¨c¨U°$¨<Ó8Ó
9€CÙˆ/˜#˜˜j¨¯©¨°4Ð8Ô9ÛˆØ�7‰7�>‰>™) C¨Ó.Ô/ÙÐ" 4 &¨Ð1Ô2ØÙ��s˜C Õ#ð	 ñ
 ò I™#ð I¡|ð I¸Q¿YºYð IÈQÏVÊVð IÐ]^Ð_hÒ]ið IÐtu×t~Òt~ð Ið  JK÷  JTò  JTð Ið  `a÷  `kò  `kð Ið  xy÷  xDò  xDð Ið  OP÷  OYò  OYð Ið  deð  hjò  djð IØ˜!Ÿ%™% ¨c°&©kÔ:ðIÙHVðIØ`aÐbkÒ`lðIà# C¨¡M°(Ñ$;Ð#<ð  =Gñ  HðIñ ' s¨H°s¸S±yÀBÑ6FÔGðI€Cñ IPÓPÉÀ1�q˜#˜h™-¨Ñ/°Ñ2°:Ñ>Ñ>ÈÑP€Cˆ
�OØˆH‰�fÑ€AÙÐ
-¨a°©h°s¨^¸6À!ÀEÁ(È3ÀÈtÐTUÐVYÑTZÐ[^ÐS_Ð_cÐdeÐfiÑdjÐknÐcoÐo}Ð~ð  AGñ  Hð  ILð  ~Mð  MNð  	Oô  PÛ>ˆÙˆj˜˜3˜˜rÐ" T§Y¡YÑ.mÑelÓ.mÓ%mÑmØ˜'˜"Ÿ'™'ÉGÓ"TÉGÀq 3 z¡?°1Ñ#5°aÑ#8¸Ó#BÈGÑ"TÓUÐVYÐZÐ[ñ\õ 	]ð ?ñ 
ˆb�g‰g�l‰l˜3 	¨c¨U°%¨=Ó9¸3Ô	?À2Øˆ�	‰	�#�r !¨UÕ3÷ 
@áˆ)�C�5˜ÐÕða ùóg vùòL ;ùò LùÒM|ùò$ Qùò
 #Uß	?Ð	?úsB   Â#_<Â0_<Ñ`Ó`Ó"`Ó,`
Ô`
Û:`Þ`ß`à`$