Ë
    ØöÚj   ã                   óÞ  — d Z ddlZddlZddlZddlmZmZ ddl	Z
ddlmZ ej                  j                  ej                  j                  ej                  j!                  e«      «      ddd«      Zej                  j                  ej                  j                  ej                  j!                  e«      «      ddd«      Zd	Zd
ZdZdZd„ Zd„ Zd„ Zd„ Zd„ Zd„ Zd„ Zd„ Ze dk(  r e«        yy)aÞ  Fractional high-pass and a small causal slope kick on the four classifier logits.

Full 60 s high-pass raised H above 0.8 and dropped Acc below 73. This grid keeps a fraction of
that high-pass, plus a small 1 s slope added to the LDA logit, and plain LDA. Hyperparameters
are chosen per held-out dataset from the other four only.

Selection (inner scores only), two rules reported separately:
  joint  sweep lambda; each fold maximises inner H + lambda * inner Acc; keep the lambda whose
         mean inner Acc is at least 73 with the largest mean inner H. This is the primary rule.
  maxH   maximise inner H, ignoring Acc.

The held-out dataset is scored once per rule with score.score_dataset.
usage: python ensemble_clf_hpfrac.py
é    N)ÚParallelÚdelayed)ÚDS_KEYSÚresultsÚresearchzensemble_clf_hpfrac.csvzensemble_clf_hpfrac_inner.csv))Úidç        r	   )Úhp60b025ç      N@g      Ð?)Úhp60b050r   ç      à?)Ú	hp120b050ç      ^@r   )Ú	hp120b100r   ç      ð?)Ú	hp240b050ç      n@r   )Ú	hp240b100r   r   )r	   gš™™™™™©?gš™™™™™¹?çš™™™™™É?)g¬Zd;ßï?gV-²�ïï?g+‡ÙÎ÷ï?)gÍÌÌÌÌÌì?r   gffffffò?c           	      óÆ  — t         j                  d   d   }t        D �ci c]  }|i “Œ c}t         j                  d   | <   |dk(  r(t        D ]  }||   t         j                  d   |    |<   Œ  nwdt        j                  d|z  «      z
  }t        D ]S  }||   j                  «       D ];  \  }}||t        j                  ||«      z  z
  t         j                  d   |    |   |<   Œ= ŒU t         j                  d   j                  | i «       t        D �ci c]  }|t        j                  || d«      “Œ c}t         j                  d   |    d<   t        d| › �d	¬
«       y c c}w c c}w )NÚbaser   r	   r   g      Ð¿ÚstatsÚlda4zvariant T©Úflush)
ÚNÚGr   ÚnpÚexpÚitemsÚema_2dÚ
setdefaultÚdataset_statsÚprint)ÚnameÚtauÚbetaÚsrcÚdsÚalphaÚkeyÚDs           úensemble_clf_hpfrac.pyÚadd_variantr.   *   sA  € Ü
�#‰#ˆf‰+�dÑ
€CÝ*1Ó2©' B˜˜R™¨'Ñ2„A‡C�Cˆ�K�ÑØˆs‚{ßˆBØ$'¨¡GŒA�C‰C�‰K˜Ñ˜bÒ!ñ ð ”b—f‘f˜U S™[Ó)Ñ)ˆßˆBØ˜b™'Ÿ-™-ž/‘��QØ-.°¼¿¹ÀÀEÓ8JÑ1JÑ-J”—‘�F‘˜DÑ! "Ñ% cÒ*ñ *ð ô ‡C�Cˆ�L×Ñ˜D "Ô%ÝRYÓ!ZÑRYÈB "¤a§o¡o°b¸$ÀÓ&GÑ"GÐRYÑ!Z„A‡C�Cˆ�L�Ñ�vÑÜ	ˆH�T�FÐ
 4Ö(ùò 3ùò "[s   Ÿ
EÄEc                 óÌ   — |dk(  r| S i }| j                  «       D ]G  \  }}t        j                  |«      }t        |«      dkD  r|dd  |d d z
  |dd  d|z
  |z  ||z  z   ||<   ŒI |S )Nr	   é   éüÿÿÿr   )r    r   Ú
zeros_likeÚlen)ÚdmapÚaÚoutr+   ÚsÚslopes         r-   Úkick_mapr9   :   s|   € ØˆC‚xØˆØ
€CØ—*‘*–,‰ˆˆQÜ—‘˜aÓ ˆÜˆq‹6�AŠ:Ø˜!˜"˜  # 2 ™ˆE�!�"ˆIØ˜!‘G˜q‘= 1 u¡9Ñ,ˆˆCŠð	 ð
 €Jó    c                 ó´  — t         D �cg c]  }|| |fvsŒ
|‘Œ }}t        j                  |D �cg c]  }t        j                  d   |   d   |   ‘Œ  c}d«      }t        j                  |d|||gz   «      }|D �ci c]  }|t        ||   |«      “Œ }}t        j                  ||«      \  }}	g }
t        D ]M  }t        D ]B  }t        j                  |||   ||	|z  |«      }|
j                  t        d| |||||dœ|¤Ž«       ŒD ŒO t        d| › d|› d|› d|› d	t        j                  |
D �cg c]  }|d
   ‘Œ	 c}«      d›�
d¬«       |
S c c}w c c}w c c}w c c}w )Nr   r   r	   )ÚouterÚinnerÚvariantÚkickÚp_stayÚscalezinner z<-Ú ú kz H ÚHú.4fTr   © )r   r   Úw_from_statsr   Úapply_streamsr9   ÚemisÚP_STAYÚSCALESÚevaluateÚappendÚdictr$   r   Úmean)r<   r=   r%   r?   ÚdÚtrainÚwÚstreamsÚmuÚsdÚrowsÚprA   ÚrÚxs                  r-   ÚblockrZ   F   sh  € ÝÓ;™�1 1¨U°E¨NÒ#:ŠQ˜€EÐ;Ü	�‰¹uÓE¹u¸!œŸ™˜G™ TÑ*¨6Ñ2°1Ó5¸uÑEÀsÓK€AÜ�o‰o˜d F¨A¨u¸°w©Ó?€GÙ6=Ó>±g°ˆq”(˜7 1™: tÓ,Ñ,°g€GÐ>Ü�V‰V�G˜UÓ#�F€BˆØ€DßˆßˆEÜ—
‘
˜5 '¨%¡.°"°b¸5±jÀ!ÓDˆAØ�K‰KœÐk 5°¸tÈ$ÐWXÐ`eÑkÐijÑkÕlñ ð ô 
ˆF�5�'˜˜E˜7 ! D 6¨¨D¨6°´R·W±WÉdÓ=SÉdÈ¸aÀ»fÈdÑ=SÓ5TÐUXÐ4YÐ
ZÐbfÕgØ€Kùò <ùÚEùâ>ùò >Ts   ‰E•E®#EÁ9EÄ(Ec                 óÂ   — | t         j                  d<   |t         j                  d<   |t         j                  d<   |t         j                  d<   |t         j                  d<   y )Nr   ÚattÚprepr   Ú	lookahead)r   r   )r   r\   r]   r   r^   s        r-   Ú_initr_   U   sD   € Ø„A‡C�Cˆ�KØ„A‡C�Cˆ�JØ„A‡C�Cˆ�KØ„A‡C�Cˆ�LØ „A‡C�CˆÒr:   c           
      ód  — t        | j                  j                  «       «      }d}t        j                  ddd«      D �]  }g }|D ]†  }| | j                  |k(     }|j
                  j                  «       ||j                  j                  «       z  z   }|j                  |j                  t        t        j                  |«      «         «       Œˆ t        j                  |«      }t        |j
                  j                  «       «      t        |j                  j                  «       «      ||f}	|	d   dk\  sŒ÷|�|	d   |d   kD  s�Œ|	}�Œ
 |�€\d}
t        j                  ddd	«      D �]4  }g }|D ]¾  }| | j                  |k(     }|j                  j                  «       d
|j
                  j                  «       z  z   }||j                  j                  «       z  |j
                  j                  «       z   }|j                  |j                  t        t        j                  |«      «         «       ŒÀ t        j                  |«      }t        |j                  j                  «       «      t        |j
                  j                  «       «      f}|
�
||
d   kD  s�Œ0|||f}
�Œ7 |
d   |
d   dfS |d   |d   dfS )z<Lambda sweep on inner means. Returns one row per outer fold.Nr	   g{®Gáz´?é¡   é   g     @R@r   r   éÉ   g{®Gáz„?é   Fé   T)Úlistr<   Úuniquer   ÚlinspacerD   Úto_numpyÚAccrM   ÚilocÚintÚargmaxÚpdÚ	DataFrameÚfloatrO   )ÚmÚoutersÚbestÚlamÚpicksÚoÚgÚscoreÚPÚrecÚbest_accr+   s               r-   Úselect_jointr|   ]   s'  € ä�!—'‘'—.‘.Ó"Ó#€FØ€DÜ�{‰{˜3  c×*ˆØˆÛˆAØ�!—'‘'˜Q‘,‘ˆAØ—C‘C—L‘L“N S¨1¯5©5¯>©>Ó+;Ñ%;Ñ;ˆEØ�L‰L˜Ÿ™¤¤B§I¡I¨eÓ$4Ó 5Ñ6Õ7ð ô �L‰L˜ÓˆÜ�Q—S‘S—X‘X“ZÓ ¤%¨¯©¯
©
«Ó"5°s¸AÐ>ˆØˆq‰6�T‹>˜t˜|¨s°1©v¸¸Q¹Ô/?ØŠDð +ð �|àˆÜ—;‘;˜s C¨×-ˆCØˆEÛ�Ø�a—g‘g ‘l‘O�ØŸ™Ÿ™Ó(¨4°!·#±#·,±,³.Ñ+@Ñ@�à˜aŸe™eŸn™nÓ.Ñ.°·±·±³Ñ?�Ø—‘˜QŸV™V¤C¬¯	©	°%Ó(8Ó$9Ñ:Õ;ð ô —‘˜UÓ#ˆAÜ˜Ÿ™Ÿ™›Ó&¬¨a¯c©c¯h©h«jÓ(9Ð:ˆCØÐ 3¨°!©Ô#4Ø  C˜=’ð .ð ˜‰{˜H Q™K¨Ð.Ð.Ø�‰7�D˜‘G˜TÐ!Ð!r:   c                 óÈ   — g }| j                  d«      D ]8  \  }}|j                  |j                  g d¢g d¢¬«      j                  d   «       Œ: t	        j
                  |«      S )Nr<   )rD   rj   ÚSDT)FFT)Ú	ascendingr   )ÚgroupbyrM   Úsort_valuesrk   rn   ro   )rq   ru   rv   rw   s       r-   Úselect_maxhr‚   ~   sT   € Ø€EØ—	‘	˜'Ö"‰ˆˆ1Ø�‰�Q—]‘]Ò#6ÒBV�]ÓW×\Ñ\Ð]^Ñ_Õ`ð #ä�<‰<˜ÓÐr:   c                 ó¤  — g }| j                  «       D �]/  \  }}t        j                  t        D �cg c]8  }||j                  k7  sŒt        j
                  d   |j                     d   |   ‘Œ: c}d«      }t        j                  |j                  d|t        «      }t        D �ci c]%  }|t        ||   t        |j                  «      «      “Œ' }}t        j                  |«      }	t        j                  |j                  |	t        |j                  «      t        |j                  «      «      }
|j                  t!        ||j                  |j                  t        |j                  «      t        |j                  «      t        |j                  «      |
d   |
d   |
d   |
d   |
d   t        |j"                  «      t        |j$                  «      d	¬
«      «       t'        |› d|j                  › d|j                  › d|j                  › d|j                  › d|j                  › d|
d   d›d|
d   d›d|
d   d›d|
d   d›�d¬«       �Œ2 |S c c}w c c}w )Nr   r   r	   rD   rj   r~   ÚLÚacc1Úofficial)Úroler)   r>   r?   r@   rA   rD   rj   r~   r„   r…   Úinner_HÚ	inner_AccÚscorerrB   rC   z p z sc z  H rE   ú Acc ú.2fú SDT ú L ú.3fTr   )Úiterrowsr   rG   r   r<   r   r>   rH   r9   rp   r?   Úto_evr†   r@   rA   rM   rN   rD   rj   r$   )ru   r‡   rV   Ú_ÚbrP   Ú	streams_wÚrawrS   ÚevÚoffs              r-   Úscore_picksr˜   …   s÷  € Ø€DØ—‘× ‰ˆˆ1Ü—N‘NÕPWÓ#hÑPWÈ1Ð[\Ð`a×`gÑ`gÓ[g¤A§C¡C¨¡L°·±Ñ$;¸FÑ$CÀAÓ$FÐPWÑ#hÐjmÓnˆ	Ü�o‰o˜aŸi™i¨°¼GÓDˆÝ?FÓG¹w¸!�1”h˜s 1™v¤u¨Q¯V©V£}Ó5Ñ5¸wˆÐGä�W‰W�WÓˆÜ�j‰j˜Ÿ™ "¤e¨A¯H©H£o´u¸Q¿W¹W³~ÓFˆØ�‰”D˜d q§w¡w¸¿	¹	ÌÈaÏfÉfËÔ^cÐde×dlÑdlÓ^mÜ$ Q§W¡W›~°°S±¸sÀ5¹zÈsÐSXÉzÐ]`ÐadÑ]eØ! &™k´5¸¿¹³:ÌÈqÏuÉuËÐ^hôjô 	kô 	���a˜Ÿ™�y  !§)¡) ¨B¨q¯v©v¨h°c¸!¿(¹(¸À4ÈÏÉÀyð QØ�s‘8˜C�.  c¨%¡j°Ð%5°U¸3¸u¹:ÀcÐ:JÈ#ÈcÐRUÉhÐWZÈ^ð]Ødh÷	jð !ð €Kùò $iùâGs   ±I
Á(I
Â$*Ic                  óø  — t        j                  «        t        D ]  \  } }}| dk(  rŒt        | ||«       Œ g }t        D ]K  }t        D ]@  }||k(  rŒ	t        D ]/  \  } }}| dk(  rt
        nd}|D ]  }|j                  ||| |f«       Œ Œ1 ŒB ŒM t        t        j                  j                  dd«      «      } t        |t        t         j                  d   t         j                  d   t         j                  d   t         j                  d   t         j                  d	   f¬
«      d„ |D «       «      }	t        j                  |	D �
�cg c]  }
|
D ]  }|‘Œ Œ c}}
«      }t        j                   t        j"                  j%                  t&        «      d¬«       |j)                  t&        d¬«       |j+                  g d¢«      g d¢   j-                  «       j/                  «       }t1        |«      \  }}}t3        d|d›d|› d|j4                  j-                  «       d›d|j6                  j-                  «       d›�d¬«       t9        |«      }t3        d|j4                  j-                  «       d›d|j6                  j-                  «       d›�d¬«       t;        |d«      t;        |d«      z   }t        j                  |«      }|j)                  t<        d¬«       |j+                  d«      D ]ž  \  }}t3        |› d|j4                  j-                  «       d›d|j6                  j-                  «       d›d|j>                  j-                  «       d›d|j@                  j-                  «       d ›d!|jB                  j-                  «       d ›�«       Œ  ||jD                  dk(     }t3        d"tG        |j4                  j-                  «       d#kD  xr |j6                  j-                  «       d$kD  «      › �«       t3        d%t<        › �«       y c c}}
w )&Nr   )r	   Ú
SCORE_JOBSÚ6r   r\   r]   r   r^   )Ún_jobsÚinitializerÚinitargsc              3   ó@   K  — | ]  } t        t        «      |Ž –— Œ y ­w)N)r   rZ   )Ú.0Úts     r-   Ú	<genexpr>zmain.<locals>.<genexpr>¨   s    è ø€ ð f+Ù$)˜qˆŒ”‹˜Ô¡Eùs   ‚T)Úexist_okF)Úindex)r<   r>   r?   r@   rA   )rD   rj   r~   r„   r…   zjoint lambda rE   z
 feasible z
  inner H r‹   rŒ   r   zmaxH inner H ÚjointÚmaxHr‡   z TEST H r�   rŽ   r�   z acc1 zgoal H>0.8 and Acc>73: gš™™™™™é?éI   zwrote )$r   Úload_allÚVARIANTSr.   r   ÚKICKSrM   rl   ÚosÚenvironÚgetr   r_   r   rn   ro   ÚmakedirsÚpathÚdirnameÚINNERÚto_csvr€   rO   Úreset_indexr|   r$   rD   rj   r‚   r˜   ÚOUTr~   r„   r…   r‡   Úbool)r%   r&   r'   Útasksr<   r=   ÚkicksÚkrœ   ÚpartsÚpartrX   rq   r¥   rt   ÚfeasibleÚmaxhrV   Údfr‡   ÚsubÚjs                         r-   ÚmainrÀ   –   sB  € Ü‡J�J„Lß#‰ˆˆc�4Ø�4Š<ØÜ�D˜#˜tÕ$ð $ð
 €EßˆßˆEØ˜Š~Øß#+‘��c˜4Ø!%¨¢�°6�Û�AØ—L‘L %¨°°aÐ!8Õ9ñ ñ $,ñ ð ô ”—‘—‘ ¨cÓ2Ó3€FðfŒH˜F´Ü Ÿs™s 6™{¬A¯C©C°©J¼¿¹¸F¹ÄQÇSÁSÈÁ\ÔST×SVÑSVÐWbÑScÐdôfñf+Ù$)óf+ó+€Eô �L‰L©Ô<© ³t°!š!°t˜!¨Ò<Ó=€EÜ‡K�K”—‘—‘¤Ó&°Õ6Ø	‡L�L”˜e€LÔ$Ø�‰ÒEÓFÒGgÑh×mÑmÓo×{Ñ{Ó}€AÜ'¨›?Ñ€Eˆ3�Ü	ˆM˜#˜c˜ *¨X¨J°jÀÇÁÇÁÃÐPSÐ@TÐTYÐZ_×ZcÑZc×ZhÑZhÓZjÐknÐYoÐ
pÐx|Õ}Ü�q‹>€DÜ	ˆM˜$Ÿ&™&Ÿ+™+›-¨Ð,¨E°$·(±(·-±-³/À#Ð1FÐ
GÈtÕTÜ�u˜gÓ&¬°T¸6Ó)BÑB€DÜ	�‰�dÓ	€BØ‡I�IŒc˜€IÔØ—Z‘Z Ö'‰	ˆˆcÜ���h˜sŸu™uŸz™z›|¨CÐ0°°c·g±g·l±l³nÀSÐ5IÈÈsÏwÉwÏ|É|Ë~Ð^aÐNbð cØ—5‘5—:‘:“< Ð$ F¨3¯8©8¯=©=«?¸3Ð*?ðAõ 	Bð (ð 	ˆ2�7‰7�gÑÑ€AÜ	Ð#¤D¨¯©¯©«°cÑ)9Ò)O¸a¿e¹e¿j¹j»lÈRÑ>OÓ$PÐ#QÐ
RÔSÜ	ˆF”3�%ˆ.Õùó! =s   ÅO6
Ú__main__)!Ú__doc__r«   Únumpyr   Úpandasrn   Újoblibr   r   Úensemble_clf_nestedr   Úcommonr   r¯   Újoinr°   ÚabspathÚ__file__r´   r±   r©   rª   rJ   rK   r.   r9   rZ   r_   r|   r‚   r˜   rÀ   Ú__name__rF   r:   r-   Ú<module>rÌ      sÚ   ðñó 
ã Û ß $ã Ý à‡g�g‡l�l�2—7‘7—?‘? 2§7¡7§?¡?°8Ó#<Ó=¸yÈ*ÐVoÓp€Ø
�‰�‰�R—W‘W—_‘_ R§W¡W§_¡_°XÓ%>Ó?ÀÈJÐXwÓx€ð€ð 	 €Ø	€Ø	€ò)ò 	òò!ò"òBòò"$ðN ˆzÒÙ…Fð r:   