Tag
Všetky publikované články, v ktorých sa téma interpretovateľnosť objavuje ako dôležitý kontext. Aktuálne 5 textov v archíve.
Nová práca na arXive navrhuje geometrický rámec na identifikáciu a úpravu konkrétnych pamäťových stôp v modeloch. Tvrdí, že niektoré naučené znalosti možno skladať alebo mazať lineárnymi operáciami bez opakovaného tréningu.
Štúdia na siedmich jazykových modeloch ukazuje, že pri riadení správania modelu nestačí sledovať iba smer zásahu. Uhol nesie väčšinu konceptovej informácie, no veľkosť skrytého stavu rozhoduje o stabilite a vedľajších účinkoch.
Nový arXiv preprint opisuje V-os: jednorozmerný smer emočnej valencie odvodený z LLM iba z deviatich viet. Smer sa prenáša medzi 14 modelmi, koreluje s EEG 123 ľudí sledujúcich afektívne videá, no pokročilé zarovnávacie stratégie dekódovanie nezlepšili.
Preprint navrhuje výpočtovo dostupnú mieru komplexity modelov založenú na podobnosti gradientov. Má fungovať pre parametrické aj kernelové modely.
Štúdia porovnávajúca Integrated Gradients, Attention Rollout a SHAP upozorňuje, že pri diagnostike jazykových modelov neexistuje univerzálne vysvetlenie. Najstabilnejšie sa podľa autorov ukazujú gradientové atribúcie, kým attention a model-agnostic prístupy majú vlastné kompromisy.