Tag
Všetky publikované články, v ktorých sa téma výskum objavuje ako dôležitý kontext. Aktuálne 56 textov v archíve.
Nová práca LACE navrhuje, aby sa paralelné reasoning vetvy počas inferencie navzájom ovplyvňovali. Namiesto viacerých izolovaných pokusov tak vzniká koordinované hľadanie riešenia, ktoré podľa autorov citeľne zvyšuje presnosť na náročných úlohách.
OpenAI uvádza GPT-Rosalind, špecializovaný reasoning model pre biológiu, vývoj liekov a transláčnu medicínu. Mieri na workflow, kde je rozhodujúca práca s literatúrou, dátami a hypotézami.
Práca na arXive tvrdí, že aj silné jazykové modely vrátane GPT-4o majú väčší problém s abstraktným významom, než sa často predpokladá. Výsledok je dôležitý najmä preto, že odhaľuje slabinu, ktorú nezakryjú bežné benchmarky ani všeobecný dojem z plynulého textu.
Nový paper ukazuje, že samostatné moduly seba-monitorovania agentom veľmi nepomáhajú. Zisk sa objavuje až vtedy, keď sa ich výstupy napoja priamo na rozhodovaciu cestu.
Nová výskumná práca navrhuje Filtered Reasoning Score, ktorý hodnotí iba najsebaistejšie reasoning trace modelu namiesto jednoduchého priemerovania všetkých pokusov. Cieľom je rozlíšiť modely, ktoré vyzerajú rovnako dobre v presnosti, no opierajú sa o rozdielne kvalitné uvažovanie.
Nová práca Self-Distillation Zero tvrdí, že model si vie z binárnej odmeny vytvoriť hustejší tréningový signál aj bez externého učiteľa. Ak sa výsledky potvrdia, mohlo by to zlacniť časť post-trainingu pre matematické a kódové reasoning úlohy.
Výskumníci ukazujú, že sériu menších modelov možno koordinovať tak, aby spolu riešili zložitejšie úlohy bez potreby jedného extrémne drahého modelu. V praxi by to mohlo zmeniť ekonomiku inferencie.
Nový prístup sľubuje nižšie výpočtové náklady pri spracovaní dlhých vstupov bez dramatickej straty kvality. Pre poskytovateľov modelov môže ísť o dôležitý krok k lacnejšiemu nasadeniu.