Od redakcie: AI sa 24. augusta posúvala od modelov k infraštruktúre, agentom a suverenite

Hodnotenie verejných bezpečnostných plánov piatich veľkých AI laboratórií odhalilo medzeru medzi testovaním rizík a pripravenosťou na incident po nasadení modelu.

Denný prehľad 19. augusta: Apple skúmal ľudské správanie modelov, Google rozšíril AI učenie a AWS ukázalo presnejšie vyhľadávanie aj produkčný multiagentový systém.

OpenAI rozdelí medzi 14 projektov spolu milión dolárov a pridá až milión dolárov v API kreditoch. Šesťmesačný program má priniesť verejné výstupy o práci, daniach, vlastníctve, energetike, zdravotníctve aj bezpečnosti; prvé výsledky firma očakáva v roku 2027.

Google uzavrel dlhodobé partnerstvá s Arsenalom, Barcelonou, Bayernom, Liverpoolom a PSG. Gemini má sprostredkovať zápasové informácie a Pixel zákulisný obsah, no firma stále neuviedla dátové zdroje, samostatnú futbalovú funkciu ani merateľné ciele. V EÚ bude dôležité aj jasné označovanie AI interakcií a generovaného obsahu.

Nová štúdia ukazuje, že výsledky grafových neurónových sietí môžu skresľovať slabé benchmarky, diferencované dáta a nedostatočne vyladené lineárne baseline modely.

Nová štúdia ukazuje, že niektoré úspešné ASR modely reprodukujú referenčné prepisy verejných benchmarkov aj vtedy, keď im zvuk odporuje alebo v ňom chýbajú slová. Bežné skóre chybovosti tak môže nadhodnocovať ich výkon v reálnej prevádzke.

Otvorený model NVIDIA s 30 miliardami parametrov, z ktorých pri inferencii aktivuje tri miliardy, sa dá nasadiť cez SageMaker JumpStart. Mieri na početné rutinné kroky agentov, nie na nahradenie najvýkonnejších modelov pri každom type úlohy.

Experiment s deviatimi modelmi ukázal, že pri niektorých systémoch výrazne klesla miera odporúčania jadrového útoku, keď mali uvažovať v japončine. Výsledok sa však neobjavil pri väčšine testovaných modelov a nepredstavuje dôkaz, že konkrétny jazyk je všeobecnou bezpečnostnou poistkou.

Open-source nástroj Lore ukladá skúsenosti, rozhodnutia a úlohy agentov do spoločného priestoru v Notione. Cez MCP ich môžu využívať rôzne nástroje aj ďalší členovia tímu, no výsledky Notionu zároveň ukazujú, že neuprataná pamäť dokáže agentom uškodiť.

Mistral predstavil Agentic Search, viacstupňovú vyhľadávaciu vrstvu pre AI agentov. Model môže opakovane hľadať, otvárať dokumenty, navigovať na konkrétne miesta a čítať dôkazy, namiesto odpovede z jedného balíka nájdených úryvkov.

DocLang má prevádzať PDF, kancelárske súbory, obrázky či zvuk do kanonickej XML reprezentácie so zachovaným poradím čítania, tabuľkami, grafikou a pôvodom prvkov. Podpora v Doclingu už umožňuje praktické skúšanie, no tvrdenia o nižších nákladoch zatiaľ nemajú nezávislé benchmarky a formát vo verzii 0.x môže prinášať nekompatibilné zmeny.

Cloudflare Access možno pripojiť ku konkrétnemu Workeru alebo k celému účtu, takže autentifikácia pokryje produkčné domény aj náhľadové URL bez samostatnej politiky pre každý hostname. Novinka znižuje riziko nechceného zverejnenia interných a AI-generovaných aplikácií, nenahrádza však autorizáciu v kóde, audit ani ochranu dát.

Výskumníci opisujú celoročnú produkčnú stopu platformy Chutes naprieč používateľmi, populárnymi aj menej využívanými modelmi. Sľubovaný súbor môže zlepšiť testovanie cache, plánovania kapacity a rozdeľovania záťaže, jeho verejné sprístupnenie a anonymizáciu však zatiaľ nemožno overiť.

Experiment s reálnym robotom ukazuje, že nejednoznačný pokyn nemusí vždy vyžadovať otázku človeku. Systém v 36 pokusoch striedal nové pozorovanie, spresnenie zámeru a výber objektu; výsledky sú sľubné, no zatiaľ pochádzajú iba z deviatich stolových scenárov.

Eye-trackingový preprint rozlišuje dve fázy odhaľovania lokálnych AI úprav: zachytenie pozornosti a správne vyhodnotenie obrazu. Veľkosť zásahu ovplyvňovala najmä pohľad, kým sémantická vierohodnosť rozhodovala o úsudku; výsledky však pochádzajú z malej online štúdie a zatiaľ neovereného modelu.

Výskumníci z Apple a Harvardu navrhujú pred unlearningom odfiltrovať tréningové body so zanedbateľným vplyvom na výstupy modelu. Na skúmaných jazykových a obrazových úlohách uvádzajú úsporu výpočtov až približne 50 %, nízky nameraný vplyv však sám osebe nedokazuje právne ani technicky úplné zabudnutie údajov.