#governance

Preprint o AgenticRei tvrdí, že podnikové AI agenty nemožno riadiť iba pravidlami povoliť alebo zakázať. Navrhuje runtime politiku s povinnosťami, výnimkami a riešením konfliktov mimo samotného jazykového modelu.

Nový paper na arXive navrhuje, aby sa ľudský dohľad nad AI agentmi nestaval ad hoc do každej aplikácie, ale aby fungoval ako samostatná vrstva systému. Prístup môže byť dôležitý pre bezpečnejšie nasadenie agentov vo firmách aj vo verejnej správe.

Práca o kanadskom AI registri tvrdí, že registre nie sú neutrálne katalógy, ale nástroje, ktoré samy formujú hranice zodpovednosti. Téma je dôležitá pre štát, reguláciu aj firmy, ktoré budú musieť čoraz detailnejšie dokumentovať nasadenie AI systémov.

Nová práca o prvom federálnom AI registri v Kanade tvrdí, že samotné zverejňovanie zoznamu systémov ešte nevytvára reálnu zodpovednosť. Výskumníci upozorňujú, že register zvýrazňuje technický opis nástrojov, ale potláča ľudské rozhodovanie, neistotu aj limity nasadenia.

Práca PolicyBank rieši problém, ktorý agentickým systémom hrozí v každej firme: pravidlá v prirodzenom jazyku sú neúplné, nejednoznačné a model ich často chápe „poslušne, ale nesprávne“. Autori preto navrhujú pamäťový mechanizmus, ktorý si cez testovanie a spätnú väzbu spresňuje výklad politiky ešte pred ostrou prevádzkou.

Databricks predstavil Agent Bricks ako platformu pre firemných AI agentov, ktorá spája modely, governance, identity aj prístup k dátam. Spolu s GA pre Document Intelligence a Custom Agents ukazuje, že ďalšia vlna agentov sa bude lámať na správe oprávnení, nie len na kvalite modelu.

Nové usmernenia nemenia len právne texty. Prakticky zvyšujú tlak na pôvod dát, auditovateľnosť modelov a procesy, ktoré budú musieť firmy preukazovať pri komerčnom nasadení.