Strands Evals dostáva multimodálnych hodnotiteľov pre obrazové výstupy
AWS ukazuje MLLM-as-a-judge pre úlohy, kde model odpovedá na obrázky, dokumenty alebo grafy. Cieľom je overovať, či textový výstup naozaj sedí so zdrojovým obrazom.
Tag
#AWS
Všetky publikované články, v ktorých sa téma AWS objavuje ako dôležitý kontext. Aktuálne 89 textov v archíve.
SageMaker pridáva OpenAI-kompatibilné endpointy pre firemnú inferenciu
Amazon SageMaker AI zavádza OpenAI-kompatibilné API pre real-time endpointy. Aplikácie používajúce OpenAI SDK či LangChain tak môžu cieliť na vlastné nasadenia v AWS s menšou úpravou kódu.
Amazon Nova 2 skúša moderáciu obsahu bez doladenia podľa štandardu MLCommons
AWS ukazuje, že Nova 2 Lite sa dá použiť na moderáciu obsahu len cez promptovanie. Tému opiera o taxonómiu AILuminate od MLCommons a porovnanie na verejných dátach.
AWS pridáva do Bedrock AgentCore vlastné evaluátory postavené na AWS Lambda
Amazon rozširuje Bedrock AgentCore o vlastné kódové evaluátory. Firmy tak môžu popri hodnotení cez LLM zaviesť aj deterministické kontroly JSON schém, číselnej presnosti, poradia krokov či únikov PII.
Amazon Quick zavádza dokumentové ACL pre S3 znalostné bázy
AWS pridalo do Amazon Quick jemnejšie riadenie prístupu. Pri znalostných bázach nad S3 už možno obmedziť jednotlivé dokumenty a priečinky podľa používateľov a skupín, nielen celý zdroj naraz.
Amazon Lex pridáva Assisted NLU, aby boty lepšie chápali prirodzené požiadavky
AWS opisuje novú vrstvu Assisted NLU pre Amazon Lex, ktorá zapája veľké jazykové modely do rozpoznávania intentov a slotov, aby chatboty lepšie zvládali prirodzené formulácie, nejednoznačné zadania a hlučný vstup bez ručného vypisovania desiatok variantov každej vety.
AWS spája Stream Vision Agents s Nova 2 Sonic pre hlasových agentov v reálnom čase
AWS ukazuje, ako prepojiť open-source framework Stream Vision Agents s modelom Amazon Nova 2 Sonic v Bedrocku. Cieľom je zrýchliť stavbu hlasových agentov, ktorí zvládnu obojsmerné audio, function calling aj odolnosť voči výpadkom bez mesiacov práce na infraštruktúre.
AWS pridáva pre browserových agentov firemné pravidlá Chrome a vlastné certifikáty
Amazon Bedrock AgentCore Browser po novom podporuje Chrome enterprise policies a vlastné root CA certifikáty. Firmy tak môžu agentom obmedziť povolené weby, sťahovanie či správcu hesiel a zároveň ich pustiť aj k interným službám za podnikovými certifikátmi.
AWS prepája Unity Catalog so SageMakerom pre auditovateľné dolaďovanie LLM
AWS opisuje architektúru, v ktorej sa Databricks Unity Catalog používa ako governance vrstva nad podnikovými dátami a Amazon SageMaker AI ako prostredie na dolaďovanie veľkých jazykových modelov. Dôležitý je dôraz na dátovú lineage, auditovateľnosť a regulované workloady, nie iba na samotný tréning modelu.
AWS chce pri doladovaní LLM na SageMakeri merať FLOPs kvôli pravidlám AI Actu
AWS opisuje, ako na SageMakeri sledovať výpočtovú stopu pri doladovaní jazykových modelov, aby firmy vedeli, či sa pri tréningu nepribližujú k hraniciam nových povinností podľa európskeho AI Actu.
Amazon vo financiách skladá odpovede pre regulátorov cez Bedrock a RAG
Amazon opisuje interný systém, v ktorom jeho finančné tímy používajú Bedrock, znalostné bázy a priebežné sledovanie behov na prípravu odpovedí pre regulátorov. Dôležité nie je len to, že do procesu vstúpila generatívna AI, ale aj to, ako sa rieši dohľadateľnosť, práca s dokumentmi a viacotáčkový kontext.
AWS chce z neznámych dokumentov robiť schémy pre AI extrakciu bez ručného triedenia
AWS pridáva do svojho IDP Acceleratoru viacdokumentové objavovanie schém. Nová vrstva má sama zhlukovať neznáme typy dokumentov a pripraviť polia na extrakciu, čím skracuje najpomalšiu časť nasadzovania dokumentovej AI vo firmách.