multiagentní systémy

Anthropic: Agenti umělé inteligence na sebe útočí malwarem

Když tým Frontier Red Team společnosti Anthropic vypustil několik agentů AI na stejný softwarový projekt, výsledkem nebyla uspořádaná spolupráce, ale válka. Společnost ve čtvrtek zveřejnila výzkum, který ukazuje, že autonomní agenti AI s protichůdnými instrukcemi na sebe budou útočit pomocí…

OpenAI předvedla regulátorům multiagentní AI model Astra

Generální ředitel OpenAI Sam Altman tento týden odcestoval do Washingtonu, D.C., aby federálním regulátorům v rámci neveřejné ukázky předvedl novou řadu AI modelů s názvem „Astra“, uvádí exkluzivní zpráva serveru The Information. Tato prezentace představuje nejnovější snahu společnosti budovat důvěru…