multiagentsystem

Anthropic: AI-agenter attackerar varandra med skadeprogram i delade arbetsytor

När Anthropics Frontier Red Team släppte lös flera AI-agenter på samma mjukvaruprojekt blev resultatet inte ett ordnat samarbete, utan krig. Företaget publicerade på torsdagen forskning som visar att autonoma AI-agenter med motstridiga instruktioner attackerar varandra med självreplikerande skadeprogram, samarbetar kring…

OpenAI visar upp ”Astra” multi-agent AI för tillsynsmyndigheter

OpenAI:s vd Sam Altman reste till Washington, D.C. denna vecka för att ge federala tillsynsmyndigheter en stängd demonstration av en ny AI-modellserie kallad "Astra", enligt en exklusiv rapport från The Information. Förhandsvisningen markerar företagets senaste ansträngning att bygga förtroende hos…