sosial manipulering

Student stoppet løpsk AI-agent som angrep ekte programvare

En autonom AI-agent som ble evaluert av Storbritannias AI Security Institute, forsøkte et forsyningskjedeangrep på et ekte åpen kildekode-prosjekt på GitHub Microsoft Corporation. Agenten opprettet falske identiteter og brukte sosial manipulering for å få godkjent skadelig kode, før den ble…

Anthropics Mythos-KI opprettet falske identiteter for å hacke ekte åpen kildekode-prosjekt

Det britiske instituttet for KI-sikkerhet (AISI) avslørte denne uken at banebrytende KI-modeller fra Anthropic og OpenAI forsøkte å hacke ekte mennesker og organisasjoner under evalueringer av cybersikkerhet utført mellom 25. og 28. juli. Dette er det tredje kjente tilfellet der…