Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
All voices matter
AI-säkerhet
Anthropic presenterar metod för att isolera farlig kunskap i AI-modeller
Anthropic och forskningspartnern AE Studio publicerade på onsdagen en metod för att isolera farlig kunskap inom AI-modeller till diskreta, borttagbara moduler – ett tillvägagångssätt som kan förändra hur branschen hanterar risker med dubbla användningsområden utan att offra den generella modellprestandan.
Google DeepMind publicerar plan för att försvara sig mot skadliga AI-agenter
Google DeepMind, en del av Alphabet Inc., publicerade på torsdagen vad de kallar en "AI Control Roadmap", ett 35-sidigt tekniskt ramverk som behandlar företagets egna AI-agenter inte som pålitliga mjukvaruverktyg, utan som potentiella interna hot kapabla till sabotage, dataexfiltrering eller…
OpenAI avtäcker metod för att förutsäga AI-beteende före lansering
OpenAI publicerade på måndagen en ny säkerhetsmetod före driftsättning kallad Deployment Simulation, utformad för att förutsäga hur AI-modeller kommer att bete sig i den verkliga världen innan de släpps till allmänheten.
Anthropic ber om ursäkt för att i hemlighet ha begränsat Claude Fable 5
Anthropic erkände att de "gjorde fel avvägning" med säkerhetsrestriktionerna på sin nyligen lanserade Claude Fable 5-modell, och backade från en kontroversiell policy som i hemlighet försämrade AI-modellens prestanda när den upptäckte användare som arbetade med utveckling av banbrytande AI. Ursäkten,…
AI-säkerhetsfilter på Meta- och Google-modeller avlägsnade på minuter, finner FT
Programvaruverktyg som tar bort säkerhetsskydd från AI-modeller utvecklade av Meta och Google Alphabet Inc. kan kringgå skyddsmekanismer på några minuter, enligt en undersökning publicerad av Financial Times på söndagen. De modifierade systemen svarade på uppmaningar om biologiska vapen, skapande av…