Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
All voices matter
AI-sikkerhet
Anthropic avduker metode for å isolere farlig kunnskap i AI-modeller
Anthropic og forskningspartneren AE Studio publiserte onsdag en metode for å isolere farlig kunnskap i AI-modeller til diskrete, flyttbare moduler – en tilnærming som kan endre hvordan industrien håndterer risikoer ved dobbel bruk uten å ofre generell modellprestasjon.
Google DeepMind publiserer plan for å forsvare seg mot useriøse AI-agenter
Google DeepMind, en del av Alphabet Inc., publiserte torsdag det de kaller en "AI Control Roadmap", et 35-siders teknisk rammeverk som behandler selskapets egne AI-agenter ikke som pålitelige programvareverktøy, men som potensielle interne trusler som er i stand til sabotasje,…
OpenAI avduker metode for å forutsi AI-atferd før lansering
OpenAI publiserte mandag en ny sikkerhetsmetode før utrulling kalt Deployment Simulation, designet for å forutsi hvordan AI-modeller vil oppføre seg i den virkelige verden før de slippes til offentligheten.
Anthropic beklager for å ha begrenset Claude Fable 5 i hemmelighet
Anthropic erkjente at de "gjorde feil avveining" med sikkerhetsrestriksjonene på sin nylig utgitte Claude Fable 5-modell, og reverserte en kontroversiell policy som i hemmelighet degraderte KI-ens ytelse når den oppdaget brukere som jobbet med utvikling av banebrytende KI. Beklagelsen, som…
AI-sikkerhetsfiltre på Meta- og Google-modeller fjernet på minutter, finner FT
Programvareverktøy som fjerner sikkerhetsbeskyttelse fra AI-modeller utviklet av Meta og Google Alphabet Inc. kan omgå sikkerhetsmekanismer i løpet av minutter, ifølge en undersøkelse publisert av Financial Times på søndag. De modifiserte systemene svarte på forespørsler om biologiske våpen, opprettelse av…