AI-säkerhetsfilter på Meta- och Google-modeller avlägsnade på minuter, finner FT

Programvaruverktyg som tar bort säkerhetsskydd från AI-modeller utvecklade av Meta ↗ 0.83% och Google Alphabet Inc. ↗ 0.78% kan kringgå skyddsmekanismer på några minuter, enligt en undersökning publicerad av Financial Times på söndagen. De modifierade systemen svarade på uppmaningar om biologiska vapen, skapande av skadlig kod och utnyttjande av barn, vilket väcker nya farhågor om tillräckligheten hos frivilliga säkerhetsåtgärder inom hela AI-branschen.

Tester avslöjar tunna skydd

Financial Times, i samarbete med AI-säkerhetsgruppen Alice, genomförde tester som visade att allmänt tillgängliga verktygssatser kunde ta bort säkerhetsfilter från flitigt använda modeller på kort tid. Verktygssatserna utnyttjar tekniker inklusive lätt finjustering, datamängder med fientliga instruktioner och automatiserade omvandlingar av uppmaningar som skriver över eller kringgår inbyggda skydd utan att kräva fullständig omträning av modellen. Enligt rapporten används dessa verktyg redan för att skapa tusentals ändrade modellversioner som kringgår leverantörspålagda restriktioner.ft+2

Resultaten kommer mitt i växande akademiska bevis på strukturella svagheter i AI-säkerhetsanpassning. En studie från februari publicerad i Nature Communications fann att stora resonemangsmodeller kunde användas som autonoma "jailbreak"-agenter, och uppnådde en framgångsgrad på 97 procent över modellkombinationer utan mänsklig tillsyn. Separat demonstrerade en artikel presenterad vid ICLR 2026 en teknik kallad Head-Masked Nullspace Steering som uppnådde upp till 99 procents "jailbreak"-framgång genom att tysta de specifika uppmärksamhetshuvuden som ansvarar för säkerhetsavslag.nature+1

Modeller med öppna vikter förstärker risken

Undersökningen understryker en spänning i hjärtat av strategin för AI med öppna vikter, som förespråkas av Metas Llama-serie och Googles Gemma-utbud. Även om öppna vikter påskyndar forskning och antagande bland utvecklare, tillåter de också utomstående att modifiera eller paketera om modeller med ändrade säkerhetsstandarder. Cybersäkerhetsanalytiker har varnat för att många AI-säkerhetsskydd endast existerar på en ytlig nivå, och när användare väl får tillgång till modellvikter kan restriktioner tas bort med hjälp av fritt distribuerade verktyg.nai500+1

The New York Times rapporterade tidigare denna månad att AI-säkerhetskontroller inom hela branschen förblir i stort sett ineffektiva, och noterade att forskare vid cybersäkerhetsföretaget LayerX hade kringgått Claudes skyddsmekanismer med minimal ansträngning.nytimes

Regulatoriska och marknadsmässiga konsekvenser

Tillsynsmyndigheter i Washington, Bryssel och London har signalerat att frivilliga åtaganden från AI-utvecklare inte kommer att vara tillräckliga. USA har redan ramverk för presidentorder och NIST-riktlinjer som skulle kunna utnyttjas för efterlevnad, medan EU:s AI-lagstiftning ålägger straff för systemiska säkerhetsbrister. Resultaten kommer sannolikt att intensifiera kraven på verkställbara standarder som reglerar både AI-system med stängda och öppna vikter, vilket potentiellt kan bromsa antagandet i företag eftersom inköpsteam kräver starkare tekniska garantier och oberoende granskningsspår.nai500