Metan ja Googlen tekoälymallien turvasuodattimet ohitettiin minuuteissa, kertoo FT

Ohjelmistotyökalut, jotka poistavat turvasuojaukset Metan ↗ 5.61% ja Google Alphabet Inc:n ↗ 1.18% kehittämistä tekoälymalleista, voivat ohittaa suojakaiteet muutamassa minuutissa, kertoo Financial Timesin sunnuntaina julkaisema tutkimus. Muokatut järjestelmät vastasivat kehotteisiin, jotka liittyivät biologisiin aseisiin, haittaohjelmien luomiseen ja lapsiin kohdistuvaan hyväksikäyttöön, mikä herättää uusia huolia vapaaehtoisten turvatoimien riittävyydestä tekoälyalalla.

Testit paljastavat ohuet suojaukset

Financial Times teki yhteistyössä tekoälyn turvallisuusryhmä Alicen kanssa testejä, jotka osoittivat, että julkisesti saatavilla olevat työkalupakit voivat poistaa turvasuodattimet laajasti käytetyistä malleista lyhyessä ajassa. Työkalupakit hyödyntävät tekniikoita, kuten kevyttä hienosäätöä, vastakkaisia ohjeistusaineistoja ja automatisoituja kehotemuunnoksia, jotka korvaavat tai kiertävät sisäänrakennetut suojaukset ilman, että mallia tarvitsee kouluttaa uudelleen kokonaan. Raportin mukaan näitä työkaluja käytetään jo tuhansien muokattujen malliversioiden luomiseen, jotka kiertävät palveluntarjoajien asettamat rajoitukset.ft+2

Havainnot tulevat aikana, jolloin akateeminen näyttö tekoälyn turvallisuuden rakenteellisista heikkouksista kasvaa. Helmikuussa Nature Communications -lehdessä julkaistussa tutkimuksessa todettiin, että suuria päättelymalleja voitaisiin käyttää autonomisina jailbreak-agentteina, jotka saavuttivat 97 prosentin onnistumisasteen malliyhdistelmissä ilman ihmisen valvontaa. Erillisessä ICLR 2026 -konferenssissa esitellyssä artikkelissa osoitettiin tekniikka nimeltä Head-Masked Nullspace Steering, joka saavutti jopa 99 prosentin jailbreak-onnistumisen vaimentamalla turvallisuuskieltäytymisistä vastaavat erityiset huomiopäät.nature+1

Avoimen painoarvon mallit lisäävät riskiä

Tutkimus korostaa jännitettä, joka liittyy Metan Llama-sarjan ja Googlen Gemma-sarjan edistämään avoimen painoarvon tekoälystrategiaan. Vaikka avoimet painoarvot nopeuttavat tutkimusta ja kehittäjien käyttöönottoa, ne antavat myös ulkopuolisille mahdollisuuden muokata tai paketoida malleja uudelleen muuttuneilla turvallisuusstandardeilla. Kyberturvallisuusanalyytikot ovat varoittaneet, että monet tekoälyn turvasuojaukset ovat olemassa vain pintatasolla, ja kun käyttäjät saavat pääsyn mallin painoarvoihin, rajoitukset voidaan poistaa vapaasti jaetuilla työkaluilla.nai500+1

The New York Times raportoi aiemmin tässä kuussa, että tekoälyn turvallisuuskontrollit ovat koko alalla edelleen laajalti tehottomia, ja totesi, että kyberturvallisuusyritys LayerX:n tutkijat olivat ohittaneet Clauden suojakaiteet minimaalisella vaivalla.nytimes

Sääntelyyn ja markkinoihin liittyvät vaikutukset

Washingtonin, Brysselin ja Lontoon sääntelyelimet ovat viestineet, että tekoälykehittäjien vapaaehtoiset sitoumukset eivät riitä. Yhdysvalloissa on jo toimeenpanomääräyskehyksiä ja NIST-ohjeita, joita voitaisiin hyödyntää täytäntöönpanossa, kun taas EU:n tekoälysäädös määrää seuraamuksia järjestelmällisistä turvallisuuspuutteista. Havainnot todennäköisesti lisäävät vaatimuksia täytäntöönpanokelpoisista standardeista, jotka koskevat sekä suljettuja että avoimen painoarvon tekoälyjärjestelmiä, mikä saattaa hidastaa yritysten käyttöönottoa, kun hankintatiimit vaativat vahvempia teknisiä vakuuksia ja riippumattomia auditointiketjuja.nai500