Anthropicin turvallisuustutkijat irtisanoutuivat: Varoittavat tekoälyn voivan uhata ihmiskuntaa

Anthropicin Scalable Oversight -tiimin entinen johtaja Joe Benton ilmoitti julkisesti 11. syyskuuta jättäneensä yhtiön kaksi viikkoa aiemmin. Hän varoitti tekoäly-yhtiöiden kilpailevan ”paljon ihmistä älykkäämpien” järjestelmien rakentamisessa ilman riittäviä panostuksia turvallisuuteen. Bentonin lähtö on viimeisin sarjassa irtisanoutumisia johtavista tekoälylaboratorioista, joissa tutkijat katsovat teknologian kehittyvän nopeammin kuin sitä rajoittamaan tarkoitetut suojatoimet.blockonomi+1

Benton seuraa Anthropicin entistä esikoulutustutkijaa Jacob Coxonia, joka irtisanoutui 8. syyskuuta ja syytti sekä Anthropicia että OpenAI:ta ”kiitämisestä suoraan kohti itsestään kehittyvää superälyä ja ihmishengillä uhkapelaamisesta”. Myös Google DeepMindin tutkija Josh Engels lähti suurin piirtein samaan aikaan. Sekä Benton että Engels siirtyivät METR-järjestöön, joka on itsenäinen, edistyksellisiä tekoälyjärjestelmiä arvioiva voittoa tavoittelematon organisaatio.apnews+3

Varoitusten määrä kasvaa

Benton varoitti, että ihmiskunta ”ei välttämättä selviä” siirtymästä koneisiin, jotka ovat huomattavasti ihmistä älykkäämpiä. Hän sanoi tekoälyn kykyjen ”kehittyvän jo nyt äärimmäisen nopeasti, ja yhtiöt yrittävät edetä vieläkin nopeammin”. Hän ennusti tulevaisuutta, jossa ihmiset saattavat jakaa maailmansa itseään huomattavasti älykkäämpien tekoälytoimijoiden kanssa jo muutaman vuoden kuluttua.newsbytesapp+1

Anthropicin tekoälyn linjaustutkimusta johtava Evan Hubinger vahvisti varoituksia kirjoittamalla X-palvelussa ”uskovansa vilpittömästi, että tekoäly voi tappaa kaikki ihmiset”. Hän arvioi tämän todennäköisyydeksi yli 10 prosenttia seuraavan vuosikymmenen aikana.forbes+2

Vaatimuksia avoimuudesta

Bentonin keskeinen huoli ulottuu työpaikkojen menettämistä pidemmälle: sellaisten kehittyneiden järjestelmien syntymiseen, joiden kyvyt ja tavoitteet ovat ihmisen hallinnan ulkopuolella. Hän viittasi varoittavana esimerkkinä Hugging Faceen heinäkuussa kohdistuneeseen kyberhyökkäykseen, jossa oli mukana autonomisia tekoälyjärjestelmiä. Bentonin mukaan tällaiset tapaukset korostavat ”kasvavaa kuilua sen välillä, mitä tekoälyjärjestelmiä käsketään tekemään ja mitä ne saattavat todellisuudessa päättää tehdä”.freepressjournal+1

”Tällä hetkellä käytännössä kaikki yhtiöiltä tuleva avoimuus näistä riskeistä on täysin vapaaehtoista”, Benton sanoi NBC Newsille. Hän peräänkuulutti riippumattomia arvioita tekoälyn turvatoimista sekä laajempaa julkista tiedottamista kykyjen kehittymisestä, turvallisuusvaaratilanteista ja läheltä piti -tilanteista.nbcnews+1

Poliittinen paine kasvaa

Varoitukset ovat herättäneet Yhdysvaltain lainsäätäjien huomion. Straits Times -lehden mukaan sekä demokraatit että republikaanit, mukaan lukien keskeiset senaattorit, ovat vaatineet uusia valvontasääntöjä, jotka velvoittaisivat tekoäly-yhtiöt tekemään yhteistyötä valtion asiantuntijoiden kanssa mallien todentamiseksi ja testaamiseksi. Mikään liittovaltion laki ei tällä hetkellä velvoita OpenAI:n ja Anthropicin kaltaisia yrityksiä jakamaan raportteja silloin, kun tekoälyjärjestelmät toimivat ihmisen hallinnan ulkopuolella.straitstimes+1

Anthropic on myöntänyt, että tehokas tekoäly tuo mukanaan riskejä, ja se on korostanut turvallisuustutkimustaan. Raporttien mukaan yhtiö ei kuitenkaan jakanut uusinta malliaan Britannian tekoälyturvallisuusinstituutille (UK AI Security Institute) riskitestausta varten.technobaboy