Brittikansanedustaja vaatii tekoälysopimusta Anthropicin turvallisuushälytyksen jälkeen

Työväenpuolueen kansanedustaja Darren Jones on vaatinut uutta monikansallista sopimusta superälykkyyden kehittämisen sääntelemiseksi. Vaatimus on suora vastaus Anthropicin tutkijan Jacob Coxonin eroon ja sitä seuranneisiin turvallisuusvaroituksiin. Jones, entinen ministeri ja pitkän linjan teknologiapolitiikan vaikuttaja, kirjoitti keskiviikkona X-palvelussa, että vaikka hän ei ole "koskaan ajatellut, että meidän pitäisi kieltää innovaatiot tai tieteellinen työ", on nyt "selvää, että tarvitsemme uuden monikansallisen sopimuksen superälykkyyden turvallista ja säänneltyä kehittämistä varten".x+1

Anthropicin hälytys

Jonesin ulostulo tapahtui tuntia sen jälkeen, kun 27-vuotias esikoulutustutkija Coxon, joka työskenteli kolme vuotta sekä OpenAI:lla että Anthropicilla, ilmoitti X:ssä eroavansa ja jättävänsä tekoälyalan kokonaan. "Kumpikaan yritys ei toimi vastuullisesti", Coxon kirjoitti. "Ne kiitävät suoraan kohti itseään kehittävää superälykkyyttä ja pelaavat hengellämme".cnbc+1

Ero herätti huomiota herättävän julkisen vastauksen Evan Hubingerilta, joka toimii edelleen Anthropicin linjaustieteen johtajana. "Jacob on tässä oikeassa – me todella uskomme vakavasti, että tekoäly voisi tappaa kaikki ihmiset", Hubinger kirjoitti X:ssä. "Henkilökohtaisesti uskon, että todennäköisyys on yli 10 prosenttia seuraavan vuosikymmenen aikana. Uskon, että Anthropic yrittää parhaansa, mutta meillä ei ole vielä suunnitelmaa superälykkyyden linjausongelman ratkaisemiseksi, emmekä ole selvästi oikealla tiellä sen saavuttamiseksi".newsweek+1

Jones vastasi Hubingerin kirjoitukseen suoraan: "Jos tämä riskitaso pitää paikkansa, tekoälylaboratorioiden on ainakin hidastettava tahtia".x

Poliittinen tausta

Jones toimi Lancasterin herttuakunnan kanslerina ja pääministerin kansliapäällikkönä Keir Starmerin hallituksessa, ennen kuin uusi pääministeri Andy Burnham erotti hänet hallituksesta heinäkuussa 2026. Nyt takarivin kansanedustajana hän on edelleen yksi parlamentin näkyvimmistä teknologian hallinnon äänistä, oltuaan mukana perustamassa nousevien teknologioiden parlamenttien välistä foorumia.aiforgood.itu+2

Hänen vaatimuksensa kumpuaa tekoälytutkimusyhteisön kasvavasta levottomuudesta. Helmikuussa Anthropicin turvallisuustutkimuksen johtaja Mrinank Sharma erosi varoittaen, että "maailma on vaarassa". Ja 6. syyskuuta OpenAI:n päätutkija Jakub Pachocki kirjoitti, ettei mikään yritys pysty vielä pitämään kehittyneimpiä mallejaan luotettavasti ihmisen hallinnassa.bbc+2

Mitä seuraavaksi?

Jää nähtäväksi, saako Jonesin vaatimus kannatusta parlamentissa. Yhdistynyt kuningaskunta isännöi ensimmäistä maailmanlaajuista tekoälyturvallisuushuippukokousta Bletchley Parkissa vuonna 2023, mutta sitova kansainvälinen sääntely on osoittautunut vaikeaksi saavuttaa. Suhteellisen nuoren tutkijan ero saattaisi normaalisti herättää vain vähän huomiota, mutta Hubingerin julkinen tuki huolelle, sisältäpäin yhdestä maailman johtavista tekoälylaboratorioista, on antanut tapaukselle epätavallista painoarvoa.