Anthropicin perustaja: Tekoälyn ”hätäkatkaisin” saattaa vaatia lakisääteistä velvoitetta

Entinen Anthropicin ja OpenAI:n tutkija Jacob Coxon, jonka ero viime viikolla herätti huolta teknologia-alalla, kertoi NBC Newsin Meet the Press -ohjelmassa, että vaikka tekoälyjärjestelmien sammuttaminen on teknisesti mahdollista vielä tänään, tämä mahdollisuusikkuna saattaa olla sulkeutumassa. Hänen varoituksensa tuli samaan aikaan, kun Anthropicin perustaja Jack Clark kertoi erikseen BBC:lle, että kolmannen osapuolen todennettu "hätäkatkaisin" saattaa joutua muuttumaan tekoäly-yrityksiä koskevaksi lakisääteiseksi vaatimukseksi.bbc

Coxon, joka erosi Anthropicilta 9. syyskuuta kirjoittaen, että "tekoälyä rakentavat ihmiset uskovat vilpittömästi, että se voisi tappaa meidät kaikki vuosikymmenen loppuun mennessä", käytti viikonlopun aikana useita mediaesiintymisiä tukeakseen Anthropicin toimitusjohtaja Dario Amodein vaatimusta tekoälyn eturintaman kehityksen hidastamisesta. Lauantaina Meet the Press -ohjelmassa hän sanoi, että hätäkatkaisin "toimisi todennäköisesti moniin tekoälyihin vielä nyt", mutta varoitti, että "hyvin pian on olemassa mahdollisuus, ettei hätäkatkaisin yksinkertaisesti toimisi, koska parvi on saattanut aloittaa internetin laajuisen hakkerointioperaation".thestatesman+2

Alan johtajat vaativat hillintää

Coxonin julkinen kampanja on saanut aikaan epätavallista yhteisymmärrystä muuten kovien kilpailijoiden välillä. Amodei ehdotti viikonloppuna kolmiosaista turvallisuuskehystä, johon kuuluu pysyviä ulkopuolisia arvioijia tekoäly-yritysten sisällä, yhteisiä turvallisuusstandardeja demokraattisten maiden välillä sekä kansainvälistä koordinointia. OpenAI:n toimitusjohtaja Sam Altman, Elon Musk ja Google Alphabet Inc:n ↗ 3.06% DeepMindin toimitusjohtaja Demis Hassabis tukivat kaikki laajempaa pyrkimystä hillintään.ciodive+1

Microsoftin ↗ 1.97% toimitusjohtaja Satya Nadella lisäsi tukensa kirjoittamalla X-palvelussa, että "kaiken superälykkyyden tavoittelun on perustuttava perusperiaatteeseen, jonka mukaan jos rakentamamme tekoäly ei auta ihmiskuntaa ja ole ihmisen hallinnassa, se ei ole tavoittelemisen arvoista". Nadella kannatti sisäänrakennettuja arvioijia ja vaati hallintotapaa, joka ulottuu "kourallista toimijoita" laajemmalle.thestatesman+1

Keskustelu hätäkatkaisimesta siirtyy lainsäädäntöön

Clark kertoi BBC:lle, että vaikka "useimmilla laboratorioilla on erilaisia menetelmiä järjestelmiensä deaktivoimiseksi", sääntelyviranomaisten on ehkä määrättävä tällaisista toimenpiteistä. Yhdysvalloissa lainsäätäjät ovat ehdottaneet Kill Switch Act -lakia, joka velvoittaisi yritykset toteuttamaan sammutusmekanismit ja antaisi viranomaisille vallan pyytää tiettyjen työkalujen deaktivointia.bbc

Anthropicin linjaustutkija Evan Hubinger korosti keskustelun kiireellisyyttä toteamalla julkisesti uskovansa, että tekoälyn aiheuttaman ihmiskunnan sukupuuton todennäköisyys on "yli 10 % seuraavan vuosikymmenen aikana". Nobel-palkittu Geoffrey Hinton kutsui arviota "ei kohtuuttomaksi".bbc

Kaikki eivät ole samaa mieltä. Presidentti Donald Trump julkaisi maanantaina lausunnon, jossa hän vastusti hidastamista ja varoitti, että se voisi heikentää Amerikan kilpailukykyä. Myös Britannian hallitus on hylännyt hätäkatkaisimen, ja tiedottaja totesi, ettei se "estäisi kehitystä tai väärinkäyttöä muualla".ciodive+1

Coxonille argumentti on yksinkertaisempi. "Henkilökohtainen mielipiteeni olisi vaatia ja sallia, että nykyiset laboratoriot säätelevät itse itseään", hän kertoi NBC Newsille. "Uskon todella, että laboratorioita johtavat ihmiset, erityisesti heidän viimeaikaiset viestinsä huomioiden, ovat täysin vilpittömiä. He haluaisivat hidastaa itseään".economictimes