Anthropicin perustaja vaatii tekoälylle pakollista hätäkatkaisijaa

Anthropicin perustaja Jack Clark kertoi maanantaina BBC:lle, että hallitusten tulisi harkita tekoäly-yhtiöiden velvoittamista rakentamaan järjestelmiinsä riippumattomasti varmennettavia "hätäkatkaisijoita". Tämä lisäisi sääntelypainetta alalla kasvavaan huoleen tekoälyn kehityksen vauhdista.bbc

Clark totesi, että vaikka useimmat suuret tekoälylaboratoriot, Anthropic mukaan lukien, ylläpitävät jo sisäisiä mekanismeja ohjelmistojensa sammuttamiseksi, vapaaehtoiset turvatoimet eivät välttämättä riitä. "Pitäisikö yritysten olla velvoitettuja omistamaan hätäkatkaisija? Onko tuo hätäkatkaisija kolmannen osapuolen tarkastettavissa?" Clark kysyi haastattelussa ja kutsui näitä kysymyksiä keskeisiksi tekoälyä koskevassa "laajemmassa poliittisessa keskustelussa".bbc

Hälytyksen viikko

Kommentit päättävät myrskyisän jakson Anthropicille ja laajemmalle tekoälysektorille. Syyskuun 8. päivänä Anthropicin tutkija Evan Hubinger totesi julkisesti uskovansa, että tekoäly aiheuttaa ihmiskunnan sukupuuton yli 10 prosentin todennäköisyydellä seuraavan vuosikymmenen aikana. Nobel-palkittu Geoffrey Hinton totesi BBC:lle, ettei luku ole "kohtuuton". Nämä kommentit seurasivat tutkija Jacob Coxonin eroa; hän syytti tekoälylaboratorioita "kilpajuoksusta kohti itseään kehittävää superälyä ja elämällämme pelaamisesta".bbc+2

Lauantaina Anthropicin toimitusjohtaja Dario Amodei julkaisi 3 800-sanaisen esseen, jossa hän vaati tekoälyn kykyjen kehityksen laajaa hidastamista ja väitti, että ala tarvitsee "yhdestä kahteen vuotta lisää" suojatoimenpiteiden toteuttamiseen. Essee sai nopeasti tukea OpenAI:n toimitusjohtaja Sam Altmanilta, Elon Muskilta ja Google Alphabet Inc. ↘ 1.24% DeepMindin johtaja Demis Hassabilta. Presidentti Donald Trump tyrmäsi varoitukset sunnuntaina, vertasi kriitikoita "hyvin negatiivisiin voimiin" ja vaati, että Yhdysvaltojen on säilytettävä teknologinen johtajuutensa.cbc+2

Listautuminen lähestyy

Clarkin vaatimus sääntelystä tulee kaupallisesti kriittisellä hetkellä Anthropicille, joka valmistautuu listautumisantia varten mahdollisesti jo lokakuussa. Sijoittajat arvioivat Financial Timesin mukaan, että yhtiön arvo voisi nousta noin 2 biljoonaan dollariin, mikä tekisi siitä historian suurimman listautumisen. Sijoittajat kertoivat FT:lle, että Anthropicin vuotuinen liikevaihto on matkalla kohti 100–120 miljardia dollaria vuoden 2026 loppuun mennessä, mikä on yli kymmenkertainen kasvu vuoden aikana.qz+1

Clark tunnusti jännitteen rajoitusten vaatimisen ja kiivaasti kilpailluilla markkinoilla toimimisen välillä. Hän varoitti, että tekoälyn jättäminen "täysin sääntelemättömäksi alaksi" on vaarallinen polku. "Heitämme noppaa valtavilla riskeillä", hän sanoi. "Pointti on siinä, että meidän on muutettava tämän alan suuntaa".bbc