Anthropicin tekoälyasiantuntija: Yli 10 prosentin riski ihmiskunnan tuhoutumiselle

Anthropicin tekoälyn linjaustutkimuksen johtaja Evan Hubinger kirjoitti tiistaina X-palvelussa uskovansa henkilökohtaisesti, että tekoälyllä on yli 10 prosentin mahdollisuus "tappaa kaikki ihmiset" seuraavan vuosikymmenen aikana. Lausunto on kerännyt yli 10 miljoonaa näyttökertaa ja aiheuttanut hämmennystä yhtiön odotettuun listautumiseen liittyvässä talouskeskustelussa.bbc+2

"Jacob on oikeassa. Me todella uskomme vilpittömästi, että tekoäly voi tappaa kaikki ihmiset! Henkilökohtaisesti arvioin todennäköisyyden olevan yli 10 prosenttia seuraavan vuosikymmenen aikana", Hubinger kirjoitti. "Uskon, että Anthropic tekee parhaansa, mutta meillä ei ole vielä suunnitelmaa superälyn linjausongelman ratkaisemiseksi, emmekä ole selvästi oikealla tiellä sen saavuttamiseksi."x

Eron aiheuttama ketjureaktio

Hubingerin kirjoitus oli vastaus tekoälytutkija Jacob Coxonille, joka ilmoitti X-palvelussa eroavansa Anthropicilta työskenneltyään kolme vuotta sekä Anthropicilla että OpenAI:lla. Coxon syytti molempia yrityksiä "kiirehtimisestä kohti itseään kehittävää superälyä ja elämällämme uhkapelaamisesta".nypost+1

"Tekoälyä kehittävät ihmiset uskovat vilpittömästi, että se voi tappaa meidät kaikki vuosikymmenen loppuun mennessä. Tämä ei ole markkinointikikka", Coxon kirjoitti ja lisäsi, että johtajat ja kokeneet tutkijat ilmaisevat yksityisesti pelkoja, joita he pehmentävät julkisissa kommenteissaan.saudigazette+1

Kolmas Anthropicin työntekijä, skaalautuvan valvonnan johtaja Samuel Marks, lisäsi oman arvionsa samaan ketjuun kirjoittaen, että "yleisesti ottaen mitä korkeammassa asemassa työntekijä on, sitä huolestuneempi hän on".breitbart

Cramerin muutos hypestä epäröintiin

Paljastukset loivat erikoisen tilanteen CNBC-kanavalla. Tiistai-illan Mad Money -ohjelmassa Jim Cramer kertoi katsojille, että Anthropic "voisi olla jättimäinen listautuminen ja sijoittajat myyvät kaikenlaisia muita osakkeita osallistuakseen siihen". Keskiviikkoaamuna Squawk on the Street -ohjelmassa hän vertasi Hubingerin arviota kirurgiseen kuolleisuusriskiin. "Jos olet tilanteessa, jossa tarvitset leikkausta ja sen kuolleisuusriski on yli 5 prosenttia, et tee sitä… 10 prosenttia on kaksi kertaa enemmän kuin 5 prosenttia", Cramer sanoi ja lisäsi olevansa "hyvin yllättynyt siitä, että tämä mies työskentelee yhä" Anthropicilla.tech-insider+1

Anthropic ei ole jättänyt S-1-hakemusta arvopaperimarkkinaviranomaisille ja pysyy yksityisenä, vaikka Financial Times News Corp ↘ 10.66% on raportoinut osakkeenomistajien odottavan yhtiön listautuvan lopulta yli 2 biljoonan dollarin arvostuksella. Yhtiö keräsi aiemmin H-sarjan rahoituskierroksen, joka arvosti sen 965 miljardiin dollariin.247wallst+1

Varoitusten sarja

Hubingerin arvio asettuu muiden tunnettujen tekoälyvaikuttajien esittämien lukujen raameihin. Anthropicin toimitusjohtaja Dario Amodei on aiemmin arvioinut katastrofaalisten lopputulosten todennäköisyydeksi noin 25 prosenttia, kun taas Geoffrey Hinton on arvioinut sen olevan 10–20 prosentin välillä, kertoo Axios. Hubingerin paljastuksella on kuitenkin erityistä painoarvoa, sillä se on virallinen lausunto nimeltä mainitulta työntekijältä, jonka tehtävänä on ratkaista juuri se ongelma, jonka hän sanoo olevan yhä ratkaisematta, ja se ajoittuu listautumisspekulaatioiden kiihtyessä.tech-insider

Tapaus seuraa myös Financial Timesin raporttia, jonka mukaan Anthropic jätti uusimman mallinsa toimittamatta Britannian tekoälyturvallisuusinstituutille. Cambridgen yliopiston koneoppimisen professori Neil Lawrence kertoi BBC:lle raportin olevan uskottava viitaten taustaan, jossa Yhdysvallat "näkee tekoälyn hyvin pitkälti kilpajuoksuna" Kiinan kanssa.bbc+1

Kumpikaan yrityksistä, Anthropic tai OpenAI, ei ole osoittanut merkkejä kehityksen hidastamisesta. OpenAI:n päätutkija Jakub Pachocki vaati aiemmin tässä kuussa "äärimmäistä varovaisuutta", mutta ei mennyt niin pitkälle, että olisi vaatinut taukoa. 1 300 tekoälyalan työntekijän allekirjoittama avoin kirje on kehottanut Yhdysvaltain hallitusta auttamaan "tietoisesti hidastamaan automatisoidun tekoälykehityksen eturintamaa".saudigazette+1