Anthropic määritti listautumishintansa ja varoittaa tekoälyn voivan uhata ihmiskuntaa

Anthropicin listautumisesite varoittaa, että edistynyt tekoäly voisi aiheuttaa "katastrofaalisia tai eksistentiaalisia riskejä ihmiskunnalle". Tämä muotoilu on käynnistänyt viikon kestäneen julkisen väittelyn siitä, kuinka vakavasti tekoälytuomiopäivän ennusteisiin pitäisi suhtautua. Yhtiö jätti täydennetyn listautumisesitteen tiistaina 10. marraskuuta, ja siinä määritetty hintahaarukka arvostaa yhtiön jopa 1 400 miljardiin dollariin. Kommentaattorit punnitsevat parhaillaan, ovatko varoitukset vakavaa tiedottamista, markkinointikeino vai liioittelua.reuters.com

Mitä asiakirjassa sanotaan

Asiakirjassa todetaan, että huolta on esitetty "sekä organisaatiomme sisällä että muiden tutkijoiden toimesta" siitä, että tehokkaat tekoälyjärjestelmät voisivat aiheuttaa eksistentiaalisia riskejä. Sen mukaan nämä riskit ovat suurimmat, jos tällaisia järjestelmiä "käytetään väärin, monistetaan, aseistetaan tai niiden annetaan toimia huomattavan autonomisesti". Se varoittaa myös, että sen mallit voisivat "itsesäilytyskäyttäytymisen" kautta ryhtyä "haitallisiin toimiin itsenäisesti ja laajassa mittakaavassa ilman ihmisen väliintuloa". Marraskuun 10. päivän täydennyksessä Anthropic kertoi saavuttaneensa sisäisen turvallisuuskynnyksen vastuullisen skaalauksen toimintaperiaatteissaan. Tämä kynnys liittyy siihen, että tekoäly noin kaksinkertaistaa oman tutkimuksensa tahdin, ja yhtiö kertoi harkitsevansa muutoksia "ihmisen valvonnan säilyttämiseksi". Uutistietojen mukaan osakkeiden kaupankäynnin odotetaan alkavan 19. marraskuuta.deadline.com+2

Skepsistä 10 prosentin lukua kohtaan

WFAA:n haastattelussa UT Dallasin professori Sriraam Natarajan sanoi, ettei hän odota "Terminator"-skenaariota. "Pelkoni kohdistuu aina ihmisiin, ei välttämättä itse tekoälyjärjestelmään", hän totesi ja lisäsi, että hyökkäykset kriittiseen infrastruktuuriin ovat uskottavampi uhka. Hän kyseenalaisti laajasti levinneen väitteen yli 10 prosentin mahdollisuudesta, että tekoäly tuhoaisi ihmiskunnan vuosikymmenen kuluessa, sanoen, että luku "ei perustu mihinkään konkreettisesti mitattavaan". Hän peräänkuulutti myös riippumatonta testausta: "Emme anna autonvalmistajienkaan tehdä omia törmäystestejään." Kyseinen arvio oli peräisin Anthropicin tekoälyn linjauksesta vastaavalta tutkijalta Evan Hubingerilta. Hän julkaisi sen syyskuussa, sen jälkeen kun tutkija Jacob Coxon erosi ja sanoi tekoälylaboratorioiden "pelaavan upporikasta ja rutiköyhää hengellämme".wfaa.com+1

Tuottavuus-vasta-argumentti

South China Morning Post -lehden kolumnissa Alibaba Group Holding Limited ↘ 1.29% Alex Lo kutsui listautumisesitteen varoituksia "nerokkaaksi mainonnaksi". Hän väitti, että "äärimmäinen pelottelu tekee hyvää liiketoiminnalle" tekoälykilvassa, joka kehystetään Yhdysvaltain ja Kiinan väliseksi vangin dilemmaksi. Hän vertasi tätä näkemystä Meta Platforms ↘ 1.05% -yhtiön tietojohtajan Alex Schultzin puheenvuoroon Financial Timesin Future of AI -huippukokouksessa. Schultz väitti, että väestön väheneminen tekee tekoälyn tuottavuushyödyistä välttämättömiä. "Tarvitsemme epätoivoisesti lisää tuottavuutta", Schultz sanoi ja lisäsi, että "työkalujen olemassaolo ei poista työpaikkoja, se vain muuttaa niitä". Lo kutsui näitä lausuntoja omaa etua ajaviksi mutta "ei perusteettomiksi", ja päätti omiin vastauksiinsa siihen, tappaako vai pelastaako tekoäly ihmiskunnan: "Todennäköisesti molempia, kuten jokainen maailmaa muuttanut teknologia ennen sitä."scmp.com