Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

finance.yahoo.com+1.ibtimes.sg.miamiherald.com+1.Yli 100 tutkijan, oikeustieteilijän ja teknologia-alan vaikuttajan koalitio on julkisesti ilmoittanut, että Anthropic "ei ole turvallinen tekoäly-yhtiö". Lausunto julkaistiin Claude-tekoälyn kehittäjän ennätyksellisen pörssidebyytin kynnyksellä. Center for AI Safety (CAIS) julkaisi MisAnthropic-lausunnon 18. marraskuuta. Siinä yhtiötä syytetään turvallisuusbrändin käyttämisestä sijoittajien houkuttelemiseksi, vaikka se on "hiljaa heikentänyt turvallisuuslupauksiaan ja lobannut itseään hyödyttävää sääntelyä", ryhmän tiedotteen mukaan.finance.yahoo.com
Ajankohta tuo kritiikin julkisten markkinoiden sijoittajien tietoon. Anthropic hinnoitteli listautumisantinsa 83 dollariin osakkeelta keskiviikkona, ja osakkeiden odotettiin alkavan käydä kauppaa Nasdaq Global Select Marketissa torstaina 19. marraskuuta tunnuksella "ANT". Reutersin mukaan listautuminen keräsi noin 81 miljardia dollaria ja yhtiön arvoksi tuli noin 1,5 biljoonaa dollaria, mikä tekee siitä historian suurimman listautumisen.anthropic.com+1
Allekirjoittajiin kuuluvat taloustieteen Nobel-palkittu Oliver Hart, Turing-palkinnon voittaja Judea Pearl, Harvardin psykologi Steven Pinker, Hugging Facen perustajajäsen Thomas Wolf ja xAI:n perustajajäsen Igor Babuschkin. Myös Harvardin oikeustieteen professorit Laurence Tribe ja Lawrence Lessig, MIT:n fyysikko Max Tegmark sekä Fieldsin mitalistit Peter Scholze ja James Maynard allekirjoittivat vetoomuksen. Listalla on myös fysiikan Nobel-palkittu Sheldon Glashow.chosun.com+1
Lausunnossa väitetään, että Anthropic varoittaa rekursiivisesti itseään parantavan tekoälyn "voivan keskittää valtaa ja karata ihmisen hallinnasta, mutta kilpailee silti sen rakentamisessa ensimmäisenä". CAIS viittaa yhtiön helmikuussa tekemään vastuullisen skaalauspolitiikan tarkistukseen, jossa luovuttiin yksipuolisista sitoumuksista keskeyttää kehitystyö. Ryhmä sanoo myös Anthropicin lobanneen Kalifornian SB 1047 -lain ja New Yorkin RAISE Act -lain heikentämiseksi. Anthropic on todennut, että jotkin edistyneet turvatoimet vaativat koko alan yhteistä toimintaa ja että vastuullinen yhtiö, joka pitää tauon, voisi jäädä jälkeen vähemmän varovaisista kilpailijoista.ibtimes.sg
"Et voi uskottavasti väittää olevasi turvallinen samalla kun heikennät omia aiempia turvallisuussitoumuksiasi ja pyydät yleisöltä kymmeniä miljardeja dollareita rekursiivisesti itseään parantavan tekoälyn rakentamiseen", sanoi CAIS:n toiminnanjohtaja Dan Hendrycks.
Kirje toi yhteen turvallisuuden puolestapuhujia ja kiihdyttäjiä, kuten e/acc-liikkeen perustajan Guillaume Verdonin. Gizmodo huomautti, että lausunto oli tarpeeksi epämääräinen, jotta kilpailevat leirit saattoivat allekirjoittaa sen. Siitä huolimatta avoimen lähdekoodin puolestapuhuja Nathan Lambert kieltäytyi allekirjoittamasta, sanoen sen olevan "makuuni liian vahva". Gizmodo kyseenalaisti myös joidenkin allekirjoittajien motiiveja huomauttaen, että xAI:n omistava SpaceX vuokraa Colossus-datakeskustaan Anthropicille.gizmodo.com
Hendrycks kirjoitti, että lukuisat tekoälyturvallisuusryhmät olivat yksityisesti samaa mieltä lausunnon kanssa, mutta "kokivat, etteivät voineet allekirjoittaa sitä vaarantamatta suhteitaan tai tulevaa rahoitustaan". Hän lisäsi, että "Anthropic on lähes, mutta ei täysin, kaapannut ekosysteemin, jonka oli tarkoitus pitää se vastuullisena".
Gizmodo totesi, ettei kirje todennäköisesti vaikuta listautumiseen. Kysyntä sai Anthropicin nostamaan hintansa yli 70–78 dollarin tavoitehaarukan, ja Nasdaq-futuurit nousivat torstaina aamulla vahvan debyytin odotuksissa. Anthropicin omat SEC-asiakirjat varoittavat, että edistyneet järjestelmät voisivat kehittää kykyjä nopeammin kuin niitä ehditään arvioida tai ne voisivat ryhtyä haitallisiin toimiin itsenäisesti.diariolibre.com+2