Anthropicin toimitusjohtaja myöntää virheet ja puolustaa tekoälyn kilpajuoksua

Anthropicin toimitusjohtaja Dario Amodei vastasi tiistai-iltana 20. lokakuuta yhdelle yrityksensä merkittävimmistä turvallisuuskriitikoista lähes 2 000 sanan vastauksella X-palvelussa. Hän myönsi, että Anthropic oli hoitanut joitakin asioita huonosti, mutta väitti, että tekoälyn eturintamassa pysyminen on paras tapa tehdä teknologiasta turvallista, Business Insider raportoi. Hän vastasi Nathan Calvinille, joka toimii strategisena johtajana voittoa tavoittelemattomassa Encode AI -järjestössä. Maanantaina julkaistussa yli 1 500 sanan kirjoituksessa Calvin listasi yhdeksän toimea, joiden hän sanoi osoittavan Anthropicin kiirehtivän kohti superälykkyyttä turvallisuussitoumustensa kustannuksella. Näihin kuuluivat yli 500 miljardin dollarin arvoiset laskentatehosopimukset ja kasvava riippuvuus Claudesta omien mallien rakentamisessa.businessinsider.com ## Vastalista kalliista valinnoista "Strategiamme on aina ollut se, mitä olen kutsunut 'kilpajuoksuksi huipulle' – näyttämällä, miten teknologiaa on mahdollista rakentaa vastuullisesti, voimme nostaa rimaa koko toimialalle", Amodei kirjoitti. Hän kirjoitti myös, että "mikä tahansa päätös mistä tahansa aiheesta voidaan aina kuvata pahantahtoiseksi juoneksi".indiatoday.in+1 Hän esitti sitten omat yhdeksän päätöstään, joiden hän sanoi olleen kaupallisesti kalliita mutta parantaneen turvallisuutta. Niihin kuuluivat Kalifornian SB 53 -lakiesityksen tukeminen, tiukkojen suojatoimien ylläpitäminen biologista väärinkäyttöä vastaan ja edistyneiden mallien laajemman julkaisun viivästyttäminen, kunnes vahvemmat kyberturvallisuussuojaukset olivat valmiina. Hän viittasi myös Mythos-mallin julkaisemiseen vain pienelle kyberturvallisuuskumppanien ryhmälle ja myynnin rajoittamiseen Kiinan valtion hallitsemille yrityksille. Hän myönsi, että eturintaman kykyjen pidättelyllä "oli laajempi hinta", mukaan lukien hitaampi edistyminen biologiassa.businessinsider.com+1 ## Lakiluonnoskiista Amodei myönsi, että Anthropic olisi voinut hoitaa joitakin Calvinin esiin nostamia kohtia paremmin. Yksi oli liittovaltion lakiluonnos, jota yritys levitti kongressissa tässä kuussa ja jonka kriitikot sanoivat vaikeuttavan hallituksen mahdollisuuksia estää vaarallisia malleja. Politicon ensimmäisenä raportoiman luonnoksen mukaan liittovaltion viranomaiset voisivat pysäyttää mallin vain, jos se aiheuttaisi "ennakoitavissa olevan, välittömän riskin yli miljardin dollarin vahingoista tai yli 50 ihmisen kuolemasta tai vakavasta loukkaantumisesta". Anthropicin tiedottaja sanoi luonnoksen heijastavan yrityksen edistynyttä tekoälykehystä.politico.com+3 Calvin kritisoi myös Anthropicia sen vastuullisen skaalauspolitiikan muuttamisesta. Helmikuussa yritys luopui sitoumuksesta pitää taukoa, jos sen suojatoimet jäisivät jälkeen mallien kyvyistä. "Miksi virheet pyrkivät järjestelmällisesti suojelemaan ja suosimaan Anthropicin etuja?" Calvin kysyi.chaincatcher.com+1 ## Tarkastelua ennen listautumisantia Vaihto tapahtuu Anthropicin valmistautuessa marraskuulle odotettuun listautumisantia varten, jonka arvo on 2 biljoonaa dollaria. Viime viikolla yritys raportoi kolmannen vuosineljänneksen liikevaihdoksi 16,8 miljardia dollaria.businessinsider.com Amodei päätti vastauksensa uhmakkaasti. "Yritämme aina tehdä paremmin, mutta olen jälleen kerran erittäin ylpeä saavutuksistamme ja seison niiden takana", hän kirjoitti.businessinsider.com