Forstjóri Anthropic viðurkennir mistök en vervar kapphlaup um gervigreind

Dario Amodei, forstjóri Anthropic, svaraði einum helsta gagnrýnanda fyrirtækisins á sviði öryggismála á þriðjudagskvöldið, 20. október, í svari á X sem var tæplega 2.000 orð. Hann viðurkenndi að Anthropic hefði klúðrað sumum málum en hélt því fram að það að vera í fararbroddi gervigreindar sé besta leiðin til að gera tæknina örugga, að því er Business Insider greindi frá. Hann var að svara Nathan Calvin, stefnumótunarstjóra hjá félagasamtökunum Encode AI. Í færslu sem var yfir 1.500 orð á mánudaginn taldi Calvin upp níu aðgerðir sem hann sagði sýna að Anthropic væri í kapphlaupi í átt að ofurgreind á kostnað öryggisskuldbindinga sinna. Þar á meðal voru tölvusamningar að verðmæti yfir 500 milljarða dollara og vaxandi traust á Claude við smíði eigin líkana.businessinsider.com

Gagnlisti yfir kostnaðarsamar ákvarðanir

"Stefna okkar hefur alltaf verið það sem ég hef kallað kapphlaupið á toppinn, með því að sýna fram á hvernig hægt er að byggja tæknina á ábyrgan hátt getum við hækkað viðmiðin fyrir allan iðnaðinn," skrifaði Amodei. Hann skrifaði einnig að "hægt sé að túlka hvaða ákvörðun sem er, um hvaða efni sem er, sem illgjarna áætlun".indiatoday.in+1

Hann setti síðan fram sínar eigin níu ákvarðanir sem hann sagði hafa verið fjárhagslega kostnaðarsamar en bætt öryggi. Þær fólust meðal annars í stuðningi við SB 53 frumvarpið í Kaliforníu, að viðhalda ströngum öryggisráðstöfunum gegn misnotkun í líffræði og að fresta víðtækari útgáfu háþróaðra líkana þar til sterkari netöryggisvarnir væru tilbúnar. Hann benti einnig á að Mythos líkanið hefði aðeins verið gefið út til lítils hóps netöryggisaðila og að sala til fyrirtækja undir stjórn kínverska ríkisins hefði verið takmörkuð. Hann viðurkenndi að það að halda aftur af getu líkana "hefði víðtækari kostnað," þar á meðal hægari framfarir í líffræði.businessinsider.com+1

Deilur um drög að frumvarpi

Amodei viðurkenndi að Anthropic hefði getað staðið betur að sumum punktum Calvins. Eitt var drög að alríkislögum sem fyrirtækið dreifði á þinginu í þessum mánuði, sem gagnrýnendur sögðu að myndi gera stjórnvöldum erfiðara fyrir að stöðva hættuleg líkön. Samkvæmt drögunum, sem Politico greindi fyrst frá, gætu alríkisfulltrúar aðeins stöðvað líkan ef það skapaði "fyrirsjáanlega, yfirvofandi hættu á meira en 1 milljarðs dollara tjóni, eða dauða eða alvarlegum meiðslum á fleiri en 50 manns". Talsmaður Anthropic sagði að drögin endurspegluðu Advanced AI Framework fyrirtækisins.politico.com+3

Calvin gagnrýndi einnig Anthropic fyrir að breyta stefnu sinni um ábyrga stækkun (Responsible Scaling Policy). Í febrúar hætti fyrirtækið við skuldbindingu um að gera hlé á eigin spýtur ef öryggisráðstafanir drægjust aftur úr getu líkana sinna. "Af hverju hafa mistökin tilhneigingu til að vernda og hygla hagsmunum Anthropic?" spurði Calvin.chaincatcher.com+1

Eftirlit fyrir hlutafjárútboð

Samskiptin eiga sér stað á meðan Anthropic undirbýr hlutafjárútboð sem búist er við í nóvember með 2 billjóna dollara verðmati. Í síðustu viku tilkynnti fyrirtækið um 16,8 milljarða dollara tekjur á þriðja ársfjórðungi.businessinsider.com

Amodei endaði á ögrandi nótum. "Við munum alltaf reyna að gera betur en, aftur, ég er afar stoltur af ferli okkar og stend við hann," skrifaði hann.businessinsider.com