Anthropic-vd erkänner misstag, försvarar AI-kapplöpning

Anthropic-vd Dario Amodei svarade under tisdagskvällen den 20 oktober på en av företagets mest framträdande säkerhetskritiker i ett nästan 2 000 ord långt inlägg på X. Han medgav att Anthropic hanterat vissa frågor dåligt men argumenterade för att det är bäst att ligga i framkant av AI-utvecklingen för att göra tekniken säker, rapporterar Business Insider. Han svarade Nathan Calvin, strategichef på den ideella organisationen Encode AI. I ett över 1 500 ord långt inlägg på måndagen listade Calvin nio åtgärder som han menade visade att Anthropic rusar mot superintelligens på bekostnad av sina säkerhetsåtaganden. Dessa inkluderade avtal om datorkraft värda över 500 miljarder dollar och ett växande beroende av Claude för att bygga egna modeller.businessinsider.com

En motlista över kostsamma val

"Vår strategi har alltid varit det jag kallar ett kapplöp mot toppen. Genom att visa hur det är möjligt att bygga tekniken ansvarsfullt kan vi höja ribban för hela branschen," skrev Amodei. Han skrev också att "varje beslut, i vilket ämne som helst, alltid kan framställas som en ondskefull plan".indiatoday.in+1

Han presenterade sedan nio egna beslut som han menade var kommersiellt kostsamma men som förbättrade säkerheten. Dessa inkluderade stöd för Kaliforniens SB 53, upprätthållande av strikta säkerhetsåtgärder mot biologiskt missbruk, och att fördröja en bredare lansering av avancerade modeller tills starkare cyberskydd var på plats. Han pekade också på att Mythos-modellen endast släpptes till en liten grupp cybersäkerhetspartners, samt restriktioner för försäljning till företag kontrollerade av den kinesiska staten. Han erkände att det att hålla tillbaka kapacitet "hade en bredare kostnad," inklusive långsammare framsteg inom biologi.businessinsider.com+1

Kontroversen kring lagförslaget

Amodei medgav att Anthropic kunde ha hanterat några av Calvins punkter bättre. Ett var ett utkast till federal lagstiftning som företaget cirkulerade i kongressen denna månad, vilket kritiker menade skulle göra det svårare för myndigheter att blockera farliga modeller. Enligt utkastet, som först rapporterades av Politico, skulle federala tjänstemän endast kunna stoppa en modell om den utgjorde "en förutsebar, överhängande risk för mer än 1 miljard dollar i skador, eller för att döda eller allvarligt skada mer än 50 personer". En talesperson för Anthropic sade att utkastet speglar företagets ramverk för avancerad AI.politico.com+3

Calvin kritiserade också Anthropic för att ha ändrat sin policy för ansvarsfull skalning. I februari släppte företaget ett åtagande om att pausa utvecklingen om säkerhetsåtgärderna hamnade efter modellernas kapacitet. "Varför tenderar misstagen systematiskt att skydda och gynna Anthropics intressen?" frågade Calvin.chaincatcher.com+1

Granskning inför börsnotering

Utbytet sker samtidigt som Anthropic förbereder en börsnotering som förväntas i november med en värdering på 2 biljoner dollar. Förra veckan rapporterade företaget en omsättning på 16,8 miljarder dollar för tredje kvartalet.businessinsider.com

Amodei avslutade med en trotsig ton. "Vi kommer alltid att försöka göra bättre ifrån oss, men jag är återigen extremt stolt över vår meritlista och står fast vid den," skrev han.businessinsider.com