Anthropic varnar för nära förestående självförbättrande AI i börsdokument

Anthropic har meddelat potentiella investerare att bolaget snart kan passera sin egen tröskel för AI-driven forskningsacceleration, en punkt som ofta kallas rekursiv självförbättring. Avslöjandet framgår av det reviderade prospektet för börsnotering som lämnades in måndagen den 2 november. Skaparna av Claude uppger att ingen av deras nuvarande modeller har passerat den gränsen, och att de överväger ändringar i sina säkerhetsregler för att behålla människor vid rodret i utvecklingen av avancerade modeller, rapporterar TechCrunch.techcrunch.com

Varningen återfinns under riskfaktorer i ett dokument som främst är känt för sina finansiella uppdateringar. Anthropic förbereder vad som kan bli en av de största börsnoteringarna någonsin.

Vad dokumentet säger

S-1/A-blanketten lämnades in till SEC på måndagen. Där skriver Anthropic att den ökande användningen av AI för att påskynda den egna forskningen "kan göra att våra modellers kapacitet utvecklas snabbare än vår förmåga att utveckla, validera och implementera tillhörande säkerhets-, anpassnings- och skyddsåtgärder." Företaget medger också att de "tidigare inte identifierat" plötsliga hopp i utvecklingstakten förrän efter att de inträffat, enligt TechCrunch.sec.gov+1

Det centrala avsnittet anger att interna estimat och förväntningar om framtida modeller, inte nuvarande, "indikerar att vi snart kan uppfylla definitionen i vår Responsible Scaling Policy om 'dramatiskt accelererad utveckling tillskriven AI'." Företaget tillägger att de fortsätter att utvärdera underliggande data, rapporterar TechCrunch. Enligt version 3.4 av policyn, som trädde i kraft den 8 juli 2026, kräver denna tröskel en observerad eller förväntad fördubbling av kapacitetsutvecklingen som i hög grad kan tillskrivas automatiserad forskning, enligt en analys från Kingy AI.techcrunch.com+1

Anthropic uppger att de inte förväntar sig att kunna "säkert använda Claude för att fullt ut autonomt designa och bygga successiva generationer av avancerade modeller utan meningsfull mänsklig tillsyn eller förståelse." De överväger nu policyuppdateringar "för att hålla människor i kontroll." Dokumentet nämner även möjliga krav på mänsklig granskning och godkännande av vissa forskningsbeslut, noterar FourWeekMBA.fourweekmba.com

Avslöjande eller marknadsföring

Julie Bort på TechCrunch påpekar att skeptiker kan se ett S-1-dokument som både ett avslöjande och marknadsföring. I den tolkningen kan påståendet om att vara nära självbyggande AI tjäna företagets pitch till investerare. Hon skriver också att Claudes färdigheter inom kodning, matematik och cybersäkerhet har avancerat snabbt i år. Anthropic hade redan varnat investerare för att avancerad AI kan utgöra "katastrofala eller existentiella risker för mänskligheten," rapporterade Reuters i september.reuters.com+1

Bakgrunden till börsnoteringen

Samma ändring visade en omsättning på 33,24 miljarder dollar för de nio månader som avslutades den 30 september, en ökning med cirka 1 200 % jämfört med året innan. Det redovisades även åtaganden på cirka 895,4 miljarder dollar, främst kopplade till datorkraft och infrastruktur, rapporterar CNBC. Omsättningen i tredje kvartalet nådde 17 miljarder dollar, men ökade kostnader för datorkraft ledde till en rörelseförlust på 567 miljoner dollar efter ett lönsamt andra kvartal, rapporterar Fortune. Anthropic planerar att noteras på Nasdaq ↗ 2.55% Global Select Market under symbolen "ANT", uppger företaget.cnbc.com+2