Anthropic v žádosti o IPO varuje, že se blíží k sobězdokonalující se AI

Společnost Anthropic informovala potenciální investory, že by brzy mohla překročit svou vlastní hranici pro zrychlení výzkumu řízeného umělou inteligencí, což je bod často označovaný jako rekurzivní sebezdokonalování. Toto sdělení je novou součástí aktualizovaného prospektu pro IPO, který společnost podala v pondělí 2. listopadu. Tvůrce modelu Claude uvedl, že žádný z jeho současných modelů tuto hranici nepřekročil a že zvažuje úpravy svých bezpečnostních pravidel, aby udržel lidi pod kontrolou při vývoji pokročilých modelů, informoval server TechCrunch.techcrunch.com

Varování se nachází v sekci rizikových faktorů dokumentu, který je známý především svými finančními aktualizacemi. Anthropic se připravuje na to, co by mohlo být jedním z největších veřejných úpisů v historii.

Co říká podání

Formulář S-1/A byl podán u SEC v pondělí. V něm Anthropic uvádí, že rostoucí využívání AI k urychlení vlastního výzkumu "může způsobit, že se schopnosti našich modelů budou vyvíjet rychleji než naše schopnost vyvíjet, validovat a implementovat odpovídající bezpečnostní, koordinační a ochranná opatření". Společnost také uvedla, že "v minulosti nedokázala identifikovat" náhlé skoky v tempu pokroku, dokud již nenastaly, uvádí TechCrunch.sec.gov+1

Klíčová pasáž uvádí, že interní odhady a očekávání ohledně budoucích, nikoliv současných modelů, "naznačují, že můžeme bezprostředně splnit definici naší Politiky odpovědného škálování o 'dramaticky zrychleném pokroku přičitatelném AI'". Společnost dodala, že nadále vyhodnocuje podkladová data, uvedl TechCrunch. Podle verze 3.4 této politiky, která vstoupila v platnost 8. července 2026, vyžaduje tato hranice pozorované nebo očekávané zdvojnásobení pokroku schopností, které je podstatně přičitatelné automatizovanému výzkumu, vyplývá z analýzy Kingy AI.techcrunch.com+1

Anthropic uvedl, že neočekává, že bude schopen "bezpečně používat Claude k plně autonomnímu návrhu a budování následných generací pokročilých modelů bez smysluplného lidského dohledu nebo porozumění". Uvedl, že zvažuje aktualizace politiky, "aby udržel lidi pod kontrolou". Podání také zmiňuje možné požadavky na lidskou kontrolu a schvalování určitých výzkumných rozhodnutí, poznamenal FourWeekMBA.fourweekmba.com

Odhalení nebo marketing

Julie Bort z TechCrunch poznamenala, že skeptici mohou S-1 vnímat jako odhalení i marketing zároveň. V tomto výkladu může tvrzení o blízkosti k sobězdokonalující se AI sloužit jako součást prezentace společnosti investorům. Také napsala, že schopnosti modelu Claude v oblasti programování, matematiky a kybernetické bezpečnosti se letos rychle zlepšily. Anthropic již dříve varoval investory, že pokročilá AI by mohla představovat "katastrofická nebo existenční rizika pro lidstvo", informovala agentura Reuters v září.reuters.com+1

Pozadí IPO

Stejná aktualizace ukázala tržby ve výši 33,24 miliardy dolarů za devět měsíců končících 30. zářím, což je nárůst o přibližně 1 200 % oproti předchozímu roku. Také odhalila závazky k výdajům ve výši přibližně 895,4 miliardy dolarů, většinou na výpočetní výkon a infrastrukturu, uvedla CNBC. Tržby za třetí čtvrtletí dosáhly 17 miliard dolarů, ale rostoucí náklady na výpočetní techniku vedly k provozní ztrátě 567 milionů dolarů po ziskovém druhém čtvrtletí, uvedl Fortune. Anthropic plánuje vstoupit na trh Nasdaq ↘ 1.52% Global Select Market pod symbolem "ANT", uvedla společnost.cnbc.com+2