Anthropic varar við nálægð við sjálfbætandi gervigreind í IPO-skráningu

Anthropic sagði væntanlegum fjárfestum að fyrirtækið gæti brátt farið yfir sín eigin mörk fyrir gervigreindardrifna hröðun rannsókna, það stig sem oft er kallað endurtekin sjálfbót. Upplýsingarnar eru nýtt orðalag í breyttri IPO-lýsingu sem fyrirtækið skilaði inn á mánudaginn, 2. nóvember. Framleiðandi Claude sagði að ekkert af núverandi líkönum þess hafi farið yfir þá línu og að verið sé að íhuga breytingar á öryggisreglum til að halda mönnum við stjórnvölinn við þróun framtíðarlíkana, að því er TechCrunch greindi frá.techcrunch.com

Viðvörunin er að finna í áhættuþáttum skráningarinnar sem er best þekkt fyrir fjárhagsupplýsingar. Anthropic undirbýr það sem gæti orðið ein stærsta opinbera skráning sögunnar.

Hvað segir skráningin

S-1/A skráningin var send til SEC á mánudag. Þar segir Anthropic að aukin notkun þess á gervigreind til að flýta fyrir eigin rannsóknum "gæti valdið því að geta líkana okkar aukist hraðar en geta okkar til að þróa, staðfesta og innleiða samsvarandi öryggis-, samræmingar- og verndarráðstafanir." Fyrirtækið sagði einnig að það hafi "í fortíðinni ekki greint" skyndileg stökk í framförum fyrr en eftir að þau áttu sér stað, samkvæmt TechCrunch.sec.gov+1

Aðalatriðið er að innra mat og væntingar um framtíðarlíkön, ekki núverandi líkön, "benda til þess að við gætum brátt uppfyllt skilgreiningu ábyrgðarstefnu okkar um 'verulega hraðar framfarir sem rekja má til gervigreindar'." Fyrirtækið bætti við að það haldi áfram að meta undirliggjandi gögn, að því er TechCrunch greindi frá. Samkvæmt útgáfu 3.4 af stefnunni, sem tók gildi 8. júlí 2026, krefst það viðmiðunarmark tvöföldunar á getu sem rekja má verulega til sjálfvirkra rannsókna, samkvæmt greiningu Kingy AI.techcrunch.com+1

Anthropic sagði að það búist ekki við að geta "á öruggan hátt notað Claude til að hanna og smíða sjálfstætt næstu kynslóðir framtíðarlíkana án marktækrar mannlegrar eftirlits eða skilnings." Það sagðist vera að íhuga stefnubreytingar "til að halda mönnum við stjórnvölinn." Skráningin nefnir einnig mögulegar kröfur um mannlegt eftirlit og samþykki á ákveðnum rannsóknarákvörðunum, benti FourWeekMBA á.fourweekmba.com

Upplýsingagjöf eða markaðssetning

Julie Bort hjá TechCrunch benti á að efasemdarmenn gætu litið á S-1 skráningu sem bæði upplýsingagjöf og markaðssetningu. Í þeim skilningi gæti fullyrðing um að vera nálægt sjálfsmíðandi gervigreind þjónað kynningu fyrirtækisins fyrir fjárfestum. Hún skrifaði einnig að forritunar-, stærðfræði- og netöryggishæfileikar Claude hafi aukist hratt á þessu ári. Anthropic hafði þegar varað fjárfesta við því að háþróuð gervigreind gæti skapað "hörmulega eða tilvistarlega áhættu fyrir mannkynið," að því er Reuters greindi frá í september.reuters.com+1

Bakgrunnur IPO-skráningarinnar

Sama breyting sýndi tekjur upp á 33,24 milljarða dollara fyrir níu mánuðina sem lauk 30. september, sem er um 1.200% aukning frá fyrra ári. Þar kom einnig fram um 895,4 milljarða dollara skuldbinding um útgjöld, aðallega vegna tölvuafls og innviða, að því er CNBC greindi frá. Tekjur á þriðja ársfjórðungi námu 17 milljörðum dollara, en hækkandi tölvukostnaður leiddi til 567 milljóna dollara rekstrartaps eftir hagnað á öðrum ársfjórðungi, að því er Fortune greindi frá. Anthropic ætlar að skrá sig á Nasdaq ↘ 1.52% Global Select Market undir tákninu "ANT," sagði fyrirtækið.cnbc.com+2