Spoluzakladatel Anthropic volá po povinném vypínači pro umělou inteligenci

Jack Clark, spoluzakladatel společnosti Anthropic, v pondělí pro BBC uvedl, že vlády by měly zvážit požadavek, aby firmy zabývající se umělou inteligencí zabudovaly do svých systémů nezávisle ověřitelné "vypínače". Tím by se dodala regulační váha rostoucím obavám uvnitř odvětví ohledně tempa vývoje umělé inteligence.bbc

Clark řekl, že ačkoliv většina velkých laboratoří AI, včetně Anthropic, již udržuje interní mechanismy pro vypnutí svého softwaru, dobrovolné záruky nemusí stačit. "Měly by mít společnosti povinnost mít vypínač? Podléhá tento vypínač ověření třetí stranou?" ptal se Clark v rozhovoru a označil tyto otázky za ústřední pro "širší politický dialog" o umělé inteligenci.bbc

Týden plný poplachu

Tato vyjádření završují turbulentní období pro Anthropic i celý sektor AI. Dne 8. září výzkumník společnosti Anthropic Evan Hubinger veřejně prohlásil, že podle něj existuje více než desetiprocentní šance na vyhynutí lidstva v důsledku AI během příštího desetiletí, což je údaj, který nositel Nobelovy ceny Geoffrey Hinton označil pro BBC za "nikoliv nerozumný". Tato vyjádření následovala po rezignaci výzkumníka Jacoba Coxona, který obvinil laboratoře AI z toho, že "se řítí přímo k sebezlepšující se superinteligenci a hazardují s našimi životy".bbc+2

V sobotu generální ředitel Anthropic Dario Amodei publikoval esej o rozsahu 3 800 slov, v níž vyzval k plošnému zpomalení vývoje schopností AI a argumentoval, že odvětví potřebuje "jeden až dva roky navíc" na zavedení ochranných opatření. Esej získala rychlou podporu od generálního ředitele OpenAI Sama Altmana, Elona Muska a předsedy Google Alphabet Inc. ↗ 0.78% DeepMind Demise Hassabise. Prezident Donald Trump v neděli tato varování odmítl, přirovnal kritiky k "velmi negativním silám" a trval na tom, že Spojené státy si musí udržet svůj náskok v této technologii.cbc+2

Blížící se IPO

Clarkův tlak na regulaci přichází v komerčně vypjatém okamžiku pro Anthropic, která se připravuje na primární veřejnou nabídku akcií (IPO) již v říjnu. Podle deníku Financial Times investoři očekávají, že by společnost mohla být oceněna na zhruba 2 biliony dolarů, což by z ní učinilo největší IPO v historii. Investoři pro FT uvedli, že anualizované příjmy Anthropic směřují k dosažení 100 až 120 miliard dolarů do konce roku 2026, což je více než desetinásobný nárůst v průběhu roku.qz+1

Clark uznal napětí mezi voláním po omezeních a fungováním na prudce konkurenčním trhu. Varoval, že nechat AI zůstat "zcela neregulovaným odvětvím" je nebezpečná cesta. "Házíme kostkami s obrovskými riziky," řekl. "Jde o to, že musíme změnit trajektorii tohoto odvětví".bbc