OpenAI i Anthropic volají po globálním dohledu nad umělou inteligencí

Generální ředitel OpenAI Sam Altman a hlavní vědec Jakub Pachocki v pondělí zveřejnili příspěvek na blogu, v němž vyzývají k vytvoření mezinárodní organizace, která by dohlížela na vývoj špičkové AI, včetně pravomoci zpomalit pokrok „v případě potřeby“, aby bezpečnost a společenská odolnost mohly držet krok. Tato výzva byla součástí širšího prohlášení o vizi, které oznamuje to, co Altman popsal jako „třetí fázi“ OpenAI, a byla zveřejněna ve stejný den, kdy společnost potvrdila, že důvěrně podala žádost o počáteční veřejnou nabídku akcií (IPO) u Komise pro cenné papíry (SEC).businessinsider+1

Vzácná shoda mezi rivaly

Načasování je pozoruhodné, protože následuje po podobném prohlášení konkurenční společnosti Anthropic, která 4. června zveřejnila zprávu vyzývající laboratoře AI k vytvoření koordinovaného a ověřitelného rámce pro pozastavení vývoje, pokud by se pokročilé systémy začaly zdokonalovat rychleji, než je společnost schopna kontrolovat. „Věříme, že by bylo pro svět dobré mít možnost zpomalit nebo dočasně pozastavit vývoj špičkové AI, aby společenské struktury a výzkum bezpečnosti mohly držet krok,“ napsala společnost Anthropic.finance.yahoo+1

Anthropic varoval, že „rekurzivní sebezdokonalování“ – kdy systémy AI nezávisle navrhují, budují a trénují své nástupce – „by mohlo přijít dříve, než jsou mnohé organizace připraveny“, a že bez odpovídajících záruk by to mohlo zkomplikovat lidský dohled nad vývojem AI. Společnost uvedla, že jakákoli smysluplná pauza by vyžadovala dohodu mezi několika předními laboratořemi napříč zeměmi, zejména Spojenými státy a Čínou, spolu s ověřovacími protokoly.reuters+1

Od konkurence ke koordinaci

Konvergence mezi oběma společnostmi je vzhledem k jejich intenzivní komerční rivalitě zarážející. Obě se připravují na veřejnou nabídku akcií, přičemž Anthropic podal svůj formulář S-1 začátkem června a hodnota OpenAI přesahuje 850 miliard dolarů. Přesto obě nyní veřejně podporují myšlenku, že by externí orgán měl mít pravomoc brzdit vývoj nejvýkonnějších systémů AI.vktr+1

Snaha OpenAI o mezinárodní řídící orgán není nová – Altman poprvé navrhl „IAEA pro superinteligenci“ v roce 2023 – ale nejnovější prohlášení je ve svém znění konkrétnější. Podle serveru The Decoder vyzvali Altman a Pachocki k vytvoření „mezinárodního orgánu, který by v případě potřeby mohl zpomalit vývoj špičkových technologií“. Business Insider uvedl, že dvojice zdůraznila „nutnost národní a mezinárodní spolupráce a zopakovala svůj návrh na globální organizaci věnovanou zmírňování rizik spojených s AI, která by měla schopnost v případě potřeby zpomalit vývoj pokročilých modelů“.nytimes+2

Zda návrhy znamenají víc než jen rétoriku, se teprve uvidí. Žádná ze společností se nezavázala k jednostranným omezením vlastního vývoje a Anthropic uznal, že pokud by pauzu udělala pouze jedna firma, konkurenti by získali náskok. Ústřední otázkou nyní je, zda vlády na tuto výzvu zareagují – a zda laboratoře přijmou skutečnou externí autoritu nad svou prací.finance.yahoo