Analýza: Laboratoře AI pokračují v závodech navzdory výzvám ke zpomalení

Šest týdnů poté, co generální ředitel společnosti Anthropic Dario Amodei vyzval odvětví umělé inteligence, aby „zpomalilo“, a dva z jeho hlavních rivalů s tím veřejně souhlasili, přední laboratoře své tempo nezmírnily. Analýza Washington Post zjistila, že Anthropic, OpenAI, Google a SpaceX od té doby vydaly nové, schopnější modely. Anthropic také informoval potenciální investory, že plánuje utratit stovky miliard dolarů na budování výkonnějších systémů, uvedl list Post.washingtonpost.com+1

Veřejný pakt a následné IPO

V eseji Daria Amodeie z 12. září s názvem „Musíme zpomalit tempo vývoje“ se uvádí: „Musíme zpomalit tempo, kterým zlepšujeme schopnosti modelů AI,“ píše se v dopise kontrolora města New York Marka Levina. „Dario má pravdu,“ napsal generální ředitel SpaceX Elon Musk na síti X. Generální ředitel OpenAI Sam Altman následně uvedl: „Souhlasím s Dariem,“ informoval Post. Altman také řekl, že OpenAI vyhoví návrhu Amodeie poskytnout nezávislým hodnotitelům přístup podobný zaměstnaneckému, uvedl The Daily Star.inquirer.com+2

V pondělí 26. října podala společnost Anthropic žádost o primární veřejnou nabídku akcií (IPO), která by mohla být největší v historii, uvedla agentura AP. Společnost plánuje vstoupit na burzu Nasdaq pod symbolem a podle TechCrunch vykázala za první polovinu roku 2026 tržby ve výši 16,3 miliardy dolarů. „V dohledné budoucnosti očekáváme významné investice, mimo jiné do výpočetní techniky a infrastruktury,“ uvádí se v podání, které citoval Post. OpenAI plánuje vlastní IPO v nadcházejících měsících.pbs.org+2

Rostoucí kontrola

V úterý 27. října zaslala senátorka Elizabeth Warren Amodeiovi dopis, v němž ho požádala, aby vysvětlil, jak varování v podání pro IPO, že modely Anthropic mohou „představovat katastrofická nebo existenční rizika pro lidstvo“, souvisí se snahou vstoupit na burzu. Požádala o odpovědi do 3. listopadu, uvedl server CFO Dive. Connor Leahy z neziskové organizace ControlAI pro Post uvedl, že firmy by měly být posuzovány podle toho, co dělají, nikoliv podle toho, co říkají. „Sledujte ruce, ne ústa,“ řekl.cfodive.com

Podle listu Post uvedl Malo Bourgon z Machine Intelligence Research Institute, že vztah společnosti Anthropic k výzkumníkům v oblasti bezpečnosti AI se „pomalu zhoršuje“. Kritici také napadli návrh federálního zákona šířený lobbisty společnosti Anthropic s argumentem, že by přebil státní zákony o AI.

Laboratoře poukazují na bezpečnostní opatření

Laboratoře tvrdí, že podnikly určité kroky. Podle listu Post začal Anthropic pouštět externí výzkumníky do svých kanceláří, aby monitorovali vývojové práce, a jak Anthropic, tak OpenAI občas pozastavily práci poté, co se modely chovaly neočekávaně. OpenAI odkázala na příspěvek na blogu z 23. října, v němž svou monitorovací práci popisuje jako „klíčovou součást odpovědného tempa vývoje našich špičkových modelů“.

Amodei svůj přístup obhajoval v příspěvku o rozsahu 2 000 slov. „Naše strategie byla vždy tím, co jsem nazval 'závodem na vrchol',“ napsal podle listu Post. „Tím, že ukážeme, jak je možné technologii vyvíjet zodpovědně, můžeme zvýšit laťku pro celé odvětví.“inquirer.com