Bývalý vědec z DeepMind varuje: AI se vyvíjí příliš rychle na to, aby ji šlo ovládat

Alex Turner, bývalý vědecký pracovník týmu pro škálovatelné zarovnání v Google DeepMind (společnost Alphabet Inc. ↘ 1.24%), v pondělí v rozhovoru pro Bloomberg prohlásil, že tempo vývoje umělé inteligence předstihlo schopnost vlád, firem i soupeřících velmocí zvládat její rizika. Jeho slova zazněla uprostřed bezprecedentní vlny výzev od předních představitelů AI průmyslu, aby se zběsilý postup v této oblasti zpomalil.

Rostoucí platforma whistleblowera

Turner v červnu rezignoval na svou pozici v Google DeepMind poté, co společnost podepsala dohodu umožňující Pentagonu využívat její AI pro utajované práce. Podle něj v dohodě chyběly závazné restrikce proti autonomním zbraním nebo masovému sledování. Od té doby se stal jedním z nejvýraznějších hlasů varujících před trajektorií AI. V minulém týdnu v pořadu CNBC uvedl, že má „obavy z rizika vyhynutí“ v důsledku této technologie.cnbc+2

V pondělním rozhovoru pro Bloomberg Turner vyzdvihl rekurzivní sebezdokonalování – schopnost systémů AI vylepšovat své vlastní schopnosti – jako ústřední nebezpečí a varoval, že by mohlo rychle vést ke vzniku inteligence přesahující lidské chápání. Jako praktickou páku pro regulaci označil sledování výpočetního výkonu, přičemž argumentoval, že monitorování obrovského výkonu potřebného k trénování špičkových modelů by vládám poskytlo konkrétní způsob, jak vynutit limity. Turner připustil, že nedávné výzvy technologických gigantů ke zpomalení mohou být částečně upřímné, ale také strategickým krokem k upevnění jejich výhody.bloomberg

Sbor v průmyslu sílí

Turnerova varování přicházejí v klíčovém týdnu pro debatu o bezpečnosti AI. V sobotu publikoval generální ředitel Anthropic Dario Amodei esej o 3 800 slovech s názvem „Musíme zpomalit na hranici možností“, v níž vyzval laboratoře k záměrnému omezení růstu schopností, aby výzkum bezpečnosti mohl držet krok. Generální ředitel OpenAI Sam Altman a Elon Musk tuto zprávu veřejně podpořili. Souhlas vyjádřil i Demis Hassabis, který vede Google DeepMind.cnbc+1

Amodei představil tříkrokový rámec: začlenění nezávislých hodnotitelů přímo do laboratoří, koordinaci bezpečnostních standardů mezi demokratickými zeměmi a postupné rozšíření těchto dohod globálně, včetně Číny. K pondělí však žádná konkurenční laboratoř nenásledovala konkrétní závazek Anthropic poskytnout externím auditorům přístup na úrovni zaměstnanců.shattered

Dilema jménem Čína

Geopolitický rozměr je zásadní. Sám Amodei označil Čínu za „nejtěžší dilema“ pro jakýkoli návrh na zpomalení a uznal riziko, že jednostranná zdrženlivost západních laboratoří by mohla přenechat prostor Pekingu. Turner v samostatné výměně na sociálních sítích oponoval Davidu Sacksovi, poradci pro AI v administrativě Donalda Trumpa, který výzvy k zákonům o zpomalení odmítl jako pokus o potlačení konkurence. Turner v nedělním komentáři pro Guardian napsal, že řešení je „přímé: zabránit společnostem v tom, aby umožnily AI sebezdokonalování nad úroveň zvládnutelné inteligence“.politomix+3