Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

xcnbc+1newsweekLabouristický poslanec Darren Jones vyzval k nové mezinárodní smlouvě upravující vývoj superinteligence v přímé reakci na rezignaci výzkumníka společnosti Anthropic Jacoba Coxona a následná bezpečnostní varování. Jones, bývalý ministr s dlouhou historií v oblasti technologické politiky, ve středu na síti X uvedl, že ačkoliv si „nikdy nemyslel, že bychom měli zakazovat inovace nebo vědecké úsilí“, nyní je „jasné, že potřebujeme novou mezinárodní smlouvu pro bezpečný a regulovaný vývoj superinteligence“.x+1
Jonesova intervence přišla několik hodin poté, co Coxon, sedmadvacetiletý výzkumník, který strávil tři roky v OpenAI i Anthropic, na síti X oznámil, že rezignoval a zcela odchází z oboru AI. „Ani jedna společnost nejedná zodpovědně,“ napsal Coxon. „Řítí se přímo k samovylepšující se superinteligenci a hazardují s našimi životy.“cnbc+1
Rezignace vyvolala výraznou veřejnou reakci Evana Hubingera, vedoucího týmu pro bezpečnost AI, který v Anthropic stále působí. „Jacob má v tomto pravdu – skutečně upřímně věříme, že AI by mohla zabít všechny lidi,“ napsal Hubinger na X. „Osobně si myslím, že v příštím desetiletí je šance vyšší než 10 %. Věřím, že Anthropic se snaží ze všech sil, ale zatím nemáme plán, jak vyřešit sladění superinteligence s lidskými zájmy.“newsweek+1
Jones na Hubingerův příspěvek přímo reagoval slovy: „Pokud je tato úroveň rizika pravdivá, laboratoře AI musí alespoň zpomalit.“x
Jones sloužil jako kancléř Lancasterského vévodství a hlavní tajemník premiéra pod Keirem Starmerem, než byl v červenci 2026 odvolán z kabinetu nastupujícím premiérem Andym Burnhamem. Nyní jako řadový poslanec zůstává jedním z nejvýraznějších hlasů parlamentu v oblasti správy technologií, přičemž založil Meziparlamentní fórum pro vznikající technologie.aiforgood.itu+2
Jeho výzva navazuje na rostoucí neklid v komunitě výzkumníků AI. V únoru rezignoval vedoucí výzkumu bezpečnosti v Anthropic Mrinank Sharma s varováním, že „svět je v ohrožení“. A 6. září hlavní vědec OpenAI Jakub Pachocki napsal, že žádná společnost zatím nedokáže spolehlivě udržet své nejpokročilejší modely pod lidskou kontrolou.bbc+2
Zda Jonesova výzva získá v parlamentu podporu, se teprve uvidí. Spojené království hostilo první globální summit o bezpečnosti AI v Bletchley Parku v roce 2023, ale závazná mezinárodní regulace se ukázala jako nedosažitelná. Rezignace relativně mladšího výzkumníka by obvykle přitáhla jen omezenou pozornost, ale Hubingerova veřejná podpora obav zevnitř jedné z předních světových laboratoří AI dodala této epizodě neobvyklou váhu.