Šéf OpenAI Altman bude informovat Radu bezpečnosti OSN o rizicích AI

Společnost OpenAI v pondělí zveřejnila návrh, v němž naléhavě vyzývá Spojené státy, aby stály v čele mezinárodního úsilí o vytvoření globálních bezpečnostních a technických standardů pro pokročilou umělou inteligenci. Varovala, že nečinnost by mohla vést k tomu, že země bude přihlížet tomu, jak se kolem ní „formuje roztříštěný, nerovnoměrný a konfliktní systém“.thenextweb+1

Návrh, který se zaměřuje na modely typu frontier AI a rekurzivní sebezdokonalování — proces, při němž systémy AI přebírají stále větší odpovědnost za vývoj svých nástupců — přichází v týdnu zvýšené diplomatické aktivity ohledně AI v rámci OSN a mezi Washingtonem a Pekingem.

Standardy, nikoliv licence

Plán OpenAI volá po společných rámcích pro měření schopností AI, posuzování rozsahu autonomního výzkumu uvnitř firem a zavedení sdílených protokolů pro hlášení incidentů se společnou klasifikací závažnosti. Společnost navrhla, aby toto úsilí probíhalo prostřednictvím Centra pro standardy a inovace v oblasti AI při americkém ministerstvu obchodu a rostoucí sítě národních institutů pro bezpečnost AI v zemích, jako je Velká Británie, Japonsko, Francie a Kanada.dig+1

Firma zdůraznila, že standardy „by nebyly licencemi, povinným přezkumem před vydáním ani požadavky na schválení modelů AI“, přičemž by ponechaly jednotlivým vládám rozhodnutí, jak je začlenit do vnitrostátního práva. OpenAI rovněž vyzvala k vytvoření bezpečných komunikačních kanálů mezi vládami a provozovateli kritické infrastruktury pro sdílení informací o vznikajících hrozbách a uvedla, že dialog mezi Spojenými státy a Čínou „by byl pozitivním krokem“.thenextweb+2

„Plně autonomní rekurzivní sebezdokonalování dnes neexistuje a neměli bychom o něj usilovat, dokud nebude možné jej provádět bezpečně,“ uvedla společnost.thenextweb

Rušný týden pro diplomacii v oblasti AI

Návrh přišel uprostřed vlny aktivit. Ministr financí Scott Bessent o víkendu uvedl, že se USA a Čína dohodly na vytvoření bilaterálního dialogu o AI, a Washington navrhl Pekingu mechanismus pro oznamování incidentů souvisejících s AI. Prezident Donald Trump v pondělí na síti Truth Social napsal, že upřednostňuje mírnou regulaci AI, a dodal: „Kdo vyhraje v AI, ten VYHRAJE!“ Bessent odděleně prohlásil, že administrativa neposkytne laboratořím vyvíjejícím pokročilou AI ochranu před právní odpovědností.foxbaltimore+1

V úterý na Valném shromáždění OSN varoval generální tajemník António Guterres před nebezpečím AI a vyzval ke globální spolupráci. Trump, který vystoupil krátce poté, myšlenku odmítl jako „globalistické schéma“ a podle agentury Bloomberg uvedl, že USA přejmenovávají AI na „superinteligenci“.thenextweb

Altman míří do Rady bezpečnosti

Sam Altman má ve středu odpoledne informovat Radu bezpečnosti OSN spolu s generálním ředitelem Anthropic Dariem Amodeiem, výzkumníkem v oblasti AI Yoshuou Bengiem a generálním ředitelem Hugging Face Clémentem Delanguem. Jde o první zasedání rady zaměřené na bezpečnostní rizika stále schopnější umělé inteligence. Zástupci OpenAI uvedli, že Altman se bude prezentovat jako „pragmatický centrista“, který prosazuje sdílené bezpečnostní standardy, aniž by koncentroval moc v rukou několika málo firem.thenextweb

Koncem tohoto týdne se Altman zúčastní státní večeře v Bílém domě na počest čínského prezidenta Si Ťin-pchinga, což podtrhuje, jak ústřední roli hraje AI v americko-čínských vztazích.foxbaltimore+1