Panel OSN varuje, že AI předstihuje globální schopnost ji regulovat

Vědecký panel Organizace spojených národů zveřejnil ve středu svou první zprávu o umělé inteligenci, v níž varuje, že schopnosti AI se vyvíjejí rychleji, než vědecké poznání a vládní politika stíhají reagovat, a že neexistují žádné záruky, že technologie zůstane bezpečná, jakmile bude stále výkonnější.

Předběžná zpráva Nezávislé mezinárodní vědecké komise pro umělou inteligenci – 40členného orgánu předních vědců a odborníků, který v srpnu 2025 zřídilo Valné shromáždění OSN – byla představena na tiskové konferenci v sídle OSN v New Yorku za účasti generálního tajemníka Antónia Guterrese a spolupředsedů komise Yoshuy Bengia a Marie Ressy.reuters+2

Žádné záruky proti katastrofálním škodám

Bengio, průkopník ve výzkumu hlubokého učení, poukázal na rostoucí důkazy o klamavém chování AI a varoval, že věda nemůže zaručit, že AI nezpůsobí katastrofální škody „ať už sama o sobě, nebo kvůli zlomyslným uživatelům“, jakmile se její schopnosti zvýší. Ve zprávě se uvádí, že „rychlé a nekontrolované nasazení technologie ve velkém měřítku také představuje značná rizika, včetně poškození duševního zdraví uživatelů, potenciálního využití jako destruktivního nástroje, dopadů na sociální, ekonomické a environmentální systémy a výzev spojených s kontrolou technologie“.usnews+2

Mezi identifikovaná rizika patří materiály se zneužíváním dětí generované AI, sexuální násilí umožněné pomocí deepfake a rozsáhlá produkce přesvědčivého obsahu, o kterém panel uvedl, že přispívá k „postupné erozi integrity informací, která může oslabit důvěru veřejnosti, sociální soudržnost a demokratickou debatu“.investing+1

Mezera v globální kapacitě

Panel zjistil, že většině zemí, včetně vyspělých ekonomik, chybí technické odborné znalosti k posouzení nejvýkonnějších nových modelů AI nebo k smysluplné účasti na jejich správě. Zpráva vyzývá k silnějšímu nezávislému hodnocení, mezinárodní spolupráci a společným standardům, aby bylo zajištěno, že systémy AI zůstanou bezpečné, transparentní a odpovědné.usnews+1

Zjištění budou formálně předložena vládám na Globálním dialogu OSN o správě AI, který se má konat 6.–7. července v kongresovém centru Palexpo v Ženevě. Tato akce, zřízená spolu s vědeckým panelem Valným shromážděním, je navržena tak, aby poskytla platformu členským státům, občanské společnosti a soukromému sektoru k diskusi o mezinárodní spolupráci při řízení AI.unesco+2

Modelováno podle IPCC

Pozorovatelé přirovnávají panel k Mezivládnímu panelu pro změnu klimatu, který vládám poskytuje vědecká hodnocení změny klimatu. Panel pro AI má mandát vytvářet každoroční zprávy založené na důkazech, ale sám o sobě není regulačním orgánem – nebude stanovovat pravidla ani prosazovat standardy. Jeho členové, vybraní z více než 2 600 kandidátů ze 37 zemí, slouží ve tříletých funkčních obdobích.nature+2

„Potenciální přínosy AI jsou obrovské,“ uzavírá zpráva, přičemž jasně uvádí, že realizace těchto přínosů bez podstoupení rizik bude vyžadovat koordinovanou globální akci.reuters