EU vyzývá firmy k prokázání bezpečnosti AI uprostřed volání po zpomalení

Evropská unie v pondělí sdělila společnostem vyvíjejícím umělou inteligenci, že musí prokázat bezpečnost svých služeb, než budou moci v bloku působit. Debata o tempu vývoje AI se vyostřila poté, co vrcholoví představitelé průmyslu vyzvali k jeho zpomalení.

Mluvčí Evropské komise Thomas Regnier uvedl, že blok podporuje inovace v oblasti AI, ale „nesleví ze svých bezpečnostních standardů“, informovala agentura Anadolu. Společnosti musí prokázat, že jejich služby jsou pro občany EU bezpečné, řekl Regnier a potvrdil postoj bloku v době, kdy vstupují v platnost klíčová ustanovení Aktu EU o umělé inteligenci.jpost+1

Víkend plný varování před riziky AI

Prohlášení EU přišlo několik dní poté, co generální ředitel společnosti Anthropic Dario Amodei v sobotu publikoval esej o rozsahu 3 800 slov s názvem „Musíme zpomalit tempo“, v níž varoval, že bez cíleného zpomalení by AI mohla během několika měsíců být schopna akcí, které představují vážná rizika, včetně ovládání rojů agentů schopných narušit kritickou internetovou infrastrukturu. Amodei vyzval k nezávislým auditům, které by ověřily bezpečnostní standardy v hlavních laboratořích AI, a naléhal na firmy, aby externím hodnotitelům poskytly „průběžný přístup podobný zaměstnaneckému“ pro monitorování jejich práce.techxplore+2

Výzva se setkala s rychlou podporou dalších předních manažerů. Generální ředitel OpenAI Sam Altman souhlasil s potřebou zpomalit pokrok u hraničních modelů, Elon Musk podpořil Amodeiův postoj v příspěvku na síti X a předseda Google DeepMind Alphabet Inc. ↘ 1.24% Demis Hassabis rovněž vyjádřil souhlas. Tento sbor obav poslal akcie firem spojených s AI před pondělním zahájením obchodování dolů, přičemž nejvíce byly zasaženy společnosti vyrábějící čipy a paměťové komponenty.nytimes+2

Evropa si určuje vlastní cestu v AI

Nezávisle na tom v pondělí koalice ekonomů a bývalých tvůrců politik, včetně nositele Nobelovy ceny Philippa Aghiona a bývalé komisařky EU Margrethe Vestagerové, zveřejnila strategii pro transformativní AI, která varuje, že Evropě bez okamžitých opatření hrozí „trvalá marginalizace“.ieu-monitoring

Strategie vyzývá členské státy EU, aby do roku 2030 dosáhly 15procentního podílu na globální kapacitě datových center pro AI, což je nárůst z přibližně 5 procent v současnosti. To by vyžadovalo odhadované investice ve výši 1,3 bilionu eur a dodatečných 45 gigawattů výkonu. Clemens Fuest, prezident institutu ifo a spoluautor strategie, poznamenal, že evropští vývojáři modelů AI „dohromady generují méně než 2 % příjmů pouhých dvou amerických konkurentů“.ieu-monitoring

Regulace naráží na naléhavost

Povinnosti pro vysoce rizikové systémy podle Aktu EU o umělé inteligenci se staly vymahatelnými 2. srpna 2026. Vyžadují, aby poskytovatelé dokončili posouzení shody, zaregistrovali systémy v databázi EU a aktivovali monitorování po uvedení na trh. Za nedodržení předpisů hrozí firmám pokuty až do výše 35 milionů eur nebo 7 procent celosvětového ročního obratu.cloudsecurityalliance+1

Vestagerová, spoluautorka nové strategie, tento okamžik popsala velmi ostře: „Nesmíme dovolit, aby se Evropa stala hřištěm pro cizí mocnosti“.ieu-monitoring