EU začíná vymáhat pravidla pro transparentnost AI a deepfakes

Evropská unie začala 2. srpna vymáhat klíčová ustanovení svého přelomového Aktu o AI. Ten po firmách požaduje, aby uživatele informovaly o tom, že komunikují s umělou inteligencí, a aby označovaly obsah vytvořený nebo upravený pomocí AI, včetně deepfakes, strojově čitelnými značkami.sifted+1

Vstupují v platnost nové povinnosti

Podle pravidel, která jsou nyní v účinnosti, musí chatboti, AI agenti a digitální avataři jasně informovat uživatele, že jednají s automatizovaným systémem, a nikoli s člověkem. Deepfake obrázky, videa a audio nahrávky musí být viditelně označeny a dotčený obsah musí obsahovat technické značky, které platformám a automatizovaným nástrojům umožní jeho detekci. Texty generované AI, které jsou publikovány za účelem informování veřejnosti o záležitostech veřejného zájmu, musí být rovněž označeny, pokud neprošly lidskou kontrolou nebo redakčním dohledem.theaiinsider

Poskytovatelé obecných modelů AI čelí dalším požadavkům: musí dokumentovat své modely a zpřístupnit tyto informace regulačním orgánům, zavést politiky pro dodržování autorských práv a zveřejňovat dostatečně podrobná shrnutí popisující materiály použité k trénování jejich systémů. Vývojáři nejvýkonnějších modelů se navíc musí zabývat systémovými riziky, jako jsou kybernetické útoky, škodlivá manipulace a ztráta kontroly.theaiinsider

Evropská komise uvedla, že více než 180 organizací podepsalo dobrovolný kodex chování, který má firmám pomoci tato pravidla transparentnosti uplatňovat.theaiinsider

Vymáhání a sankce

Odpovědnost za vymáhání pravidel je rozdělena mezi Úřad pro AI při Evropské komisi, národní regulační orgány a Evropského inspektora ochrany údajů. Firmám, které pravidla poruší, hrozí pokuty až do výše 3 % jejich ročního celosvětového obratu.sifted+1

„Požadavky na transparentnost podle Aktu o AI mají širší rozsah, než si většina organizací uvědomuje,“ uvedl Marcus Evans, partner v právní firmě Norton Rose Fulbright. „Nejde jen o záležitost velkých vývojářů AI, může to ovlivnit i organizace, které zavádějí nástroje AI pod vlastní značkou.“sifted

Očekává se, že tato pravidla zvýší tlak na americké společnosti zabývající se AI, které obsluhují evropské zákazníky. „Jakákoli laboratoř s evropskými zákazníky si nyní musí být vědoma toho, že pokud se výstupy jejího modelu dostanou k uživatelům v EU, vztahují se tato pravidla i na ni,“ uvedl Peter Van Dyck, partner v právní firmě A&O Shearman.sifted

Co bude následovat

Očekává se, že vymáhání bude nabíhat postupně. Regulátoři budou zpočátku spíše požadovat, aby firmy prokázaly aktivní snahu o dosažení souladu s předpisy, než aby okamžitě ukládali pokuty. Technickou podporu bude poskytovat šedesátičlenný vědecký panel nezávislých odborníků na AI a Úřad pro AI jmenoval Alessandra Abateho z Oxfordské univerzity svým hlavním vědeckým poradcem.theaiinsider+1

Na obzoru jsou i další ustanovení. EU plánuje zavést dodatečné zákazy 2. prosince 2026, zatímco požadavky na vysoce rizikové systémy AI byly odloženy na roky 2027 a 2028.theaiinsider