Europoslanci pokárali společnost Anthropic za to, že na slyšení o bezpečnosti AI poslala řadového zaměstnance

Evropští zákonodárci v úterý pokárali společnost Anthropic za to, že na slyšení před výborem Evropského parlamentu pro vnitřní trh a ochranu spotřebitelů poslala řadového technického zaměstnance, zatímco firma čelila ostrým otázkám ohledně rizik kybernetické bezpečnosti, která představuje její pokročilý model Claude Mythos.

Slyšení, které se konalo 14. července, se prostřednictvím videoodkazu zúčastnil Donny Greenberg, který je v personálním seznamu společnosti Anthropic uveden jako „člen technického personálu“ a do firmy nastoupil v dubnu. Europoslanci očekávali účast vedoucího pracovníka pro veřejnou politiku společnosti Anthropic a vyjádřili frustraci z toho, že společnost neposlala vysokého představitele, aby se vyjádřil k tomu, co označili za naléhavé obavy o bezpečnost EU a digitální suverenitu.politico+2

Kybernetické schopnosti pod drobnohledem

Výměna názorů se zaměřila na bezpečnostní rizika a rizika v oblasti kybernetické bezpečnosti, která představují pokročilé systémy umělé inteligence společnosti Anthropic, zejména Claude Mythos, který Evropský parlament popsal jako systém schopný provádět „komplexní úkoly v oblasti kybernetické bezpečnosti s minimálním lidským přispěním, jako je vyhledávání slabin v softwaru a dokončování vícekrokových akcí“. Slyšení se dotklo také uplatňování aktu EU o umělé inteligenci a evropských digitálních pravidel na modely společnosti Anthropic.europarl.europa+3

Zasedání se koná na pozadí rostoucího napětí mezi Bruselem a společností Anthropic. V červnu společnost oznámila, že „náhle deaktivuje“ své nejpokročilejší modely AI pro všechny uživatele poté, co jí americká vládní směrnice nařídila pozastavit přístup pro cizí státní příslušníky z důvodů národní bezpečnosti. Tento krok přiměl Evropskou komisi k přezkoumání „praktických důsledků“ rozhodnutí a dále rozdmýchal obavy z evropské závislosti na amerických firmách zabývajících se umělou inteligencí.reuters

Obavy o digitální suverenitu

Europoslanci se Greenberga ptali, zda by Evropská unie měla vyvinout vlastní alternativy k hraničním systémům AI kontrolovaným USA a zda by Anthropic mohla pomoci Evropě snížit její strategickou závislost. Magazín The Parliament v květnu uvedl, že Anthropic omezila přístup EU k modelu Mythos, což je „krok, který by mohl zvýšit bezpečnostní rizika pro Evropu“.linkedin+1

Slyšení následuje po širší snaze Bruselu řešit digitální suverenitu. Evropská komise začátkem července představila plán kybernetické bezpečnosti v oblasti AI, jehož cílem je řešit rizika spojená s nejmodernější umělou inteligencí a snížit závislost na dodavatelích mimo EU. Čtyři členské státy EU, včetně Španělska, již dříve vyzvaly k akci v této věci.euronews+1

Společnost Anthropic již dříve vyzvala ke spolupráci na modelech AI v kybernetické obraně, ale rozhodnutí poslat na slyšení, které se připravovalo měsíce, řadového zaměstnance vedlo některé zákonodárce k pochybnostem o odhodlání společnosti spolupracovat s evropskými institucemi.euperspectives+1