Agentura EU pro kybernetickou bezpečnost se setká s Anthropic po zákazu exportu Fable 5

Bezprecedentní využití vývozních kontrol ze strany amerického ministerstva obchodu, které přinutilo společnost Anthropic deaktivovat své nejpokročilejší modely umělé inteligence, vyvolalo mezi odborníky na kybernetickou bezpečnost poplach a přitáhlo mezinárodní pozornost. Agentura EU pro kybernetickou bezpečnost ENISA se má ve čtvrtek v San Franciscu setkat se zástupci společnosti, aby projednali následky tohoto kroku.

Odstávka

Večer 12. června zaslal ministr obchodu Howard Lutnick dopis generálnímu řediteli Anthropic Dariu Amodeimu, v němž společnosti nařídil pozastavit veškerý přístup k modelům Fable 5 a Mythos 5 pro všechny cizí státní příslušníky, a to jak uvnitř, tak vně Spojených států, včetně vlastních zaměstnanců společnosti Anthropic, kteří nejsou občany USA. Protože Anthropic nemá mechanismus pro selektivní filtrování uživatelů podle státní příslušnosti v reálném čase, společnost během několika hodin deaktivovala oba modely pro všechny zákazníky po celém světě.contracollective+3

Tento krok představuje první případ, kdy americká vláda využila vývozní kontroly k omezení přístupu ke komerčně dostupnému modelu AI, který je již široce využíván veřejností. Ostatní modely Claude společnosti Anthropic, včetně Opus 4.8, zůstaly nedotčeny.fortune+2

Role Amazonu a obavy z „jailbreaku“

Zdá se, že katalyzátorem je společnost Amazon Amazon.com, Inc. ↗ 0.40%. Podle deníku The Wall Street Journal generální ředitel Amazonu Andy Jassy řekl ministrovi financí Scottu Bessentovi a dalším úředníkům, že výzkumníci Amazonu použili Fable 5 k získání informací, které by mohly usnadnit kybernetické útoky. Vláda krátce poté zavedla zákaz vývozu.thenextweb+1

Společnost Anthropic se ohradila a uvedla, že směrnice byla „založena na úzkém, nikoli univerzálním „jailbreaku“, zahrnujícím schopnosti, které jsou již dostupné v jiných modelech“. Společnost uvedla, že „jailbreak“ odhalil pouze „malý počet dříve známých, drobných zranitelností“ a označila reakci vlády za nepřiměřenou.facebook+1

Zprávy také naznačují, že Bílý dům jednal částečně na základě podezření, že skupina napojená na Čínu získala přístup k modelu Mythos, což vyvolalo obavy, že by model mohl být zpětně analyzován zahraničním protivníkem.forbes

Reakce kybernetické bezpečnosti a reakce EU

Desítky odborníků na kybernetickou bezpečnost zveřejnily otevřený dopis, v němž vyzývají Bílý dům ke zrušení omezení, a varují, že tento krok vytváří precedens, který by mohl odradit americké společnosti zabývající se umělou inteligencí od vytváření pokročilých bezpečnostních nástrojů. Server TechCrunch označil tento zásah za „budíček pro každou americkou technologickou společnost“.techcrunch+1

Evropská komise mezitím ve středu potvrdila, že se ENISA ve čtvrtek v San Franciscu setká se společností Anthropic. Schůzka byla domluvena ještě před vydáním příkazu k vývozní kontrole, kdy se Anthropic připravoval poskytnout ENISA přístup k modelu Mythos prostřednictvím iniciativy Project Glasswing. Agentura Bloomberg 1. června informovala, že ENISA by se měla stát první agenturou EU, které bude udělen přístup k tomuto modelu.devdiscourse+3

Společnost Anthropic se v pondělí ve Washingtonu samostatně setkala s představiteli Bílého domu a ministerstva obchodu, aby se pokusila spor vyřešit.bbc