Generální ředitel Amazonu Jassy vznesl obavy předtím, než USA vypnuly modely umělé inteligence společnosti Anthropic

Generální ředitel společnosti Amazon.com, Inc. ↗ 1.33% Andy Jassy vedl tento týden diskuse s ministrem financí Scottem Bessentem a dalšími vysokými představiteli Trumpovy administrativy o bezpečnostních zranitelnostech v nejpokročilejších modelech umělé inteligence společnosti Anthropic. Tyto rozhovory přímo předcházely bezprecedentní směrnici o kontrole vývozu, kterou ministerstvo obchodu vydalo v pátek 12. června a která nařídila společnosti Anthropic celosvětově pozastavit přístup k jejím systémům Claude Fable 5 a Mythos 5.

Toto odhalení, o kterém jako první informoval server The Information a potvrdil jej deník Wall Street Journal, odhaluje pozoruhodný konflikt: Amazon je současně největším investorem společnosti Anthropic – s přislíbenými více než 4 miliardami dolarů –, jejím hlavním partnerem v oblasti cloudové infrastruktury prostřednictvím AWS a nyní společností, jejíž lobbing vyvolal vládní odstavení vlajkových produktů společnosti Anthropic.theinformation+1

Směrnice a její dopady

Ministr obchodu Howard Lutnick zaslal v pátek generálnímu řediteli společnosti Anthropic Dariu Amodeimu dopis, kterým oba modely podrobil vývozní kontrole a zakázal k nim přístup všem cizím státním příslušníkům uvnitř i vně Spojených států, včetně vlastních zaměstnanců společnosti Anthropic, kteří jsou cizími státními příslušníky. Společnost Anthropic uvedla, že směrnici obdržela v 17:21 východoamerického času a protože nebyla schopna v krátké době ověřit státní příslušnost všech uživatelů, deaktivovala oba modely pro všechny zákazníky po celém světě.letsdatascience+3

„Čistým efektem tohoto nařízení je, že musíme okamžitě deaktivovat Fable 5 a Mythos 5 pro všechny naše zákazníky, abychom zajistili shodu,“ uvedla společnost Anthropic. Přístup k ostatním modelům společnosti zůstává nedotčen.facebook

Tento krok představuje nejagresivnější zásah vlády USA s cílem omezit přístup ke komerčně nasazenému modelu umělé inteligence. Představitel administrativy pro Axios uvedl, že omezení mohou trvat „příštích několik týdnů“, zatímco se budou vyhodnocovat bezpečnostní obavy.letsdatascience

Konkurenční narativy

V centru sporu stojí údajný „jailbreak“ modelu Fable 5 – údajně demonstrovaný výzkumníky, kteří model použili k získání informací užitečných pro kybernetické útoky. Společnost Anthropic jej charakterizovala jako „potenciální úzký, nikoliv univerzální jailbreak“ zahrnující dříve známé zranitelnosti, a argumentovala tím, že model byl pouze vyzván k přečtení konkrétní kódové základny a identifikaci softwarových chyb.techcrunch

David Sacks, bývalý poradce Bílého domu pro umělou inteligenci, v sobotu uvedl, že Amodei odmítl vládní požadavek na „opravu jailbreaku nebo stažení modelu“, poté co „vysoce důvěryhodný partner“ nahlásil zranitelnost. Společnost Anthropic rozsah obav zpochybnila, směrnici označila za „nedorozumění“ a uvedla, že doufá v obnovení přístupu „co nejdříve“.wftv+1

Propletená síť zájmů

Tato epizoda zdůrazňuje mimořádné propletence v odvětví umělé inteligence. Amazon konkuruje společnosti Anthropic prostřednictvím svých vlastních modelů Nova a zároveň slouží jako poskytovatel cloudu a největší podporovatel společnosti. Expertka na kybernetickou bezpečnost Katie Moussouris, která zprávu o jailbreaku přezkoumala, označila reakci vlády za „naprostou přehnanou reakci“, zatímco jeden z demokratických členů Sněmovny reprezentantů označil směrnici za „pokus o korporátní vraždu“.fourweekmba

Model Fable 5 byl veřejně spuštěn 9. června jako verze výkonnějšího modelu Mythos 5, který společnost Anthropic od dubna omezila pouze na prověřené obránce kybernetické bezpečnosti kvůli jeho schopnosti identifikovat zranitelnosti typu „zero-day“. Širší model Mythos již dříve vyvolal poplach u federálních úředníků, což vedlo Bessenta a předsedu Federálního rezervního systému Jerome Powella k tomu, že v dubnu varovali generální ředitele bank před jeho riziky.sullcrom+3