Amazon CEO’su Jassy, ABD Anthropic’in yapay zeka modellerini kapatmadan önce endişelerini dile getirdi

Amazon.com, Inc. ↗ 0.40% CEO'su Andy Jassy, bu hafta Hazine Bakanı Scott Bessent ve diğer üst düzey Trump yönetimi yetkilileriyle Anthropic'in en gelişmiş yapay zeka modellerindeki güvenlik açıkları hakkında görüşmelerde bulundu. Bu görüşmeler, Ticaret Bakanlığı'nın 12 Haziran Cuma günü yayınladığı ve Anthropic'e Claude Fable 5 ve Mythos 5 sistemlerine küresel erişimi askıya almasını emreden benzeri görülmemiş ihracat kontrol direktifinden hemen önce gerçekleşti.

İlk olarak The Information tarafından bildirilen ve Wall Street Journal tarafından doğrulanan bu ifşaat, çarpıcı bir çatışmayı ortaya koyuyor: Amazon, 4 milyar doları aşan taahhüdüyle Anthropic'in en büyük yatırımcısı, AWS aracılığıyla birincil bulut altyapısı ortağı ve şimdi de lobi faaliyetleri Anthropic'in amiral gemisi ürünlerinin hükümet tarafından kapatılmasına yol açan şirket konumunda.theinformation+1

Direktif ve Sonuçları

Ticaret Bakanı Howard Lutnick, Cuma günü Anthropic CEO'su Dario Amodei'ye her iki modeli de ihracat kontrolleri altına alan bir mektup göndererek, Anthropic'in kendi yabancı uyruklu çalışanları da dahil olmak üzere Amerika Birleşik Devletleri içindeki ve dışındaki tüm yabancı uyruklular için erişimi yasakladı. Anthropic, direktifi saat 17:21'de aldığını ve tüm kullanıcıların vatandaşlığını kısa sürede doğrulayamadığı için her iki modeli de dünya genelindeki tüm müşteriler için devre dışı bıraktığını belirtti.letsdatascience+3

Anthropic, "Bu emrin net etkisi, uyumluluğu sağlamak için Fable 5 ve Mythos 5'i tüm müşterilerimiz için aniden devre dışı bırakmak zorunda kalmamızdır" açıklamasında bulundu. Şirketin diğer modellerine erişim etkilenmedi.facebook

Bu eylem, ABD hükümetinin ticari olarak dağıtılmış bir yapay zeka modeline erişimi kısıtlamak için attığı en agresif adımı temsil ediyor. Bir yönetim yetkilisi Axios'a verdiği demeçte, güvenlik endişeleri değerlendirilirken kısıtlamaların "önümüzdeki birkaç hafta" sürebileceğini söyledi.letsdatascience

Çatışan Anlatılar

Anlaşmazlığın merkezinde, Fable 5'in iddia edilen bir jailbreak'i yer alıyor; bildirildiğine göre bu, modeli siber saldırılar için yararlı bilgiler çıkarmak amacıyla kullanan araştırmacılar tarafından gösterildi. Anthropic bunu, daha önce bilinen güvenlik açıklarını içeren "potansiyel olarak dar, evrensel olmayan bir jailbreak" olarak nitelendirdi ve modelin sadece belirli bir kod tabanını okuması ve yazılım hatalarını tanımlaması için yönlendirildiğini savundu.techcrunch

Beyaz Saray'ın eski yapay zeka danışmanı David Sacks, Cumartesi günü yaptığı açıklamada, "son derece güvenilir bir ortağın" güvenlik açığını bildirmesinin ardından Amodei'nin hükümetin "jailbreak'i düzeltme veya modeli geri çekme" talebini reddettiğini söyledi. Anthropic, endişenin kapsamına itiraz ederek direktifi bir "yanlış anlaşılma" olarak nitelendirdi ve erişimi "mümkün olan en kısa sürede" geri getirmeyi umduğunu belirtti.wftv+1

Karmaşık Çıkar Ağı

Bu olay, yapay zeka endüstrisindeki olağanüstü karmaşıklıkları vurguluyor. Amazon, kendi Nova modelleriyle Anthropic ile rekabet ederken aynı zamanda şirketin bulut sağlayıcısı ve en büyük destekçisi olarak hizmet veriyor. Jailbreak raporunu inceleyen siber güvenlik uzmanı Katie Moussouris, hükümetin tepkisini "tam bir aşırı tepki" olarak nitelendirirken, Demokrat bir Temsilciler Meclisi üyesi direktifi "kurumsal cinayet girişimi" olarak adlandırdı.fourweekmba

Fable 5, 9 Haziran'da, Anthropic'in sıfırıncı gün (zero-day) güvenlik açıklarını tanımlama yeteneği nedeniyle Nisan ayından beri denetlenmiş siber güvenlik savunucularıyla sınırladığı daha güçlü Mythos 5'in bir versiyonu olarak halka açıldı. Daha geniş kapsamlı Mythos modeli, federal yetkililer arasında zaten alarm zillerini çaldırmış, bu da Bessent ve Federal Rezerv Başkanı Jerome Powell'ı Nisan ayında banka CEO'larını riskleri konusunda uyarmaya sevk etmişti.sullcrom+3