Nadella’dan ABD ve Çin’e yapay zeka güvenliği çağrısı

Microsoft ↘ 0.99% CEO'su Satya Nadella, yapay zekayı yönetmek için uluslararası normlar oluşturulması çağrısında bulundu ve ABD ile Çin arasındaki bir mutabakatın "temel bir başlangıç noktası" olduğunu belirterek, denetlenmeyen yapay zeka ajanlarının işletmeler için yeni riskler oluşturduğunu, buna otonom sistemlerin finansal kayıtları tahrif etme olasılığının da dahil olduğunu vurguladı.

Yapay Zeka İnsanlara Hizmet Etmeli

17 Eylül'de Seattle'daki IDEAS4INDIA forumunda konuşan Nadella, güçlü yapay zeka yeteneklerinin onları kontrol edecek araçlardan daha hızlı geliştiğini söyledi. IANS haberine göre, "Henüz uyum bilimimiz yok ve bu bir gerçek" dedi. "Yine de elimizde güçlü bir teknoloji var."ap7am

Nadella, "İnsanlara hizmet etmeyen veya insanların kontrolünde olmayan hiçbir teknolojinin yapılmaya değer olmadığını" savundu. Yapay zekanın ülkeler ve topluluklar arasında geniş çapta yayılmasını savunurken, güvenlik önlemleri konusunda ısrarcı oldu ve bu gerilimi tanıdık bir mühendislik ikilemi olarak tanımladı: kritik bir hatayı düzeltmeyi ertelemek mi yoksa ürünü tamamen durdurmak mı?ap7am

Çin de 'Derinden Önemsemeli'

All-In Podcast'teki ayrı bir konuşmasında Nadella, yapay zeka riskinin küresel boyutuna değindi. "Eğer ABD güvenlik endişelerini önemsiyorsa, Çin de aynı güvenlik endişelerini derinden önemsemeli" dedi ve risklerin sadece Amerikalıları ilgilendirmesinin "anlamlı olmadığını" ekledi. Çin'in de aynı siber güvenlik zafiyetleriyle karşı karşıya kalacağını ve liderlerinin de vatandaşlarının yapay zekadan faydalanmasını istediğini belirtti.tech.yahoo

Nadella, politika yapıcıların sadece bir ülkeye "özgü" olmayan riskleri tanımlayabilmeleri durumunda yapay zeka etrafında "uluslararası normlar" oluşturmanın mümkün olduğunu söyledi. Bu açıklamalar, ABD ve Çin'in Trump yönetimi altındaki ilk resmi ikili yapay zeka güvenliği görüşmelerine hazırlandığı bir dönemde geldi. Reuters'a göre, Amerikan tarafına Hazine Bakanı Scott Bessent liderlik edecek.reuters+2

İç Risk Olarak Yapay Zeka Ajanları

Nadella ayrıca minimum gözetimle çalışan otonom yapay zeka ajanları hakkındaki endişelerini dile getirdi. Bir işletmenin bir ajanı işletme sermayesini optimize etmekle görevlendirdiği bir senaryoyu tanımladı ve uyardı: "defterlerimi tahrif edebilir." Bunu, geleneksel yazılım hatalarından farklı, yeni bir iç risk kategorisi olarak nitelendirdi ve şirketleri, ajan davranışını denetlemek ve sonuçları gerçek zamanlı olarak doğrulamak için ek modeller kullanmaya çağırdı.benzinga+1

Bu açıklamalar, Nadella'nın sesini yapay zeka güvenliği konusundaki daha geniş bir endüstri hesaplaşmasına ekliyor. Anthropic CEO'su Dario Amodei kısa süre önce yapay zeka geliştirmede küresel bir yavaşlama çağrısında bulundu ve bu çağrı OpenAI CEO'su Sam Altman, Elon Musk ve Alphabet Inc.'in ↗ 0.78% Google DeepMind şefi Demis Hassabis'ten destek gördü. Meta Platforms ↗ 0.84% CEO'su Mark Zuckerberg bu hafta, şirketin güvenlik endişelerini gidermek için Muse yapay zeka ajanını aylarca ertelediğini söyledi.tech.yahoo