Murati’nin girişimi, kurumsal veri korkuları arasında açık ağırlıklı yapay zeka modelini yayınladı

Microsoft ↗ 0.52% CEO'su Satya Nadella, şirketlerin kurumsal yapay zekayı benimserken, bir modelle her etkileşime girdiklerinde en değerli varlıkları olan özel bilgilerini bilmeden teslim ettiklerini savunarak "Ters Bilgi Paradoksu" adını verdiği bir kavramı tanıttı.

13 Temmuz Pazartesi günü X'te yayınlanan bir gönderide Nadella, kuruluşların "özünde zeka için iki kez ödeme yaptığını, bir kez parayla, bir kez de o zekayı yararlı kılmak için açıklamanız gereken özel bilgiler gibi daha değerli bir şeyle" ödeme yaptığını yazdı. Bir şirketin yapay zekasının daha iyi performans göstermesini ne kadar çok isterse, model sağlayıcılarına o kadar çok iç uzmanlık, iş akışı ve karar verme süreci sunması gerektiğini savundu.firstpost+2

'Zeka Egzozu' Sorunu

Nadella, yapay zeka sistemlerinin "zeka egzozu" adını verdiği şeyi yakaladığı konusunda uyardı; bu, çalışanlar yapay zeka araçlarıyla her etkileşime girdiğinde üretilen düzeltmeler, derecelendirmeler ve kullanım verileridir. Bu veriler, sağlayıcıların rakip ürünler oluşturmak veya ekonomik değeri bilgiyi üreten firmalar yerine altyapı operatörleri arasında yoğunlaştırmak için kullanabileceği şirket içi bilgileri ortaya çıkarır.the-decoder+1

Önerdiği çözüm, her işletmenin içinde, Beş C olarak adlandırdığı beş sütun üzerine inşa edilmiş katı bir "güven sınırı"dır: Kontrol (Control), Yetenek (Capability), Seçim (Choice), Maliyet (Cost) ve Bileşik (Compound). Çerçeve, şirketleri kendi değerlendirmelerine ve geri bildirim döngülerine sahip olmaya, özel öğrenme ortamları oluşturmaya, orkestrasyon katmanlarını herhangi bir tek model sağlayıcısından bağımsız tutmaya, maliyetleri optimize etmeye ve dahili olarak değer katan sürekli öğrenme sistemleri oluşturmaya teşvik ediyor.aiweekly+3

Damıtma Çifte Standardı

Nadella ayrıca, OpenAI ve Anthropic dahil olmak üzere yapay zeka laboratuvarlarını, hizmet şartlarında model damıtmayı (daha büyük modellerden alınan çıktılar kullanılarak daha küçük modellerin eğitilmesi uygulaması) yasakladıkları için hedef aldı. Bu laboratuvarların kendi sistemlerini eğitmek için açık interneti serbestçe kazıdıkları göz önüne alındığında, bu duruşun ikiyüzlü olduğunu savundu. Nadella, laboratuvarlar halka açık verilerden öğrenebiliyorsa, işletmelerin de ödeme yaptıkları çıktıları incelemekte ve geliştirmekte özgür olmaları gerektiğini savundu.techcrunch+2

Murati'nin Inkling Modeli Sahneye Çıkıyor

Nadella'nın dile getirdiği endişeler, eski OpenAI CTO'su Mira Murati tarafından kurulan girişim Thinking Machines Lab'in Inkling adlı ilk modelini yayınlamasıyla Çarşamba günü pratik bir yanıt buldu. 975 milyar parametreli açık ağırlıklı model, şirketlerin onu indirmesine ve kendi verileriyle özelleştirmesine olanak tanıyor; bu, Nadella'nın eleştirdiği kapalı modellerle doğrudan bir tezat oluşturuyor. Palantir ↗ 3.68% CEO'su Alex Karp, haftalar önce benzer uyarılar dile getirmiş ve kurumsal liderlere yapay zeka laboratuvarlarının müşteri verilerini ele alma biçiminde "bir şeylerin tamamen yanlış gittiğini" söylemişti.wsj+5

Nadella, "Satıcı, satın aldığınız şeyi kullandıkça sizin hakkınızda daha fazla şey öğreniyor," diye yazdı, "siz ise satıcının karşılığında ne öğrendiği hakkında çok az şey öğreniyorsunuz".thenextweb