Google, yapay zeka güvenlik ekibini DeepMind laboratuvarından ayırıyor

Google Alphabet Inc. ↗ 0.46%, yaklaşık 90 kişilik yapay zeka sorumluluk ekibini Google DeepMind'dan, lobi faaliyetleri ve kamu politikasını denetleyen Küresel İlişkiler bölümüne taşıyor. The Wall Street Journal News Corp ↘ 0.28% tarafından görülen bir iç e-postaya göre, Eylül ayı başında yürürlüğe girecek olan bu hamle, çalışanlar arasında ekibin bağımsızlığının ve sınır yapay zeka modellerindeki riskleri belirleme yeteneğinin azalacağı endişesini yarattı.wsj

Liderlik Değişiklikleri Sonrası Yeniden Yapılanma

Yeniden yapılanma, kurucu ortak ve CEO Demis Hassabis'in yeni bir başkanlık rolüne geçtiği DeepMind'daki daha geniş çaplı bir değişikliği takip ediyor. Journal tarafından alıntılanan iki mevcut DeepMind çalışanı, yapay zeka sorumluluk ekibindeki bazı üyelerin raporlama yapısındaki değişikliğin çalışmalarını olumsuz etkileyeceğinden endişe duyduklarını belirtti.moomoo+1

Etik ekibi, model testleri sırasında kimyasal, biyolojik, radyolojik ve nükleer tehlikelerin değerlendirilmesi ve kullanıcıların yapay zeka sohbet robotlarıyla etkileşimlerinin psikolojik etkilerinin incelenmesi dahil olmak üzere en son yapay zeka risklerini değerlendirmeye odaklanmıştı. Çalışanlar, ekibin Gemini model geliştirme grubundan uzaklaştırılmasının, bağımsız araştırma yapma ve gelişmiş modellerdeki ortaya çıkan tehditleri işaretleme kapasitesini zayıflatabileceğinden endişe ediyor.moomoo

Google Erişimin Süreceğini Belirtiyor

Google, ekibin DeepMind'ın kaynaklarına, bilgi işlem gücüne ve personeline erişimini koruyacağını, model davranışı, gizlilik ve güvenlikten sorumlu diğer grupların ise DeepMind bünyesinde kalacağını savundu. Yeniden yapılanma, DeepMind'ın Google'ın kurumsal yapısına daha geniş entegrasyonunun bir parçası olup ilgili İK ve politika ekipleri de laboratuvardan başka birimlere atanıyor.moomoo

Bu hamle, DeepMind'daki devam eden liderlik değişiklikleri ve personel değişiminin ortasında gerçekleşiyor ve büyük yapay zeka laboratuvarlarının güçlü modellerin hızlı gelişimini, potansiyel zararları dağıtım öncesinde yakalamak için tasarlanmış iç denetim mekanizmalarıyla nasıl dengelediğine dair daha geniş soruları gündeme getiriyor.