Hassabis, DeepMind’dan ayrılmadan önce yapay zeka denetim planını zorladı

Alphabet'in ↘ 0.18% 5 Ağustos'ta Google DeepMind'da kapsamlı bir liderlik değişikliği duyurmasından haftalar önce Demis Hassabis, model geliştirmenin ötesinde bir şey üzerinde sessizce çalışıyordu: The Wall Street Journal News Corp ↗ 0.03% tarafından bildirildiğine göre, sınır yapay zekayı denetlemek için bağımsız bir kurum oluşturma önerisi.wsj

Hassabis, rakip yapay zeka laboratuvarlarının başkanları ve Hazine Bakanı Scott Bessent dahil olmak üzere Trump yönetimi yetkilileriyle, Wall Street aracı kurumlarını denetleyen özel gözlemci olan Finansal Endüstri Düzenleme Kurumu'nu (FINRA) örnek alan, ABD liderliğindeki, endüstri tarafından finanse edilen bir standartlar organizasyonu oluşturmayı görüştü. Teklif, bağımsız teknik uzmanlardan oluşan bir kurulun sınır yapay zeka modellerini halka arzdan 30 gün öncesine kadar incelemesini ve kurumun özel olarak işletilmeye devam ederken federal hükümete karşı sorumlu olmasını öngörüyor.claimsjournal+3

Teklif

Hassabis, çerçevesini 14 Temmuz'da kamuoyuna açıkladı ve buna "Sınır Yapay Zeka Standartları Kurumu" adını verdi. Plan, sınır laboratuvarlarının en güçlü modellerini piyasaya sürmeden önce güvenlik testi için gönüllü olarak sunmalarını ve organizasyonu laboratuvarların kendilerinin finanse etmesini öngörüyor; bu, FINRA'nın denetlediği aracı kurumlar tarafından finanse edilme şeklini yansıtıyor. Fortune'a göre Bessent, Beyaz Saray Özel Kalem Müdürü Susie Wiles tarafından incelenen teklifin geliştirilmesine yardımcı oldu.digitalapplied+3

The Washington Post, girişimi "hükümetin sonunda daha fazlasını yapması için sessiz bir davet" içeren bir "yapay zeka öz düzenlemesi" biçimi olarak tanımladı. Bloomberg, Temmuz ayında, Silikon Vadisi liderlerinin ABD'nin en son yapay zeka sistemlerini yönetmeye yönelik son hamlelerinin geçici doğasından şikayet etmesinin ardından Trump yönetiminin planı aktif olarak değerlendirdiğini bildirdi.washingtonpost+1

Liderlik Değişikliği

5 Ağustos'ta Alphabet, Hassabis'in Google DeepMind CEO'luğundan ayrılarak birimin başkanı ve Alphabet'in baş bilim insanı olacağını duyurdu; bu, günlük yönetimden AGI stratejisine ve bilimsel araştırmalara doğru bir kayıştı. DeepMind'ın teknoloji şefi Koray Kavukcuoglu, günlük operasyonları doğrudan CEO Sundar Pichai'ye rapor veren kıdemli başkan yardımcısı olarak devraldı.axios+2

Yeniden yapılanma ayrıca kıdemli mühendis Jeff Dean ve Sanjay Ghemawat, Oriol Vinyals ve Quoc Le dahil olmak üzere diğer birçok önde gelen yapay zeka liderinin Discovery Loop adlı bir startup kurmak için Google'dan ayrılmasına sahne oldu.reuters+1

Rekabet Ortamında Güvenlik

Hassabis'in düzenleyici hamlesinin operasyonlardan uzaklaşmasıyla aynı zamana denk gelmesi, iki gelişmenin bağlantılı olup olmadığı konusunda soruları gündeme getiriyor. Meslektaşlarıyla yaptığı görüşmelerde Hassabis, öngördüğü organizasyonu Uluslararası Atom Enerjisi Ajansı ile karşılaştırarak onu cezalandırıcı bir düzenleyici yerine işbirlikçi bir kurum olarak tanımladı. Alphabet'in baş bilim insanı ve DeepMind başkanı olarak yeni görevi, dünyanın en büyük yapay zeka laboratuvarlarından birini yönetmenin operasyonel talepleri olmadan standartlar kurumunu savunmaya devam etmesini sağlıyor.cnbc+1