OpenAI CEO’su Altman, BM Güvenlik Konseyi’ne yapay zeka risklerini anlatacak

OpenAI Pazartesi günü, ABD'yi gelişmiş yapay zeka için küresel güvenlik ve teknik standartlar geliştirmeye yönelik uluslararası bir çabaya öncülük etmeye çağıran bir öneri yayınladı ve eylemsizliğin ülkeyi "parçalanmış, dengesiz ve çatışmalarla dolu bir sistemin" gölgesinde bırakabileceği konusunda uyardı.thenextweb+1

Sınır yapay zeka modellerine ve yapay zeka sistemlerinin kendi haleflerini geliştirme sorumluluğunu üstlendiği bir süreç olan özyinelemeli kendi kendini geliştirmeye odaklanan öneri, Birleşmiş Milletler'de ve Washington ile Pekin arasında yoğun yapay zeka diplomasisinin yaşandığı bir haftada geldi.

Lisans Değil, Standartlar

OpenAI'ın planı, yapay zeka yeteneklerini ölçmek, yapay zeka şirketleri içindeki otonom araştırma düzeyini değerlendirmek ve ortak ciddiyet seviyelerine sahip olay bildirim protokolleri oluşturmak için ortak çerçeveler çağrısında bulunuyor. Şirket, bu çabanın ABD Ticaret Bakanlığı'nın Yapay Zeka Standartları ve İnovasyon Merkezi ile İngiltere, Japonya, Fransa ve Kanada gibi ülkelerdeki ulusal yapay zeka güvenliği enstitüleri ağı üzerinden yürütülmesini önerdi.dig+1

Şirket, standartların "lisans, zorunlu ön yayın incelemesi veya yapay zeka modelleri için onay gereklilikleri olmayacağını" vurgulayarak, bunları iç hukuka nasıl dahil edeceklerine karar verme yetkisini bireysel hükümetlere bıraktı. OpenAI ayrıca hükümetler ve kritik altyapı operatörleri arasında ortaya çıkan tehditleri paylaşmak için güvenli iletişim kanalları çağrısında bulundu ve ABD ile Çin arasındaki diyaloğun "olumlu bir adım olacağını" belirtti.thenextweb+2

Şirket, "Tam otonom özyinelemeli kendi kendini geliştirme bugün gerçekleşmiyor ve güvenli bir şekilde yapılana kadar bunun peşinden gitmemeliyiz" diye yazdı.thenextweb

Yapay Zeka Diplomasisi İçin Yoğun Bir Hafta

Öneri, bir dizi hareketliliğin ortasında geldi. Hazine Bakanı Scott Bessent hafta sonu yaptığı açıklamada, ABD ve Çin'in ikili bir yapay zeka diyaloğu oluşturma konusunda anlaştığını ve Washington'ın Pekin'e bir yapay zeka olay bildirim mekanizması önerdiğini söyledi. Pazartesi günü Başkan Donald Trump, Truth Social'da yapay zeka düzenlemesinde hafif bir dokunuştan yana olduğunu yazdı ve "Yapay zekayı kazanan, HER ŞEYİ KAZANIR!" diye ekledi. Bessent ayrıca yönetimin sınır yapay zeka laboratuvarlarına sorumluluktan muafiyet tanımayacağını belirtti.foxbaltimore+1

Salı günü BM Genel Kurulu'nda Genel Sekreter António Guterres, yapay zekanın tehlikeleri konusunda uyarılarda bulundu ve küresel iş birliği çağrısı yaptı. Hemen ardından konuşan Trump, fikri "küreselci bir plan" olarak nitelendirdi ve Bloomberg'e göre ABD'nin yapay zekayı "süper zeka" olarak yeniden adlandırdığını söyledi.thenextweb

Altman Güvenlik Konseyi'ne Gidiyor

Sam Altman, Çarşamba öğleden sonra Anthropic CEO'su Dario Amodei, yapay zeka araştırmacısı Yoshua Bengio ve Hugging Face CEO'su Clément Delangue ile birlikte BM Güvenlik Konseyi'ne brifing verecek. Bu, konseyin giderek daha yetenekli hale gelen yapay zekanın güvenlik risklerine odaklanan ilk oturumu olacak. OpenAI temsilcileri, Altman'ın gücü birkaç şirkette toplamak yerine ortak güvenlik standartlarını teşvik eden "pragmatik bir merkezci" olarak konumlanacağını söyledi.thenextweb

Altman bu hafta ilerleyen günlerde, yapay zekanın ABD-Çin ilişkileri için ne kadar merkezi hale geldiğinin bir göstergesi olarak, Çin Devlet Başkanı Şi Cinping onuruna Beyaz Saray'da verilecek bir devlet yemeğine katılacak.foxbaltimore+1