OpenAI, yapay zeka modellerinin dış denetimine erken izin verecek

OpenAI Salı günü yaptığı açıklamada, yapay zeka modellerinin eğitim, değerlendirme ve yayına alma aşamalarının erken dönemlerinde dış kuruluşların teknik güvenlik değerlendirmeleri yapmasına izin vereceğini duyurdu. Bu hamle, sınır yapay zeka sistemlerinin potansiyel zararlarına ilişkin artan endişeleri gidermeyi amaçlıyor.

ChatGPT'nin üreticisi, Bloomberg'e göre, bu incelemelerin etkili bir şekilde işlemesi için "güçlü bağımsızlık mekanizmaları, bilimsel titizlik, sağlam güvenlik uygulamaları ve net sorumluluklar" gibi öncelikleri belirledi. Şirketin blog yazısı aracılığıyla yapılan duyuru, yapay zeka endüstrisinin güvenlik uygulamalarının yoğun bir şekilde incelendiği bir dönemde geldi.bloomberg

Güvenlik Önerileri Dalgası

Bu hamle, önde gelen yapay zeka laboratuvarlarından gelen güvenlik odaklı hızlı duyuruların ardından geldi. Pazartesi günü OpenAI, uyum araştırması ve özyinelemeli öz-geliştirme (RSI) olarak bilinen bir hesaplama tekniğine odaklanan ayrı bir öneri seti yayınladı ve sınır standartlarını geliştirmek için uluslararası iş birliği çağrısında bulundu. Şirket, "Tamamen otonom RSI bugün gerçekleşmiyor ve güvenli bir şekilde yapılana kadar bunun peşinden gitmemeliyiz" diye yazdı.cnbc

Geçen hafta rakip Anthropic, araştırmacı Jacob Coxon'ın şirketten istifa edip yapay zeka laboratuvarlarının "hayatımızla kumar oynadığı" uyarısında bulunarak küresel bir tartışma başlatmasının ardından, sınır modellerinin daha güvenli geliştirilmesi için kendi önerilerini yayınladı. Anthropic CEO'su Dario Amodei daha sonra yapay zeka şirketlerine geliştirme hızlarını yavaşlatmaları çağrısında bulundu ve organizasyonlarına üçüncü taraf değerlendiricilerin dahil edilmesini önerdi.explainx+1

Güven Açığı Devam Ediyor

Verilen sözlere rağmen şüpheciler, endüstrinin baş döndürücü hızı karşısında anlamlı bir denetimin mümkün olup olmadığını sorguluyor. Axios tarafından alıntılanan Goldman Sachs ↗ 0.55% tahminlerine göre, önümüzdeki beş yıl içinde yapay zekayı ölçeklendirmek için 7 trilyon dolardan fazla harcama yapılması bekleniyor. Hem OpenAI hem de Anthropic, trilyonlarca dolarlık değerlemelerle halka arzlara hazırlanırken giderek daha yetenekli modeller sunma baskısıyla karşı karşıya.axios

100'den fazla yapay zeka değerlendiricisinden oluşan bir koalisyon, kısa süre önce sınır modeli üreticilerini bağımsız denetimler için "asgari koşulları" benimsemeye çağırdı; buna daha derin erişim ve olumsuz bulguların yayınlanması nedeniyle misillemelere karşı koruma da dahil. OpenAI'ın eski bir araştırmacısı ve AI Futures Project'in icra direktörü olan Daniel Kokotajlo, Axios'a verdiği demeçte, yapay zekanın güvenli bir şekilde ölçeklendirilebileceğine inanmadığını belirterek, üst düzey şirketlerin devasa hesaplama kaynaklarını model iyileştirmeye yönlendirmekten kaçınmaları gerektiğini savundu.cnbc+2

Kokotajlo, "Şirketler, 'ne yapıyoruz' konusunda sürekli bir çatışan duygular ve iç tartışma süreci yaşıyor" dedi. "Durmalı mıyız? Biz iyi tarafta mıyız?"axios