Eski OpenAI güvenlik lideri: Yapay zeka sektörü güvensiz bir kültüre sahip

OpenAI'ın büyük model lansmanlarına eşlik eden güvenlik raporlarının yazımına liderlik eden David Robinson, istifasından sonra verdiği ilk röportajda, şirketin kamuoyuna yaptığı uyarılar ile arka plandaki hızı arasındaki çelişkiyi artık sineye çekemediğini söyledi. Robinson, The New York Times'ın Çarşamba günü (7 Ekim) yayınlanan "The Ezra Klein Show" adlı podcast programında Ezra Klein'a yaptığı açıklamada, "Benim için temel bilişsel çelişkinin bir parçası da şuydu: Sürekli bu uyarıları yayınlıyoruz ama nihayetinde hakkında uyarıda bulunduğumuz bu tehlikeli modelleri eğitmeye ve kullanıma sunmaya devam ediyoruz," dedi.nytimes+1

Bu röportaj, Robinson'ın 3 Ekim'de The Atlantic'te yayınlanan "Kültürü Bozuk Olduğu İçin OpenAI'dan İstifa Ettim" başlıklı makalesinin devamı niteliğinde. Robinson'ın ayrılışını ilk olarak Business Insider duyurmuştu.theatlantic+2

"Her salı yeni bir yetenek ve risk sunuluyor"

Robinson, Klein'a yaptığı açıklamada, eskiden yeni öncü modellerin aylar süren sıfırdan bir ön eğitim süreci gerektirdiğini söyledi. Ancak artık muhakeme eğitiminin mevcut temel modellerin üzerine eklenebildiğini ve hızla yeniden yapılabildiğini, ayrıca araç entegrasyonlarının hiçbir yeni eğitime gerek kalmadan sistemlerin yapabileceklerini değiştirdiğini belirtti. Robinson, "Her salı yeni bir yetenek ve risk sunuyoruz," dedi. Klein'ın güvenlik testlerinin buna yetişip yetişemediğini sorması üzerine Robinson, sistemleri "test etmek" için ayrılan sürenin "pek de fazla olmadığını" ifade etti.thenewstack

Robinson ayrıca, modellerin kendi muhakeme süreçlerinde değerlendirilip değerlendirilmediklerini merak ettiklerini yazdıklarını, bunun da dağıtım öncesi testlerin güvenirliğini zedelediğini belirtti. Temmuz ayında yüzlerce çalışanın gelişimi yavaşlatacak düzenlemeler yapılması çağrısında bulunan "Pacing the Frontier" (Sınırları Kontrollü İlerletmek) adlı açık mektubu imzalamış olmasına rağmen, ofis içindeki hareketliliğin "çılgınca" olduğunu ve personelin "tükenme noktasında çalıştığını" söyledi.businessinsider+1

"Şirket içine şöyle bir baktım ve kendi kendime 'Burada olanlar tam bir delilik' diye düşündüm," dedi Robinson.nytimes

Frenler var ama "sınırları çok dar"

Robinson, OpenAI'ın "freni olmayan bir tren" gibi gösterilmesine karşı çıktı. Planlanan bir GPT-6.1 sürümünün Dev Day öncesinde geri çekildiğini belirten Robinson, "Frenler var. Bazı şeyler durduruldu," dedi. Ancak şirketin bu duraklamalara ilişkin kamuoyuna yaptığı açıklamaları "doğru" ama "sınırları çok dikkatli çizilmiş" açıklamalar olarak nitelendirdi ve güvenlik standartları karşılanmadığı sürece yavaşlamanın yeterli olmadığını savundu: "Uçurumdan aşağı koşmakla uçuruma doğru yavaşça yürümek arasında pek bir fark yok."thenewstack+1

Sorunun sadece eski işvereniyle sınırlı olmadığını belirten Robinson, Klein'a "Yapay zeka sektörünün güvensiz bir kültürü var," dedi.nytimes

OpenAI'ın yanıtı

OpenAI sözcüsü, Robinson'ın Atlantic'teki makalesine yanıt olarak yaptığı açıklamada, "Modellerimizin güvenli bir şekilde yönetebileceğimiz ve koruyabileceğimizden daha yetenekli hale gelmediğinden emin oluyoruz. Yavaşlamamız gerektiğinde eğitimi duraklatıyor veya modelleri geri çekiyoruz," dedi. Reuters'ın aktardığına göre Robinson, makalesinde yapay zeka şirketlerinin daha yetenekli sistemler inşa etmeden önce güvenlik uzmanlığına ve araştırmalarına daha fazla ağırlık vermesi gerektiğini yazdı. Ayrıca bir halkla ilişkiler şirketiyle anlaştığını belirten Robinson, "Yine de sesimi duyurma kararı tamamen bana ait," diye ekledi.techcrunch+2

Biden yönetimindeki Beyaz Saray'a danışmanlık yapmış olan Rhodes bursiyeri ve Yale Hukuk mezunu Robinson, OpenAI'a Mayıs 2023'te katılmıştı. Klein'a yaptığı açıklamada, sektörün güvenlik ve uyum konusunda henüz hazır olmaktan çok uzakken "bizden katbekat daha iyi düşünebilecek" bir şey inşa etme yolunda ilerlediği netleştiğinde, "bunu inşa etmeye yardım etme süremin sonuna gelmiştim," dedi.nytimes