OpenAI çalışanları yıllardır güvenlik açıklarına dikkat çekiyordu

Reuters'ın 3 Kasım'da yayınlanan raporuna göre, OpenAI çalışanları şirketin iç güvenliğiyle ilgili endişelerini ChatGPT'nin 2022 sonundaki lansmanından önce dile getirmeye başlamıştı. Reuters, konuya aşina beş kişiye dayandırdığı haberinde, bu çalışanlardan bazılarının endişelerini üst düzey liderlere ve yönetim kuruluna ilettiğini belirtti. Birçoğu, yönetimin şirketin teknolojisini korumaktan ziyade Google ve Anthropic ile yarışmaya daha fazla önem verdiğine ikna olmuş durumdaydı. OpenAI Ekim ayında bir yönetici toplantı odasına kayıt cihazı yerleştirildiğini açıkladığında, birçok eski çalışan şaşırmadıklarını ifade ettirmb.reuters.com.

Bu rapor, OpenAI ve Anthropic üzerindeki baskıyı artırıyor. Her iki şirket de ABD yetkililerinin artık stratejik bir varlık olarak gördüğü teknolojiyi ne kadar iyi korudukları konusunda artan bir inceleme altında. Reuters'ın bildirdiğine göre, ek güvenlik önlemleri araştırmaları yavaşlatabilir ve her iki şirketin de büyük halka arz planlarını karmaşıklaştırabilirca.finance.yahoo.com.

Açık kod ve test edilmemiş araçlar

Kaynaklar Reuters'a, OpenAI'ın kodunun çoğunu tek bir "monorepo" içinde tuttuğunu söyledi. Bu, ona erişebilen herkesin kendi işiyle ilgisi olmayan hassas projelerin ayrıntılarını görebileceği anlamına geliyordu. Üç kişi ayrıca, modelleri stres testine tabi tutmak için kullanılan sanal alanlar (sandbox) dahil olmak üzere iç araçların düzenli güvenlik incelemelerinden geçmediğini belirtti. OpenAI, en hassas çalışmalarının sıkı erişim kontrollerine sahip ayrı depolarda tutulduğunu yanıtladı. Şirket, monoreponun model ağırlıklarını içermediğini ve artık iç araçları düzenli olarak gözden geçirdiklerini ifade ettica.finance.yahoo.com.

Ürün yönetimi kıdemli yöneticisi Thibault Sottiaux, iç sistemleri güvence altına alma çabasının başına geçti. Bir kaynağa göre, Ağustos ayında OpenAI'ın üretim mühendislerinin dörtte birini güvenlik altyapısına kaydırdı. Sözcü Elana Widmann, OpenAI'ı "dünyanın en çok hedef alınan kuruluşlarından biri" olarak nitelendirdi. Son eylemlerin güvenlik programının "riskleri tanımladığını ve kararlı bir şekilde yanıt verdiğini" gösterdiğini söyledi. Reuters'ın yorum talebinden sonra OpenAI, 2 Kasım tarihli bir blog yazısında "bir sonraki iç güvenlik sprintini" planladığını duyurdu.

Dinleme vakası ve dışarıdan sızmalar

13 Ekim'de Adalet Bakanlığı, federal ajanların 35 yaşındaki Suudi vatandaşı ve OpenAI mühendisi Abdulrahman Alfozan'ı tutukladığını açıkladı. Alfozan, bir yönetici toplantı odasında tuvalet kağıdına sarılı bir ses kayıt cihazını saklamakla suçlanıyor. Savcılar, yöneticilerin Suudi Arabistan seyahatlerini araştırmak için dahili bir yapay zeka aracı kullandığını iddia ediyor. Ground News'in bildirdiğine göre, bir yargıç o zamandan beri kefaletsiz tutuklu kalmasına karar verdiground.news+1.

Ayrıca, Hacktron AI araştırmacıları, Temmuz ayında iki kritik güvenlik açığını zincirlemek için Anthropic'in Claude modelini kullandıklarını söyledi. Bu, birkaç OpenAI çalışanının ChatGPT hesabını ele geçirmelerine ve iç depolara ulaşmalarına olanak tanıdı. OpenAI raporu doğruladı ve açıkların yamalandığını belirttinbcnews.com+1.

Anthropic'in de kendi sorunları oldu. Ekim ayı sonlarında, Cathedral Systems adlı bir girişim, Anthropic'in sistemlerine sızdığını ve personelin hassas model ayrıntılarını tartıştığı Slack kanallarına erişim sağladığını söyledi. Anthropic, ifşa edilen verilerin bazı müşteri ve iş ortağı iş bağlantılarını ve temel kullanıcı hesabı kayıtlarını içerdiğini belirttica.finance.yahoo.com.

Hız ve güvenlik dengesi

Nisan ayında istifa eden eski bir OpenAI araştırmacısı olan Will DePue, Reuters tarafından alıntılanan bir gönderide gerilimi şöyle özetledi: Yapay zeka liderleri "hızdan güvenlik uğruna fedakarlık yapamazlar. Onlar için hızlı hareket etmek, en büyük ulusal rakiplerimizden bile korunmaktan daha önemli."