OpenAI, kendi modellerini hacklemek için oluşturulan bir yapay zeka olan GPT-Red’i tanıttı

OpenAI Salı günü, şirketin yapay zeka modellerindeki prompt injection açıklarını ölçekli bir şekilde keşfetmek için kendi kendine oynama (self-play) yöntemini kullanan dahili bir otomatik red-teaming sistemi olan GPT-Red'i tanıttı. OpenAI'ın araştırma blogunda "GPT-Red: Dayanıklılık için Kendi Kendini Geliştirmenin Kilidini Açmak" başlığıyla yayınlanan duyuru, sistemi, insan saldırganlar istismar etmeden önce şirketin ürünlerini stres testine tabi tutmak için tasarlanmış özel bir düşman olarak tanımlıyor.openai+1

GPT-Red Nasıl Çalışır?

Bu çaba hakkında özel bir rapor yayınlayan MIT Technology Review'a göre GPT-Red, OpenAI'ın modellerinin saldırı altında nasıl davrandığını sistematik olarak araştıran "yüksek yetenekli bir düşman" olarak işlev görecek şekilde tasarlandı. Sistem, 9 Temmuz'da piyasaya sürülen OpenAI'ın en son amiral gemisi model ailesi olan GPT-5.6'yı düşmanca eğitmek için kullanıldı ve bu da şirketin prompt injection saldırılarına karşı geliştirilmiş dayanıklılık olarak tanımladığı sonuçla sonuçlandı.technologyreview+2

OpenAI'ın GPT-5.6 sistem kartı, şirketin modelin genel kullanıma sunulmasından önce "kara kutu otomatik red teaming" için yaklaşık 700.000 A100e GPU saati harcadığını, bunun da "muhtemel zayıf noktaları sistematik olarak araştırmasına, jailbreak'leri ortaya çıkarmasına ve lansmandan önce sistemi güçlendirmemize yardımcı olmasına" olanak tanıdığını belirtti. GPT-Red, artık kendi kendine oynama yeteneklerine sahip adlandırılmış bir sistem olarak resmileştirilen bu otomatik test altyapısının zirvesi gibi görünüyor.openai

Daha Geniş Bir Güvenlik Hamlesi

Piyasaya sürülme, OpenAI'ın giderek daha yetenekli hale gelen modellerinin ikili kullanım doğası nedeniyle artan bir incelemeyle karşı karşıya kaldığı bir dönemde gerçekleşti. GPT-5.6, şirketin Hazırlık Çerçevesi kapsamında hem siber güvenlik hem de biyolojik risk açısından "Yüksek" yetenekli olarak derecelendirildi, ancak her iki kategoride de "Kritik" eşiği geçmedi. Birleşik Krallık'ın Yapay Zeka Güvenlik Enstitüsü, GPT-5.5'in bu yılın başlarında sınır seviyesinde siber yetenekler sergilediğini ayrıca doğruladı.aisi+1

OpenAI bir süredir otomatik red teaming'e doğru ilerliyor. Mayıs 2026 tarihli bir iş ilanı, şirketin "sürekli olarak hata modlarını ortaya çıkaran ölçeklenebilir, araştırmaya dayalı sistemler oluşturmaya" odaklanan "Otomatik Red Teaming (ART) çabasına" liderlik edecek bir araştırmacı rolü için reklam verdi. Şirket ayrıca geçen yıl açık ağırlıklı modeli için Kaggle'da 500.000 dolarlık bir halka açık red-teaming yarışması düzenledi.jobs.ashbyhq+1

OpenAI, GPT-Red'i, model yetenekleriyle birlikte gelişen düşmanca tehditlere karşı güvenlik prosedürlerini "geleceğe hazırlama" çabasının bir parçası olarak çerçeveledi ve duyurusunda bu yaklaşımı "yapay zeka güvenliğini, uyumunu ve prompt injection dayanıklılığını" artırmak için kendi kendine oynama yöntemini kullanmak olarak tanımladı.openai