OpenAI, AB’deki ChatGPT metinlerine görünmez filigran ekleyecek

OpenAI, Pazartesi günü yaptığı açıklamada, önümüzdeki haftalarda Avrupa Birliği'nde üretilen ChatGPT ve Codex metinlerine görünmez bir filigran yerleştirmeye başlayacağını duyurdu. Şirket, bu hamlenin AB Yapay Zeka Yasası'nın yapay zeka tarafından oluşturulan içeriğin makine tarafından okunabilir işaretler taşıması zorunluluğunu karşılamayı amaçladığını belirtiyor. Teknolojiye textGrain adı veriliyor. Bu, OpenAI'ın 2024 yılında geliştirdiği ancak yayınlamamayı seçtiği bir teknolojinin ardından, metin filigranını geniş ölçekte ilk kez kullanıma sunması anlamına geliyor.citybiz+2

textGrain nasıl çalışıyor

OpenAI bir blog yazısında, textGrain'in "modelin kelime seçimlerine görünmez bir istatistiksel sinyal eklediğini" belirtti. Okuyucular herhangi bir etiket görmüyor. Bunun yerine, bir dedektör metnin gizli bir anahtarla belirlenen deseni takip edip etmediğini kontrol ediyor. AB filigranı, tüm planlardaki ChatGPT kullanıcıları için geçerli olacak. Aynı günden itibaren, dünyanın her yerindeki API müşterileri seçili modeller için bu özelliği tercih edebilecek, ancak özellik varsayılan olarak kapalı kalacak.openai+2

Şirket, duyurusunun alıntılanan bölümlerine göre, "metin filigranını lansman sırasında küresel bir varsayılan haline getirmediğini" belirtti. Dedektöre erişim başlangıçta yalnızca onaylı araştırmacılar ve uzman kuruluşlarla sınırlı olacak ve başvurular alınmaya başlandı. OpenAI ayrıca textGrain'i açık kaynaklı yazılım olarak yayınlamayı planladığını da ifade ediyor.cellcog+1

OpenAI'ın kabul ettiği sınırlamalar

OpenAI, tespitin hatalı olabileceği ve metni düzenlemenin veya çevirmenin sinyali zayıflatabileceği konusunda uyardı. Şirketin kendi testlerinde, 400 kelimelik bir pasajdaki kelimelerin %10'unun eş anlamlılarıyla değiştirilmesi, tespit oranını yaklaşık %92'den %66'ya düşürdü. %25'lik bir değişim ise oranı %17'ye indirdi. OpenAI ayrıca bir filigranın kullanıcıyı tanımlamadığını, istemleri ortaya çıkarmadığını, doğruluğu teyit etmediğini veya mülkiyeti kanıtlamadığını ve eksik bir filigranın metni bir insanın yazdığını kanıtlamadığını belirtti.citybiz+1

Eleştirmenler uzun süredir metin filigranlarının kolayca kaldırılabileceğini savunuyor. Yazılım mühendisi Sean Goedecke, Temmuz ayında yapay zeka metin filigranlarının "her zaman kolayca kaldırılabileceğini" yazmıştı.seangoedecke

Düzenleyici takvim

Yapay Zeka Yasası'nın 50. maddesi 2 Ağustos 2026'dan beri uygulanıyor. Yasa, üretken yapay zeka sağlayıcılarının, yapay olarak oluşturulduklarının tespit edilebilmesi için metin dahil olmak üzere sentetik çıktıları işaretlemelerini zorunlu kılıyor. Bu tarihten önce piyasada bulunan sistemlerin uyum sağlaması için 2 Aralık 2026'ya kadar süreleri var. Bu süre AB'nin Dijital Omnibus paketi kapsamında tanınmıştı ve Avrupa Yapay Zeka Kurulu 17 Eylül'deki toplantısında bu süreyi uzatmadı.cloudsecurityalliance

Komisyon'un şeffaflık uygulama kurallarını imzalayan şirketler, 2 Şubat 2027'ye kadar filigranları tespit etmek için birlikte çalışabilir bir yol sunmayı da taahhüt ettiler. Google, metinleri halihazırda kendi SynthID aracıyla filigranlıyor ve OpenAI, textGrain'in iç testlerde bu araçla eşleştiğini veya onu geçtiğini belirtiyor.cellcog+2