MIT çalışması: Yapay zeka görsellerini eğitim verilerine dayandırmak genellikle imkansız

MIT Bilgisayar Bilimleri ve Yapay Zeka Laboratuvarı'ndan yeni bir çalışma, araştırmacıların "atfetme çürümesi" (attribution decay) olarak adlandırdığı bir fenomeni tanımladı. Çalışma, yapay zeka görsel oluşturucuları daha büyük veri setleri üzerinde eğitildikçe, herhangi bir bireysel eğitim görselinin etkisini tespit etmenin giderek zorlaştığını veya imkansız hale geldiğini ortaya koydu. Salı günü Nature Communications'da yayınlanan makale, yapay zeka şirketlerine karşı devam eden telif hakkı davaları dalgası için önemli sonuçlar taşıyor.news.mit

Kaybolan Bağlantı

Araştırmacılar Zheng Dai ve David Gifford, aldatıcı derecede basit bir soruya yanıt vermek için "difüzyon topluluğu" (diffusion ensemble) adlı bir mimari geliştirdiler: Bir model, belirli bir eğitim görselini hiç görmemiş olsaydı ne üretirdi? Modelleri milyonlarca kez sıfırdan eğitmek yerine, sistemleri birden fazla bileşeni verilerin örtüşen dilimleri üzerinde eğitiyor ve bu da belirli etkilerin yaklaşık hesaplamalar olmadan kapatılmasına olanak tanıyor.news.mit

256 ile 160.000'den fazla görsel arasında değişen veri setlerinde 24 topluluğu test ederek tutarlı bir model buldular: Eğitim seti ne kadar büyükse, tek bir görselin önemi o kadar azalıyordu. Bazı durumlarda, bir sanatçının tüm eserlerinin veya belirli bir kişinin tüm fotoğraflarının kaldırılması, üretilen çıktıda ölçülebilir bir değişikliğe yol açmadı.digitaltrends+1

Dai, MIT'nin duyurusunda, "Eğer bir veri parçasını çıkarırsanız ve modelin çıktısı değişmezse, o veri parçası çıktıyı etkilememiş demektir" dedi. "Bu nedenle, çıktıyı o veri parçasına atfetmek pek mantıklı değil."news.mit

Hukuki Sonuçlar

Bulgular, yapay zeka şirketlerinin artan telif hakkı iddialarıyla karşı karşıya olduğu bir dönemde geldi. Disney The Walt Disney Company ↗ 2.87%, NBCUniversal Comcast Corporation ↗ 1.49% ve DreamWorks, geçen yıl yapay zeka görsel oluşturucusu Midjourney'e karşı bir fikri mülkiyet davası açarken, The New York Times ↗ 1.37% 2023'te OpenAI ve Microsoft ↗ 0.56% şirketlerine dava açtı. Devam eden Andersen v. Stability AI davasında davacılar, şirketin belirli sanatçıların tarzlarını taklit etmek için görselleri kazıdığını iddia ederek Midjourney'in eğitim veri setlerine erişim talep ediyor.tech.yahoo+1

Dai, Semafor'a verdiği demeçte, "Fikri mülkiyetin ne anlama geldiğini yeniden düşünmemiz gerekebilir" dedi. "Bunu öylece varsayamazsınız, çünkü atfetme bağlantısı bir nevi yok oluyor."tech.yahoo

Ücretsiz Bir Geçiş Değil

Araştırmacılar, bulgularının modellerin asla kopyalama yapmadığı anlamına gelmediği konusunda uyarıyor; belirli eğitim örneklerinin ezberlenmesi ve yeniden üretilmesi hala gerçekleşebilir. Çalışma ayrıca yalnızca difüzyon modellerini inceledi; aynı çürümenin büyük dil modelleri için de geçerli olup olmadığı ise hala açık bir soru.news.mit

Cornell Hukuk Fakültesi ve Cornell Tech'ten hukuk profesörü James Grimmelmann, makalenin "atfetmenin ilginç modeller için başarısız olacağını düşünmek için neden sağladığını" belirtti. "Bunun yerine, teknoloji uzmanları ve mahkemeler kopyalamayı değerlendirmek için başka yöntemlere başvurmak zorunda kalacaklar."theregister+1