ChatGPT kullanıcılarından ‘Project Lily’ sohbet incelemelerine toplu dava

404 Media'nın bu hafta yayımladığı bir araştırma, OpenAI'ın "Project Lily" kod adlı şirket içi bir program kapsamında yüzlerce yükleniciye gerçek ChatGPT konuşmalarını okumaları, özetlemeleri ve puanlamaları için saatte 50 dolardan fazla ödeme yaptığını ortaya çıkardı. Bu ifşaatın ardından Çarşamba günü iki ChatGPT kullanıcısı, şirketin kendilerini konuşmaların gizliliği konusunda yanılttığı gerekçesiyle toplu dava başvurusunda bulundu.404media+1

Project Lily'nin Perde Arkası

404 Media gazetecisi Joseph Cox tarafından 14 Eylül'de yayımlanan ve sızdırılan şirket içi belgelere ve gerçek kullanıcı komutlarına dayanan araştırma, yapılandırılmış bir inceleme sürecini gözler önüne seriyor. Bu süreçte yükleniciler kullanıcının komutunu okuyor, kullanıcının amacını özetliyor, ChatGPT tarafından üretilen dört yanıtı karşılaştırıyor ve bunları bir ila yedi arasında puanlıyor. İncelemeyi yapanlar bilgilerin doğruluğunu kontrol etmiyor. Bunun yerine, sızdırılan eğitim kılavuzları onlardan "yapay zeka dilini" cezalandırmalarını, sohbet robotunun insan olduğunu iddia ettiği yanıtları işaretlemelerini ve aşırı dalkavukça yanıtları puanlamalarını istiyor: OpenAI, başka bir davada bu tür davranış kalıplarını gerçek dünyadaki zararlarla ilişkilendirmişti.aiweekly+2

OpenAI, kullanıcı adlarını kaldırıyor ve komutları incelemecilere ulaşmadan önce otomatik bir gizlilik filtresinden geçiriyor. Ancak şirket, 404 Media'ya filtrenin kusursuz olmadığını kabul etti. Yükleniciler, inceledikleri komutların üzerinde, kişinin önceki konuşmalarından elde edilen mesleğini, genel konumunu veya kişisel geçmişini açığa çıkarabilecek bir "kullanıcı bellekleri özeti" gördüklerini bildirdi. Bir çalışan, ChatGPT'nin 900 milyondan fazla kullanıcısına atıfta bulunarak 404 Media'ya, "Bir yerlerdeki bir yüklenicinin bu konuşmaları analiz ettiğini hayal bile edebileceklerini sanmıyorum," dedi.404media+2

Hukuki Sonuçlar

Bu ifşaatlar şimdiden hukuki süreci başlattı. Law360'a göre, iki ChatGPT kullanıcısı Çarşamba günü OpenAI'a karşı toplu dava başvurusunda bulunarak şirketin kendilerini konuşmalarının gizliliği konusunda yanılttığını iddia etti. Bu dava, halihazırda haksız ölüm davaları, telif hakkı talepleri ve gömülü izleme araçları aracılığıyla üçüncü taraflarla paylaşılan veriler nedeniyle Kaliforniya'da açılan ayrı bir gizlilik davasıyla mücadele eden OpenAI'ın karşı karşıya olduğu ve giderek büyüyen dava dosyalarına bir yenisini ekliyor.mediapost+2

Avrupa'da ise bu ifşaat, mevcut düzenleyici baskıları daha da artırıyor. İtalya'nın veri koruma kurumu, büyük ölçüde kullanıcı verilerini yeterli yasal dayanak olmadan işlediği gerekçesiyle OpenAI'a halihazırda 15 milyon avro para cezası verdi. Ayrıca Avrupa Birliği Adalet Divanı'nın EDPS – SRB davasındaki kararı, bir şirketin kullanıcıları bilgilendirme yükümlülüğünün veri toplama anında başladığını hükme bağlamıştı.thenextweb+1

Kapsam Dışı Kalma Nasıl Yapılır

Ücretsiz, Plus ve Pro ChatGPT hesaplarında "Modeli herkes için geliştirin" ayarı varsayılan olarak etkindir; Enterprise, Business ve Education sürümlerinde ise bu ayar kapalıdır. Gelecekteki konuşmalarının incelemecilere ulaşmasını engellemek isteyen kullanıcıların, Ayarlar ve Veri Kontrolleri altındaki bu seçeneği manuel olarak devre dışı bırakması gerekiyor. Ancak bu işlem geçmişe dönük olmadığından, eski konuşmaların kullanılmaya devam edebileceği belirtiliyor.pcmag+1