OpenAI yüklenicileri gizli ‘Project Lily’ kapsamında ChatGPT sohbetlerini okuyor

404 Media tarafından yapılan bir araştırmaya göre, OpenAI tarafından tutulan yüzlerce dış yüklenici, "Project Lily" kod adlı bir iç girişim kapsamında gerçek ChatGPT sohbetlerini okuyor. Bu durum, 900 milyondan fazla ChatGPT kullanıcısının gizliliği konusunda yeni soru işaretleri yaratıyor.

Üçüncü taraf personel şirketleri aracılığıyla saatlik 50 doların üzerinde ücret alan yükleniciler, kullanıcı istemlerini okuyor, kullanıcının niyetini özetliyor ve ChatGPT tarafından üretilen dört yanıtı birden yediye kadar bir ölçekte puanlıyor. Amaç, sohbet robotunun daha az robotik, daha az dalkavukça ve daha doğal ses çıkarmasını sağlamak; ancak bu süreç, birçok kullanıcının özel sohbetler olarak gördüğü paylaşımlardaki hassas kişisel bilgilerin insan gözü önüne gelebileceği anlamına geliyor.404media

Yükleniciler Neler Görüyor?

404 Media tarafından elde edilen iç belgeler ve talimat kılavuzları, yüklenici panelinin bazen bir "kullanıcı anıları özeti" içerdiğini ortaya koyuyor. Bu özet, kullanıcının daha önce ChatGPT ile neler konuştuğuna dair bir genel bakış sunuyor ve kullanıcının yaklaşık konumunu, mesleğini veya kişisel durumlarını açığa çıkarabiliyor. OpenAI, kullanıcı adlarını temizlediğini ve sohbetleri inceleyenlere ulaşmadan önce otomatik bir "Gizlilik Filtresi"nden geçirdiğini söylüyor, ancak şirket filtrenin "nadir tanımlayıcıları veya belirsiz özel referansları gözden kaçırabileceğini" kabul ediyor.404media

Bazı yükleniciler, kullanıcıların ChatGPT'den "bunu aramızda tut" demesini istediklerini, ancak bu tür talimatların platformun veri toplama uygulamalarını geçersiz kılmadığını fark ettiklerini belirtiyor. Bir yüklenici 404 Media'ya, ChatGPT kullanıcılarının sohbetlerinin insanlar tarafından okunabileceğini fark edip etmedikleri sorulduğunda, "Hayır, sanmıyorum. Bir yerlerde bir yüklenicinin sohbetleri analiz ettiğini hayal bile edemezler" dedi.tomsguide+1

Eğitim Kuralları ve Sektör Uygulamaları

Talimat kılavuzları, incelemecilere gereksiz emoji kullanımı gibi "yapay zeka dili" kullanımlarını cezalandırmalarını, ChatGPT'nin insan deneyimlerine sahip olduğunu iddia ettiği yanıtları işaretlemelerini ve aşırı uyumlu dili işaretlemelerini söylüyor. İncelemecilerden yanıtların doğruluğunu kontrol etmeleri beklenmiyor, ancak fark ettikleri olgusal hataları işaretlemeleri ve kişisel bilgiler veya güvenlik endişeleri içeren görevleri üst birimlere bildirmeleri isteniyor.404media

Bu uygulama sadece OpenAI'a özgü değil. Anthropic, 404 Media'ya kullanıcılar eğitimi açık bıraktığında Claude'u geliştirmek için insan incelemesi kullandığını doğruladı ve Google'ın Alphabet Inc. ↗ 2.89% Gemini modeli, "insanların bazı kaydedilmiş sohbetleri incelediğine" dair bir uyarı görüntülüyor.tomsguide+1

Nasıl Devre Dışı Bırakılır?

Ücretsiz, Plus ve Pro ChatGPT hesapları için model iyileştirme varsayılan olarak açıktır. Kullanıcılar, Ayarlar'a gidip Veri Kontrolleri'ni seçerek ve "Herkes için modeli iyileştir" seçeneğini kapatarak bunu devre dışı bırakabilirler. Kurumsal, İşletme ve Eğitim hesaplarında bu ayar varsayılan olarak kapalıdır. Devre dışı bırakma işlemi yalnızca yeni sohbetler için geçerlidir.tomsguide+1

404 Media'nın şirketle iletişime geçmesinin ardından OpenAI, yardım sayfasını güncelleyerek devre dışı bırakma süreci hakkında daha fazla ayrıntı ekledi, ancak yine de insanların kullanıcı istemlerini okuyabileceğini açıkça kabul etmiyor.404media