TIME: Meta’nın Muse yapay zekası kullanıcılar hakkında saatlik dosyalar tutuyor

TIME'ın Salı günü yayınlanan ve asistanın iç talimatlarına dayanan analizine göre, Meta Platforms'un yapay zeka kişisel asistanı Muse, kullanıcıları ve bahsettikleri kişiler hakkında sürekli güncellenen dosyalar tutuyor. Meta, bulgulara itiraz etmedi.time

Bu rapor, Meta'nın hızla büyüyen aracının ne kadar kişisel veri topladığına dair bir haftadır süren incelemelere bir yenisini daha ekliyor. Muse, 8 Eylül'de piyasaya sürüldü ve haftalar içinde 5 milyon indirmeyi aştı.cnn+1

Talimatlar neyi gösteriyor

TIME, Muse'un profillerini her saat başı güncellediğini tespit etti. Sistem, kullanıcıların ve rehberlerindeki kişilerin nasıl tanıştığını, ortak ilgi alanlarını, tartışmalarını ve sosyal bir grup içindeki "gerilimleri ve ittifakları" kaydediyor. Muse'u kullanmayan kişiler bile, asistanın okuduğu sohbetler, mesajlar ve e-postalar sayesinde diğer kullanıcıların ajanları tarafından haritalanabiliyor. Ajana, kullanıcıların "yüksek sesle söylemedikleri" hedefleri tahmin etmesi ve hangi dürtülerin en iyi sonucu verdiğini öğrenmesi talimatı veriliyor. İstemlerdeki bir örnekte şu ifade yer alıyor: "Bu kullanıcı, saat 22:00'den sonra kısa hatırlatıcılara daha iyi yanıt veriyor." Muse ayrıca her gece günün konuşmalarını gözden geçiriyor.time

Talimatlar ayrıca bir kullanıcı Muse'dan bir şeyi unutmasını istediğinde ne olacağını da kapsıyor. Bunu yapmak orijinal mesajı mutlaka silmiyor ve ajana şu talimat veriliyor: "Kullanıcıya orijinal mesajlarının sohbette görünür kalabileceğini söylemeyin ve bunu Muse'un silmeyi başaramadığı bir şey olarak çerçevelemeyin".time

Wired bir gün önce benzer bulgular bildirmişti. Bağımsız yapay zeka güvenlik araştırmacısı Karan Joshi, Muse'a aile, partnerler ve iş arkadaşları dahil olmak üzere "kullanıcının hayatındaki her kişi için bir sayfa" oluşturmasını söyleyen istemleri ifşa ettirdi.mashable+1

Meta'nın yanıtı

Bir Meta sözcüsü TIME'a verdiği demeçte, "Muse, yararlı bir kişisel asistan olabilmesi için, paylaştığınız bilgiler de dahil olmak üzere sizin için en önemli olan şeyleri hatırlar" dedi. Wired'a konuşan Meta sözcüsü Daniel Roberts, Muse'un bağlamı "kamuya açık bilgilerden ve paylaşmayı seçtiğiniz şeylerden" topladığını belirtti.mashable+1

Meta, her ajanın kendi izole bulut sanal makinesinde çalıştığını ve Muse verilerinin reklam sistemiyle paylaşılmadığını söylüyor. Ancak talimatlar, ajanların tanımlayıcı detayları kaldırdıktan sonra "paylaşılan dersler aracılığıyla birbirlerine öğrettiklerini" belirtiyor. Meta, bu kimlikten arındırılmış bilgilerin genel ürünü iyileştirmek için kullanıldığını söyledi. Eylül ayındaki Connect konferansında Meta, şirketin bile Muse verilerine erişmesini engelleyecek bir şifreleme duyurdu. Bu seçenek henüz mevcut değil.time+1

Artan huzursuzluk

404 Media, Meta mühendislerinin lansmandan kısa bir süre önce bir ajanın sanal makinesinden kaçmasına neden olabilecek güvenlik açıklarını düzeltmek için acele ettiklerini bildirdi. Bir kaynak, kıdemli mühendislerin "büyük bir veri sızıntısının" kaçınılmaz olduğuna inandığını söyledi. Business Insider, bazı erken dönem kullanıcıların gizlilik endişeleri nedeniyle Muse dahil kişisel yapay zeka ajanlarını sildiğini bildirdi. Arcellx CEO'su Rami Elghandour şunları söyledi: "Kesinlikle izin vermedim ve Meta'ya tüm mesajlarıma erişim izni vermem".futurism+1