Meta-ს ზედამხედველობის საბჭომ deepfake ვიდეოს წაშლა და პოლიტიკის ცვლილებები მოითხოვა

Meta-ს ↗ 1.90% ზედამხედველობის საბჭომ სამშაბათს გააუქმა კომპანიის გადაწყვეტილება Instagram-ზე ხელოვნური ინტელექტის მიერ შექმნილი სექსუალიზებული ვიდეოს დატოვების შესახებ, ბრძანა მისი წაშლა და მოუწოდა Meta-ს, გააძლიეროს დაცვა არასაჯარო პირებისთვის, რომლებიც deepfake ინტიმური გამოსახულებების სამიზნეები ხდებიან.oversightboard+1

საბჭომ დაადგინა, რომ ხელოვნური ინტელექტით მიმსგავსება ნაგულისხმევად არაკონსენსუალურია

23 ივნისს გამოქვეყნებული გადაწყვეტილება ეფუძნება შემთხვევას, როდესაც მომხმარებელმა განაცხადა, რომ Instagram-ზე გამოქვეყნდა ხელოვნური ინტელექტის მიერ შექმნილი ვიდეო, რომელიც ქალს ჰგავდა, და ეს მოხდა თავად ამ პირის თანხმობის გარეშე, რამაც "დააზიანა მისი რეპუტაცია". Meta-მ თავდაპირველად გადაწყვიტა კონტენტის დატოვება, მაგრამ საბჭომ დაადგინა, რომ პოსტი არღვევდა კომპანიის ზრდასრულთა სექსუალური ექსპლუატაციის პოლიტიკას.oversightboard+1

თავის გადაწყვეტილებაში საბჭომ დაასკვნა, რომ რეალური ადამიანების ხელოვნური ინტელექტით შექმნილი სექსუალიზებული მიმსგავსება ნაგულისხმევად არაკონსენსუალურად უნდა ჩაითვალოს და დაემატოს იმ სიგნალებს, რომლებსაც Meta თანხმობის არარსებობის დასადგენად იყენებს. საბჭომ რეკომენდაცია გაუწია Meta-ს, დაამატოს ახალი სიგნალი ზრდასრულთა სექსუალური ექსპლუატაციის პოლიტიკაში, რომელიც სპეციალურად მოიცავს რეალური ადამიანების ხელოვნური ინტელექტით შექმნილ სექსუალიზებულ მიმსგავსებას.mlex+1

რეკომენდაციები გლობალური შეტყობინების ხელმისაწვდომობისთვის

საბჭომ გასცა რამდენიმე დამატებითი რეკომენდაცია. მან მოუწოდა Meta-ს, მისცეს მომხმარებლებს უფლება, დანიშნონ "დაკავშირებული ანგარიშები" — სანდო მეგობრები, ოჯახის წევრები ან კოლეგები — რომლებსაც შეუძლიათ მათ სახელით შეატყობინონ არაკონსენსუალური ინტიმური გამოსახულებების პოტენციური დარღვევების შესახებ. მან ასევე რეკომენდაცია გაუწია, რომ Meta-მ შექმნას ცალკე კატეგორია ხელოვნური ინტელექტის მიერ შექმნილი სექსუალიზებული მიმსგავსების შესახებ შეტყობინებისთვის, რომელიც განსხვავდება არსებული კატეგორიებისგან, როგორიცაა "შევიწროება" ან "სიშიშვლე", და გახადოს ასეთი საჩივრების ფორმები ხელმისაწვდომი გლობალურად.oversightboard

ამჟამად, deepfake ინტიმური გამოსახულებების შესახებ შეტყობინების სპეციალიზებული ფორმები ხელმისაწვდომია მხოლოდ გარკვეული იურისდიქციების მომხმარებლებისთვის, მათ შორის ტეხასსა და ფლორიდაში. საბჭომ მოითხოვა, რომ მსოფლიოს ყველა მომხმარებელს ჰქონდეს წვდომა ამ ინსტრუმენტებზე და აღნიშნა, რომ განსაკუთრებით არასაჯარო პირებს "ხშირად უწევთ საკუთარი თავის შესახებ შეტყობინების ტვირთის ზიდვა".mlex

მზარდი პრობლემა, რომელიც არაპროპორციულად აზიანებს ქალებს

საბჭომ ასევე გაიმეორა ადრინდელი რეკომენდაციები, რომ Meta-მ შეცვალოს ტერმინი "შეურაცხმყოფელი სექსუალიზებული ფოტოშოპი" თავის პოლიტიკაში ისეთი ენით, რომელიც ეხება "არაკონსენსუალურ" მანიპულირებულ მედიას და ფართომასშტაბიანად დანერგოს კონტენტის ავთენტურობის კოალიციის (Coalition for Content Provenance and Authenticity) მიერ შემუშავებული კონტენტის სერთიფიკატები. ციფრული უფლებების ორგანიზაციამ WITNESS განაცხადა, რომ გადაწყვეტილება "ასახავს მთავარ შეშფოთებას ხელოვნური ინტელექტის მიერ შექმნილ სექსუალიზებულ მიმსგავსებასთან დაკავშირებით" და დაადასტურა, რომ თანხმობა უნდა იყოს კონტენტის მოდერაციის ცენტრში ამ სფეროში.witness+1

გადაწყვეტილება მოჰყვა საბჭოს თებერვლის განცხადებას, რომ ის განიხილავდა ამ საქმეს და ეფუძნება 2024 წლის ივლისის გადაწყვეტილებას, რომელშიც საბჭომ განაცხადა, რომ Meta-ს deepfake პოლიტიკა განახლებას საჭიროებდა. საბჭომ გააფრთხილა, რომ ხელოვნური ინტელექტის ინსტრუმენტების განვითარებამ გამოიწვია არაკონსენსუალური სექსუალიზებული კონტენტის გავრცელება, რაც არაპროპორციულად აზიანებს ქალებსა და გოგონებს.kark+1