ორშაბათს, 16 ნოემბერს, OpenAI-მ გამოუშვა უფასო გამოსახულების კლასიფიკატორი, რომელიც ბავშვთა სექსუალური ძალადობის მასალებს (CSAM) აიდენტიფიცირებს, მათ შორის AI-ით გენერირებულ გამოსახულებებს. კომპანიამ ასევე დაამატა ChatGPT-ის გაფრთხილებები, რომლებიც 24 საათით ზღუდავს წვდომას, თუ მომხმარებელი შეეცდება მოიპოვოს შეურაცხმყოფელი კონტენტი. კომპანიის განცხადებით, ეს ზომები…
ორშაბათს OpenAI-მ გამოუშვა უფასო გამოსახულების კლასიფიკატორი, რომელიც NCMEC-თან თანამშრომლობით შეიქმნა და წარმოადგენს პირველ ფართოდ ხელმისაწვდომ CSAM ინსტრუმენტს, რომელიც AI-ით გენერირებულ მასალას აიდენტიფიცირებსopenai.com.
ChatGPT გააფრთხილებს მომხმარებლებს, რომლებიც შეეცდებიან მოიძიონ შეურაცხმყოფელი კონტენტი, წაშლის ჩატს და 24 საათით შეზღუდავს წვდომას. განმეორებითი დარღვევის შემთხვევაში მომხმარებელს ემუქრება ანგარიშის დაბლოკვა ან პოლიციაში შეტყობინებაopenai.com.
ეს ნაბიჯი გადაიდგა მას შემდეგ, რაც OpenAI-ს წინააღმდეგ წამოიჭრა სარჩელები, რომლებშიც კომპანიის ტექნოლოგიას მომხმარებლების, განსაკუთრებით ბავშვების დაზიანებაში ადანაშაულებენ, ხოლო კონკურენტმა ჩატბოტებმა, როგორიცაა Grok, სექსუალური ხასიათის გამოსახულებები შექმნეს, იტყობინება TechCrunchtechcrunch.com.