Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com.openai.com.techcrunch.com.ორშაბათს, 16 ნოემბერს, OpenAI-მ გამოუშვა უფასო გამოსახულების კლასიფიკატორი, რომელიც ბავშვთა სექსუალური ძალადობის მასალებს (CSAM) აიდენტიფიცირებს, მათ შორის AI-ით გენერირებულ გამოსახულებებს. კომპანიამ ასევე დაამატა ChatGPT-ის გაფრთხილებები, რომლებიც 24 საათით ზღუდავს წვდომას, თუ მომხმარებელი შეეცდება მოიპოვოს შეურაცხმყოფელი კონტენტი. კომპანიის განცხადებით, ეს ზომები ეფუძნება მათ ბავშვთა უსაფრთხოების გეგმას (Child Safety Blueprint). პაკეტი ასევე მოიცავს რეკომენდაციებს დეველოპერებისთვის და ახალ AI ინსტრუმენტებს სამართალდამცავი ორგანოებისთვის.openai.com
OpenAI-მ კლასიფიკატორი შეიმუშავა და შეაფასა უგზო-უკვლოდ დაკარგულ და ექსპლუატაციას დაქვემდებარებულ ბავშვთა ეროვნულ ცენტრთან (NCMEC) თანამშრომლობით, რომელიც მართავს CyberTipline-ს. კომპანია მას უწოდებს პირველ ფართოდ ხელმისაწვდომ CSAM კლასიფიკატორს, რომელსაც აქვს სპეციალური სიგნალი იმის დასადგენად, არის თუ არა მასალა AI-ით გენერირებული. ინსტრუმენტი ეძებს ძალადობის ვიზუალურ ნიშნებს მანამდე უცნობ გამოსახულებებში. ის თითოეულ სურათს ანიჭებს ქულას, რათა შემფასებლებმა გადაწყვიტონ, რომელი მათგანი შეამოწმონ პირველ რიგში. ვერიფიცირებულ ორგანიზაციებს მისი გამოყენება OpenAI API-ს მეშვეობით უფასოდ შეუძლიათ.openai.com
მომხმარებლის მიერ ატვირთულ სურათებზე ჩატარებულ შიდა ტესტირებაში OpenAI-მ დაადგინა, რომ ახალი კლასიფიკატორი 48%-ით ნაკლებ სურათს მონიშნავს, ვიდრე მათი ამჟამინდელი ინსტრუმენტი, თუმცა დაახლოებით იგივე რაოდენობის შეურაცხმყოფელ მასალას აღმოაჩენს. მონიშნული სურათები დაახლოებით ორჯერ უფრო მეტად შეიცავდა ძალადობას. ადრეულმა პარტნიორებმა საკუთარი შედეგები გააზიარეს. Fal-ში შემფასებლებმა დაადასტურეს, რომ კლასიფიკატორის მაღალი სანდოობის მქონე მონიშვნების 72% იყო ახალი CSAM მასალა. SafetyKit-მა დაადგინა, რომ მან აღმოაჩინა ბავშვთა სექსუალიზაციის შემცველი ნახატების ან ანიმაციების 90%. OpenAI აცხადებს, რომ მუშაობს Tech Coalition-თან და ROOST-თან, რათა წვდომა სხვებსაც გაუზიაროს.techcrunch.com+1
აქამდე OpenAI ატვირთული ფაილების სკანირებისთვის ეყრდნობოდა ჰეშ-შედარებას და Thorn-ის CSAM კლასიფიკატორს. 2026 წლის პირველ ნახევარში მან NCMEC-ს 126,597 CyberTipline ანგარიში გაუგზავნა.openai.com+1
ChatGPT ახლა ჩაერევა, როდესაც ვინმე შეეცდება შეურაცხმყოფელი მასალის მოძიებას. ის აჩვენებს გაფრთხილებას, რომ ბავშვების სექსუალიზაცია ზიანს აყენებს, მაშინაც კი, თუ მასალა AI-ით არის გენერირებული. OpenAI შემდეგ წაშლის საუბარს და 24 საათით შეაჩერებს ChatGPT-ზე წვდომას, ამასთან მომხმარებელს მიუთითებს სპეციალიზებულ დახმარებაზე. განმეორებითმა დარღვევებმა შეიძლება გამოიწვიოს უფრო ხანგრძლივი შეზღუდვები, ანგარიშის დახურვა ან ხელისუფლებისთვის შეტყობინება. ეს მიდგომა შემუშავდა Protect Children-თან, Lucy Faithfull Foundation-თან და მკვლევრებთან ერთად, რომლებმაც შეაფასეს შემაკავებელი შეტყობინებების საცდელი ვერსია.openai.com
OpenAI-მ ასევე გამოაქვეყნა CSAM-ის სახელმძღვანელო დეველოპერებისთვის, რომელიც დაიწერა Thorn-ის, NCMEC-ისა და Internet Watch Foundation-ის რეკომენდაციების საფუძველზე. ბავშვთა უსაფრთხოების სამართალდამცავი დანაყოფებისთვის კომპანია ამატებს პლაგინებს, საგამოძიებო ინსტრუმენტებს და ტრენინგებს. პირველი ინსტრუმენტი გამომძიებლებს ეხმარება გრძელი ჩატის ჟურნალების და იურიდიული დოკუმენტების მიმოხილვაში, შესაძლო კავშირების დადგენასა და ქრონოლოგიის აგებაში.developers.openai.com
ეს გაშვება ხდება იმ ფონზე, როდესაც AI კომპანიები ბავშვთა უსაფრთხოების კუთხით მზარდი კონტროლის ქვეშ არიან. TechCrunch-მა აღნიშნა, რომ OpenAI-ს წინააღმდეგ მიმდინარეობს რამდენიმე სასამართლო პროცესი, სადაც კომპანიის ტექნოლოგიას ადანაშაულებენ მომხმარებლების, განსაკუთრებით ბავშვების დაზიანებაში. მან ასევე აღნიშნა, რომ სხვა ჩატბოტები, მათ შორის Grok, გამოიყენებოდა არათანხმობრივი სექსუალური ხასიათის გამოსახულებების შესაქმნელად, ზოგიერთი მათგანი ბავშვებსაც ეხებოდა.techcrunch.com