OpenAI ხელოვნური ინტელექტის მოდელების გარე შემოწმებას დაუშვებს

OpenAI-მ სამშაბათს განაცხადა, რომ გარე ორგანიზაციებს საშუალებას მისცემს, ჩაატარონ მისი AI მოდელების ტექნიკური უსაფრთხოების შეფასებები ტრენინგის, შეფასებისა და დანერგვის უფრო ადრეულ ფაზებში. ეს ნაბიჯი მიზნად ისახავს მოწინავე AI სისტემების პოტენციური ზიანის შესახებ მზარდი შეშფოთების მოგვარებას.

ChatGPT-ის შემქმნელმა კომპანიამ Bloomberg-ის ცნობით, განსაზღვრა პრიორიტეტები, რათა ამ მიმოხილვებმა ეფექტურად იმუშაოს, მათ შორის "ძლიერი დამოუკიდებლობის მექანიზმები, მეცნიერული სიმკაცრე, უსაფრთხოების მყარი პრაქტიკა და მკაფიო პასუხისმგებლობები". განცხადება, რომელიც კომპანიის ბლოგპოსტის საშუალებით გავრცელდა, AI ინდუსტრიის უსაფრთხოების პრაქტიკისადმი ინტენსიური ყურადღების პერიოდში გაკეთდა.bloomberg

უსაფრთხოების წინადადებების ტალღა

ეს ნაბიჯი მოჰყვა წამყვანი AI ლაბორატორიების მხრიდან უსაფრთხოებასთან დაკავშირებული განცხადებების სწრაფ სერიას. ორშაბათს OpenAI-მ გამოაქვეყნა წინადადებების ცალკეული ნაკრები, რომელიც ფოკუსირებულია ალგორითმების შესაბამისობის კვლევაზე და გამოთვლით ტექნიკაზე, რომელიც ცნობილია როგორც რეკურსიული თვითგანვითარება (RSI), და მოუწოდა საერთაშორისო თანამშრომლობისკენ მოწინავე სტანდარტების შესამუშავებლად. "სრულად ავტონომიური RSI დღეს არ ხდება და ჩვენ არ უნდა მივდიოდეთ მასზე, სანამ ის უსაფრთხოდ არ განხორციელდება", – წერს კომპანია.cnbc

გასულ კვირას კონკურენტმა Anthropic-მა გამოაქვეყნა საკუთარი წინადადებები მოწინავე მოდელების უფრო უსაფრთხო განვითარებისთვის, მას შემდეგ რაც მკვლევარმა ჯეიკობ კოქსონმა გლობალური დებატები გამოიწვია კომპანიიდან გადადგომით და გაფრთხილებით, რომ AI ლაბორატორიები "ჩვენი სიცოცხლით თამაშობენ". Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ მოგვიანებით მოუწოდა AI კომპანიებს, შეენელებინათ განვითარების ტემპი და შესთავაზა მესამე მხარის შემფასებლების ჩართვა მათ ორგანიზაციებში.explainx+1

ნდობის დეფიციტი გრძელდება

პირობების სიმრავლის მიუხედავად, სკეპტიკოსები კითხვის ნიშნის ქვეშ აყენებენ, შესაძლებელია თუ არა მნიშვნელოვანი ზედამხედველობა ინდუსტრიის ასეთი სწრაფი ტემპის ფონზე. Axios-ის მიერ ციტირებული Goldman Sachs ↘ 1.38%-ის შეფასებების თანახმად, მომდევნო ხუთი წლის განმავლობაში AI-ს მასშტაბირებაზე 7 ტრილიონ დოლარზე მეტი დაიხარჯება. OpenAI-ც და Anthropic-იც განიცდიან ზეწოლას, რომ შექმნან უფრო და უფრო ძლიერი მოდელები, რადგან ისინი ემზადებიან საჯარო შეთავაზებებისთვის მრავალტრილიონიანი შეფასებებით.axios

100-ზე მეტი AI შემფასებლის კოალიციამ ცოტა ხნის წინ მოუწოდა მოწინავე მოდელების შემქმნელებს, მიეღოთ "მინიმალური პირობები" დამოუკიდებელი აუდიტისთვის, მათ შორის უფრო ღრმა წვდომა და დაცვა არასასურველი დასკვნების გამოქვეყნების გამო შურისძიებისგან. დანიელ კოკოტაილომ, OpenAI-ს ყოფილმა მკვლევარმა და AI Futures Project-ის აღმასრულებელმა დირექტორმა, Axios-ს განუცხადა, რომ არ სჯერა, რომ AI-ს უსაფრთხოდ მასშტაბირება შესაძლებელია და ამტკიცებს, რომ წამყვანმა კომპანიებმა თავი უნდა აარიდონ თავიანთი უზარმაზარი გამოთვლითი რესურსების მოდელის გაუმჯობესებისკენ მიმართვას.cnbc+2

"კომპანიებს აქვთ წინააღმდეგობრივი გრძნობებისა და შიდა დისკუსიების უწყვეტი პროცესი იმის შესახებ, თუ რას ვაკეთებთ", – თქვა კოკოტაილომ. "უნდა გავჩერდეთ? ჩვენ ვართ კეთილი ძალები?"axios