ფეი-ფეი ლი ხელოვნური ინტელექტის უსაფრთხოებაზე დამოუკიდებელ ზედამხედველობას ითხოვს

ხელოვნური ინტელექტის პიონერმა და World Labs-ის თანადამფუძნებელმა ფეი-ფეი ლიმ სამშაბათს მოუწოდა დამოუკიდებელ და საჯარო სექტორის სტრუქტურებს, გააძლიერონ ხელოვნური ინტელექტის ზედამხედველობა. მისი თქმით, მზარდი შესაძლებლობების მქონე სისტემების უსაფრთხოების შეფასება მხოლოდ იმ კომპანიებზე არ უნდა იყოს დამოკიდებული, რომლებიც მათ ქმნიან.bloomberg

Bloomberg TV-სთან საუბრისას ლიმ აღნიშნა, რომ მიუხედავად იმისა, რომ AI კომპანიების მკვლევრებს შეუძლიათ მოდელების სიმძლავრისა და უსაფრთხოების გაზომვა, ეს ვერ ჩაანაცვლებს მთავრობების, ინდუსტრიისა და აკადემიური ინსტიტუტების მიერ შემუშავებულ ფართო სტანდარტებს. მან ხაზი გაუსვა, რომ დამოუკიდებელ ბენჩმარკებს, აკადემიურ წრეებსა და სახელმწიფოს გადამწყვეტი როლი აკისრია.bloomberg+1

თანმიმდევრული გზავნილი ცვალებად გარემოში

ლის განცხადებები შეესაბამება მის პოზიციას, რომელიც მან გასული წლის განმავლობაში ჩამოაყალიბა. აგვისტოში, ლას-ვეგასში გამართულ Ai4 კონფერენციაზე, ჯეფრი ჰინტონთან და ენდრიუ ნგ-სთან ერთად დებატებისას, მან მხარი დაუჭირა დარგობრივ რეგულაციებსა და საჯარო ინვესტიციებს. მან ასევე მოუწოდა პოლიტიკოსებს, განაახლონ არსებული მარეგულირებელი ჩარჩოები ჯანდაცვის, ტრანსპორტის, ფინანსებისა და განათლების სფეროებში, ნაცვლად იმისა, რომ შეეცადონ "ჯინის ბოთლში დაბრუნებას".forbes+1

ამ თვის დასაწყისში სენატის საშინაო უსაფრთხოებისა და სამთავრობო საქმეთა კომიტეტის წინაშე გამოსვლისას, ლიმ მოითხოვა ხელოვნური ინტელექტის გამჭვირვალობა, მისი გამოყენების უსაფრთხოება კონფიდენციალურობისა და სამართლიანობის ზომებით, ასევე საჯარო კვლევებში ინვესტირება.hai.stanford

ფართო დებატები თვითრეგულირების შესახებ

მისი მოწოდება იმ დროს გაისმა, როდესაც მძაფრდება კრიტიკა იმის შესახებ, შეუძლია თუ არა AI ინდუსტრიას საკუთარი თავის გაკონტროლება. გასულ კვირას Forbes-მა გაავრცელა ინფორმაცია, რომ Anthropic-ის აღმასრულებელი დირექტორის, დარიო ამოდეის თვითრეგულირების წინადადება, რომლის მიხედვითაც კომპანიები თავად შეარჩევდნენ გარე შემფასებლებს, კრიტიკის ქარცეცხლში მოექცა. კრიტიკოსებმა ეს იდეა შეადარეს ავიაკომპანიებისთვის საკუთარი უსაფრთხოების ინსპექტორების არჩევის უფლების მიცემას.forbes

ამასობაში, ევროკავშირის AI აქტის მოთხოვნები მაღალი რისკის სისტემებისთვის ძალაში 2026 წლის აგვისტოში შევა, ხოლო აშშ-ის რამდენიმე შტატმა უკვე წარადგინა კანონპროექტები AI სისტემების დამოუკიდებელი აუდიტის შესახებ. NIST-ის AI აგენტების სტანდარტების ინიციატივა, რომელიც წელს დაიწყო, ასევე ავითარებს სტანდარტებს ავტონომიური AI აგენტებისთვის, რომლებიც მუდმივი ადამიანური ზედამხედველობის გარეშე მუშაობენ.gunder+2

ლი, რომელიც World Labs-ის აღმასრულებელი დირექტორია და სტენფორდის ადამიანზე ორიენტირებული AI ინსტიტუტის თანადირექტორი, საკითხს იმ კუთხით უყურებს, რომ ადამიანებმა უნდა შეინარჩუნონ კონტროლი AI-ის განვითარების ტრაექტორიაზე. "AI-ის მომავალი ადამიანებზეა დამოკიდებული", – განაცხადა მან Bloomberg-თან ინტერვიუში.bloomberg