DeepMind-ის ყოფილმა მკვლევრებმა არაკომერციული ორგანიზაცია დააარსეს, რათა AI-ის ზედამხედველობაში ადამიანის როლი შეინარჩუნონ

Google Alphabet Inc.-ის ↘ 1.01% DeepMind-ის ყოფილმა მკვლევრებმა დააარსეს არაკომერციული ორგანიზაცია Sampura Research, რომელიც მიზნად ისახავს უზრუნველყოს, რომ ადამიანები დარჩნენ უფრო მძლავრი AI სისტემების ზედამხედველობის ცენტრში. ლონდონში დაფუძნებულმა ორგანიზაციამ, რომლის შესახებაც ოფიციალურად 24 აგვისტოს გამოცხადდა, მიზნად დაისახა შექმნას ე.წ. ძლიერი მსაჯები: ჰიბრიდული ადამიანურ-AI სისტემები, რომლებსაც შეუძლიათ შეაფასონ, იქცევიან თუ არა მოდელები უსაფრთხოდ და დანიშნულებისამებრ.bloomberg+2

AI-ის მიერ AI-ის ზედამხედველობის ალტერნატივა

Sampura Research დააარსეს რიშუბ ჯეინმა, ჯოშუა ჯეიკობმა და ალექს ადამსმა, რომლებიც მანამდე Google DeepMind-ში მუშაობდნენ. ჯეინმა ლაბორატორიაში შვიდი წელი გაატარა, მათ შორის ორი წელი მასშტაბური ზედამხედველობის კვლევასა და ისეთ პროექტებში წვლილის შეტანას დაუთმო, როგორიცაა AlphaFold. ჯეიკობი DeepMind-ში ადამიანური მონაცემების ინჟინერიის თანახელმძღვანელი იყო, მანამდე კი Waymo-ში მუშაობდა.EdTech Innovation Hub+4

არაკომერციული ორგანიზაცია თავს პოზიციონირებს, როგორც ინდუსტრიაში გაბატონებული მიდგომის ალტერნატივას, სადაც AI აკონტროლებს AI-ს. ეს მეთოდი სისწრაფეს იძლევა, მაგრამ, როგორც ჯეინი ამტკიცებს, ის მაინც ტოვებს ხარვეზებს, რომელთა შევსებაც ადამიანის განსჯას შეუძლია. Bloomberg-ის თანახმად, ჯეინს მიაჩნია, რომ ადამიანებს უნარჩუნდებათ არსებითი როლი მოდელის ქცევის ვერიფიკაციაში, მაშინაც კი, როდესაც AI სისტემები უფრო მძლავრები ხდებიან.Bloomberg Law+1

ზედამხედველობის ინფრასტრუქტურის შექმნა

Sampura-ს კვლევითი დღის წესრიგი ორიენტირებულია მონაცემთა ბაზების შემუშავებაზე, რომლებიც ზომავს, რამდენად ეფექტურად შეუძლიათ ადამიანებს და AI სისტემებს მოდელის შედეგების ვერიფიკაცია, შემდეგ კი ამ კრიტერიუმების გამოყენება ზედამხედველობის მეთოდების გასაუმჯობესებლად. ორგანიზაცია მსაჯს განსაზღვრავს, როგორც ადამიანს, AI-ს ან ჰიბრიდულ სისტემას, რომელიც აფასებს AI-ის ქცევის სისწორესა და შესაბამისობას საუბრის ან აგენტის ტრაექტორიის დროს.sampura+1

დაგეგმილი სამუშაო ნაკადები მოიცავს ზიანის მომავალზე ორიენტირებულ მონაცემთა ბაზებს, ადამიანებსა და AI-ს შორის ქვედავალებების განაწილების მეთოდებს და ღია კოდის მქონე ადამიანური შეფასების პლატფორმას. გუნდი ლონდონში ეძებს სულ მცირე ექვს გამოცდილ AI მკვლევარს, რომელთა ხელფასი 100 000-დან 290 000 ფუნტ სტერლინგამდე მერყეობს.EdTech Innovation Hub+1

უსაფრთხოების ფართო გააზრების ფონზე

ორგანიზაციის დაარსება დაემთხვა პერიოდს, როდესაც AI-ის ზედამხედველობის შესაძლებლობების შესახებ შეშფოთება გაიზარდა. Reuters-ის ანგარიშში აღნიშნულია, რომ AI ფირმებს ჯერ კიდევ არ შეუძლიათ გააკონტროლონ ის, რაც შექმნეს, ხოლო არაკომერციულმა ორგანიზაციამ METR, რომელიც დამოუკიდებლად აფასებს OpenAI-ის, Anthropic-ის, Google-ისა და Meta-ს ↗ 1.08% სასაზღვრო მოდელებს, ვერ შეძლო საკმარისი პერსონალის დაქირავება, მიუხედავად იმისა, რომ 500 000 დოლარზე მეტ ხელფასს სთავაზობდა. ივლისის ბოლოს 1100-ზე მეტმა AI პრაქტიკოსმა ხელი მოაწერა ღია წერილს, რომლითაც აშშ-ის მთავრობას მოუწოდებენ, მხარი დაუჭიროს საერთაშორისო მექანიზმს სასაზღვრო განვითარების შენელებისთვის, როდესაც ეს აუცილებელია.news.aibase.com+2

ჯეინის წასვლა DeepMind-იდან 2026 წლის ივნისში მომხდარი კადრების მასობრივი გადინების ნაწილი იყო, რა დროსაც ლაბორატორიამ ექვს დღეში ხუთი ძირითადი მკვლევარი დაკარგა.kucoin.com