DeepMind-ի նախկին հետազոտողները հիմնել են շահույթ չհետապնդող կազմակերպություն՝ AI-ի վերահսկողության մեջ մարդուն պահելու համար

Google Alphabet Inc.-ի ↘ 0.36% DeepMind-ի նախկին հետազոտողների մի խումբ հիմնել է Sampura Research անունով շահույթ չհետապնդող կազմակերպություն, որը նվիրված է ապահովելու, որ մարդիկ մնան ավելի ու ավելի հզոր AI համակարգերի վերահսկողության կենտրոնում: Լոնդոնում հիմնված կազմակերպությունը, որի մասին պաշտոնապես հայտարարվեց օգոստոսի 24-ին, նպատակ ունի ստեղծել այն, ինչ անվանում է ավելի ուժեղ դատավորներ՝ հիբրիդային մարդ-AI համակարգեր, որոնք ունակ են գնահատել, թե արդյոք մոդելները գործում են անվտանգ և նախատեսվածի համաձայն:bloomberg+2

AI-ի կողմից AI-ի վերահսկողության հակակշիռ

Sampura Research-ը համահիմնադրել են Ռիշուբ Ջեյնը, Ջոշուա Ջեյկոբը և Ալեքս Ադամսը, որոնք նախկինում աշխատել են Google DeepMind-ում: Ջեյնը լաբորատորիայում անցկացրել է յոթ տարի, այդ թվում՝ երկու տարի կենտրոնացած մասշտաբային վերահսկողության հետազոտությունների և այնպիսի նախագծերում ներդրումների վրա, ինչպիսին է AlphaFold-ը: Ջեյկոբը DeepMind-ում եղել է մարդկային տվյալների ճարտարագիտության համաղեկավար և նախկինում աշխատել է Waymo-ում:EdTech Innovation Hub+4

Շահույթ չհետապնդող կազմակերպությունն իրեն դիրքավորում է որպես արդյունաբերության մեջ գերիշխող մոտեցման հակակշիռ, որտեղ AI-ն վերահսկում է AI-ին. մեթոդ, որն առաջարկում է արագություն, բայց, ինչպես պնդում է Ջեյնը, դեռևս թողնում է բացեր, որոնք մարդկային դատողությունը կարող է օգնել լրացնել: Bloomberg-ի համաձայն՝ Ջեյնը կարծում է, որ մարդիկ պահպանում են էական դեր մոդելի վարքագծի ստուգման գործում, նույնիսկ երբ AI համակարգերը դառնում են ավելի կարող:Bloomberg Law+1

Վերահսկողության ենթակառուցվածքի կառուցում

Sampura-ի հետազոտական օրակարգը կենտրոնացած է տվյալների բազաների մշակման վրա, որոնք չափում են, թե որքան արդյունավետ կարող են մարդիկ և AI համակարգերը ստուգել մոդելի արդյունքները, այնուհետև օգտագործել այդ չափանիշները վերահսկողության մեթոդները բարելավելու համար: Կազմակերպությունը դատավորին սահմանում է որպես մարդ, AI կամ հիբրիդային համակարգ, որը գնահատում է AI-ի վարքագծի ճշգրտությունն ու համապատասխանությունը զրույցի կամ գործակալի հետագծի ընթացքում:sampura+1

Նախատեսված աշխատանքային հոսքերը ներառում են վնասների կանխատեսման տվյալների բազաներ, մարդկանց և AI-ի միջև ենթաառաջադրանքների բաշխման մեթոդներ և բաց կոդով մարդկային գնահատման հարթակ: Թիմը Լոնդոնում հավաքագրում է առնվազն վեց փորձառու AI հետազոտողի՝ 100,000-ից 290,000 ֆունտ ստերլինգ աշխատավարձով:EdTech Innovation Hub+1

Անվտանգության ավելի լայն գիտակցման ֆոնին

Գործարկումը տեղի է ունենում AI-ի վերահսկողության կարողությունների վերաբերյալ մտահոգությունների աճի շրջանում: Reuters-ի զեկույցում նշվում է, որ AI ընկերությունները դեռ չեն կարողանում զսպել այն, ինչ կառուցել են, մինչդեռ METR շահույթ չհետապնդող կազմակերպությունը, որն անկախորեն գնահատում է OpenAI-ի, Anthropic-ի, Google-ի և Meta-ի ↗ 1.97% սահմանային մոդելները, պայքարում է բավարար անձնակազմ հավաքագրելու համար՝ չնայած 500,000 դոլարից ավելի աշխատավարձեր առաջարկելուն: Հուլիսի վերջին ավելի քան 1,100 AI մասնագետներ ստորագրեցին բաց նամակ՝ կոչ անելով ԱՄՆ կառավարությանը աջակցել միջազգային մեխանիզմին՝ անհրաժեշտության դեպքում սահմանային զարգացումը դանդաղեցնելու համար:news.aibase.com+2

Ջեյնի հեռանալը DeepMind-ից 2026 թվականի հունիսին տեղի ունեցած տաղանդների զանգվածային արտահոսքի մի մասն էր, որի ընթացքում լաբորատորիան վեց օրվա ընթացքում կորցրեց հինգ հիմնական հետազոտող:kucoin.com