Anthropic-ը վարձում է զենքի փորձագետների՝ AI-ն չարաշահումներից պաշտպանելու համար

Anthropic-ը վարձում է կիրարկման վերլուծաբանների և ոլորտի փորձագետների, որոնց խնդիրն է կանխել իր AI համակարգերի օգտագործումը զանգվածային ոչնչացման զենքեր ստեղծելու, կիբերհարձակումներ կատարելու կամ ֆինանսական խարդախություններ իրականացնելու համար:

Ընկերությունը վերջին օրերին հրապարակել է մի շարք աշխատանքային հայտարարություններ՝ փնտրելով մասնագետների ռադիոլոգիական և միջուկային վնասների, քիմիկատների և պայթուցիկ նյութերի, կիբերհանցագործությունների և սպառնալիքների այլ կատեգորիաների գծով, ինչպես առաջինը հայտնել է Axios-ը և մանրամասնել Yahoo Finance-ը: Այդ պաշտոնները, որոնք առաջարկում են 200,000-ից 300,000 դոլար աշխատավարձ, չեն պահանջում ծրագրավորման հմտություններ. Anthropic-ը ցանկանում է իրական փորձ այնպիսի ոլորտներում, ինչպիսիք են միջուկային ֆիզիկան, կենսաբանությունը և պայթուցիկ նյութերը, ինչպես նաև հարձակվողի պես մտածելու ունակություն՝ ընկերության պաշտպանական համակարգերում թույլ կետերը բացահայտելու համար:thenextweb+1

Անվտանգության աճող ապարատ

«Ռադիոլոգիական և միջուկային վնասների կիրարկման վերլուծաբան» պաշտոնի համար հայտարարությունը պահանջում է թեկնածուներ, որոնք ունեն միջուկային ճարտարագիտության կամ առողջապահական ֆիզիկայի ֆոն և զանգվածային ոչնչացման զենքի չտարածման կամ սպառնալիքների հետախուզման փորձ: Մեկ այլ պաշտոն, որը կենտրոնացած է կիբեր վնասների վրա, վերլուծաբաններից պահանջում է բացահայտել և մեղմել Anthropic-ի մոդելները չարամիտ կիբերգործողությունների համար զենք դարձնելու փորձերը: Ընկերությունը նաև վարձում է կենսաբանական անվտանգության հետազոտող գիտնականների՝ վիրուսոլոգիայի, միկրոկենսաբանության կամ հարակից ոլորտներում դոկտորի կոչումով, որպեսզի «սահմանեն, թե ինչպիսին պետք է լինի պատասխանատու AI անվտանգությունը կենսաբանական ոլորտում»:job-boards.greenhouse+2

Anthropic-ի խոսնակը The Next Web-ին հայտնել է, որ «մեր մոդելների կողմից պոտենցիալ վնասակար տեղեկատվություն չտրամադրելու ապահովումը առանցքային է պատասխանատու զարգացման համար»՝ հավելելով, որ հարյուրավոր աշխատակիցներ այժմ աշխատում են անվտանգության ուղղությամբ: BBC-ն այս տարվա սկզբին հայտնել էր, որ Anthropic-ը փնտրում էր քիմիական զենքի և բարձր հզորության պայթուցիկ նյութերի փորձագետ՝ մեղմելու համար այն, ինչն անվանել էր իր տեխնոլոգիայի «աղետալի չարաշահում»:bbc+1

Ամոդեիի կրկնվող զգուշացումները

Այս վարձագրման արշավը սերտորեն համընկնում է գործադիր տնօրեն Դարիո Ամոդեիի զգուշացումների հետ, ով անցած տարվա մեծ մասը անցկացրել է առաջադեմ AI-ի հետ կապված ռիսկերի մասին ահազանգելով: Հունվարյան էսսեում Ամոդեին գրել է, որ կենսաբանական հարձակումներն իրեն ամենաշատն են անհանգստացնում՝ նշելով, որ «միլիոնավոր մարդկանց և մի քանի տարվա հաշվարկով, կարծում եմ, կա լուրջ հարձակման լուրջ ռիսկ, որը կարող է հանգեցնել միլիոնավոր կամ ավելի զոհերի»: Նա նաև զգուշացրել է ընկերություններին և կառավարություններին վեցից 12-ամսյա ժամանակահատվածի մասին՝ ծրագրային ապահովման խոցելիությունները շտկելու համար, որոնք բացահայտել են Anthropic-ի վերջին մոդելները:axios+2

Ինքնակարգավորում օրենսդրական վակուումում

Anthropic-ը միակը չէ այս ջանքերում: OpenAI-ը նույնպես վարձում է հետազոտողների, որոնք կենտրոնացած են կենսաբանական և քիմիական ռիսկերի վրա՝ մինչև 445,000 դոլար աշխատավարձով: Զուգահեռ ջանքերը ընդգծում են AI արդյունաբերության մեջ անսովոր դինամիկան. ամենահզոր մոդելներ ստեղծող ընկերությունները նաև այն ընկերություններն են, որոնք համալրում են անձնակազմը դրանք վերահսկելու համար՝ AI անվտանգության վերաբերյալ համապարփակ դաշնային օրենսդրության բացակայության պայմաններում: Ամոդեին ընդունել է այս լարվածությունը՝ AI ընկերություններին անվանելով ռիսկի մակարդակ, որը գտնվում է թշնամական պետություններից անմիջապես ներքև:thenextweb