Meta-ի և Google-ի մոդելների AI անվտանգության ֆիլտրերը հանվել են րոպեների ընթացքում, պարզել է FT-ն

Ծրագրային գործիքները, որոնք հեռացնում են Meta ↗ 4.70% և Google Alphabet Inc. ↗ 2.82% ընկերությունների կողմից մշակված AI մոդելների անվտանգության պաշտպանությունը, կարող են շրջանցել անվտանգության արգելքները մի քանի րոպեի ընթացքում, ըստ կիրակի օրը Financial Times-ի կողմից հրապարակված հետաքննության: Ձևափոխված համակարգերը արձագանքել են կենսաբանական զենքի, վնասակար ծրագրերի ստեղծման և երեխաների շահագործման վերաբերյալ հարցումներին՝ նոր մտահոգություններ առաջացնելով AI ոլորտում կամավոր անվտանգության միջոցառումների համարժեքության վերաբերյալ:

Թեստերը բացահայտում են թույլ պաշտպանությունը

Financial Times-ը, համագործակցելով AI անվտանգության Alice խմբի հետ, անցկացրել է թեստեր, որոնք ցույց են տվել, որ հանրությանը հասանելի գործիքակազմերը կարող են կարճ ժամանակում հեռացնել անվտանգության ֆիլտրերը լայնորեն օգտագործվող մոդելներից: Գործիքակազմերը օգտագործում են այնպիսի տեխնիկաներ, ինչպիսիք են թեթև ճշգրտումը (fine-tuning), հակառակորդի հրահանգների տվյալների հավաքածուները և ավտոմատացված հարցումների ձևափոխումները, որոնք վերագրում կամ շրջանցում են ներկառուցված պաշտպանությունը՝ առանց մոդելի ամբողջական վերապատրաստման անհրաժեշտության: Ըստ զեկույցի՝ այս գործիքներն արդեն օգտագործվում են մոդելի հազարավոր փոփոխված տարբերակներ ստեղծելու համար, որոնք շրջանցում են մատակարարի կողմից սահմանված սահմանափակումները:ft+2

Բացահայտումները տեղի են ունենում AI անվտանգության կառուցվածքային թույլ կողմերի վերաբերյալ աճող ակադեմիական ապացույցների ֆոնին: Փետրվարին Nature Communications-ում հրապարակված ուսումնասիրությունը պարզել է, որ մեծ տրամաբանական մոդելները կարող են օգտագործվել որպես ինքնավար ջեյլբրեյքի գործակալներ՝ հասնելով 97 տոկոս հաջողության մոդելների համակցություններում՝ առանց մարդու վերահսկողության: Առանձին-առանձին, ICLR 2026-ին ներկայացված աշխատությունը ցույց է տվել Head-Masked Nullspace Steering կոչվող տեխնիկան, որը հասել է մինչև 99 տոկոս ջեյլբրեյքի հաջողության՝ լռեցնելով անվտանգության մերժումների համար պատասխանատու հատուկ ուշադրության գլխիկները:nature+1

Բաց քաշով մոդելները մեծացնում են ռիսկը

Հետաքննությունը ընդգծում է լարվածությունը բաց քաշով AI ռազմավարության հիմքում, որը պաշտպանում են Meta-ի Llama շարքը և Google-ի Gemma տեսականին: Թեև բաց քաշերը արագացնում են հետազոտությունները և մշակողների կողմից ընդունումը, դրանք նաև թույլ են տալիս կողմնակի անձանց փոփոխել կամ վերափաթեթավորել մոդելները՝ անվտանգության փոփոխված ստանդարտներով: Կիբերանվտանգության վերլուծաբանները նախազգուշացրել են, որ AI անվտանգության շատ պաշտպանություններ գոյություն ունեն միայն մակերեսային մակարդակում, և երբ օգտատերերը ստանում են մոդելի քաշերի հասանելիություն, սահմանափակումները կարող են հեռացվել ազատ տարածվող գործիքների միջոցով:nai500+1

The New York Times-ը այս ամսվա սկզբին հայտնել էր, որ AI անվտանգության վերահսկողությունը ողջ ոլորտում մնում է լայնորեն անարդյունավետ՝ նշելով, որ LayerX կիբերանվտանգության ընկերության հետազոտողները նվազագույն ջանքերով շրջանցել էին Claude-ի արգելքները:nytimes

Կարգավորող և շուկայական հետևանքներ

Վաշինգտոնի, Բրյուսելի և Լոնդոնի կարգավորող մարմինները ազդարարել են, որ AI մշակողների կամավոր պարտավորությունները բավարար չեն լինի: ԱՄՆ-ն արդեն ունի գործադիր հրամանի շրջանակներ և NIST-ի ուղեցույցներ, որոնք կարող են օգտագործվել կիրարկման համար, մինչդեռ ԵՄ AI ակտը տուգանքներ է սահմանում համակարգային անվտանգության ձախողումների համար: Բացահայտումները, հավանաբար, կուժեղացնեն կոչերը կիրարկելի ստանդարտների վերաբերյալ, որոնք կարգավորում են ինչպես փակ, այնպես էլ բաց քաշով AI համակարգերը, ինչը պոտենցիալ կդանդաղեցնի ձեռնարկությունների կողմից ընդունումը, քանի որ գնումների թիմերը պահանջում են ավելի ուժեղ տեխնիկական երաշխիքներ և անկախ աուդիտորական հետքեր:nai500