Alibaba-ն կարգելի Claude Code-ի օգտագործումը՝ ենթադրյալ «հետին դռան» ռիսկերի պատճառով

Alibaba ↗ 1.87% ընկերությունը հուլիսի 10-ից իր աշխատակիցներին կարգելի աշխատավայրում օգտագործել Anthropic-ի Claude Code-ը՝ վկայակոչելով անվտանգության մտահոգությունները, որոնք ընկերությունը նկարագրել է որպես AI ծրագրավորման օգնականում ներկառուցված «հետին դռան» (backdoor) ռիսկեր, հինգշաբթի հայտնել է Reuters-ը:thenextweb+1

Արգելքը հաջորդել է այն բացահայտումներին, որ Claude Code-ի 2.1.91 տարբերակը, որը թողարկվել է ապրիլի 2-ին, պարունակել է թաքնված նույնականացման տրամաբանություն, որը ստուգել է օգտատերերի ժամային գոտիների կարգավորումները և պրոքսի կոնֆիգուրացիաները՝ Չինաստանի հետ կապված օգտատերերին նույնականացնելու համար։ Մեխանիզմն օգտագործել է ստեգանոգրաֆիկ տեխնիկա՝ Unicode նիշերի նուրբ վարիացիաների միջոցով համակարգային հրամաններում անտեսանելի նշիչներ ներդնելու միջոցով, որոնք օգտատերերի համար աննկատ են եղել, բայց ընթեռնելի՝ Anthropic-ի համար:cybersecuritynews+2

Թաքնված կոդը

Reddit-ի օգտատեր LegitMichel777-ը առաջինն է բացահայտել այս գործառույթը՝ պարզելով, որ Claude Code-ը համակարգային ժամային գոտիները համեմատել է «Asia/Shanghai» կամ «Asia/Urumqi»-ի հետ և սկանավորել է պրոքսի URL-ները չինական դոմենների և AI լաբորատորիաների հոսթնեյմների համար։ Կոդը քողարկված է եղել XOR գաղտնագրման միջոցով՝ 91 բանալիով, ինչը թույլ չի տվել այն հայտնաբերել պարզ տեքստային որոնումների ժամանակ:the-decoder+1

Anthropic-ի աշխատակից Թարիք Շիհիպարը, որն աշխատում է Claude Code-ի թիմում, X-ում նկարագրել է այս գործառույթը որպես «փորձ, որը մենք սկսել ենք մարտին և նպատակ ուներ կանխել հաշիվների չարաշահումը չարտոնված վերավաճառողների կողմից և պաշտպանվել դիստիլյացիայից»։ Նա ասել է, որ թիմը «իրականում վաղուց էր պատրաստվում հեռացնել այն», և որ այն հուլիսի 1-ի դրությամբ արդեն հեռացված է եղել:aiweekly+1

Դիստիլյացիայի հետ կապված լարվածությունը

Արգելքը հաջորդել է երկու ընկերությունների միջև լարվածության սրմանը։ Anthropic-ը հունիսի 10-ին նամակ է ուղարկել ԱՄՆ սենատորներ Թիմ Սքոթին և Էլիզաբեթ Ուորենին՝ մեղադրելով Alibaba-ի հետ կապված օպերատորներին Claude-ի դեմ ամենամեծ հայտնի դիստիլյացիոն արշավն իրականացնելու մեջ։ CNBC-ի հաղորդմամբ, որը հաստատել է նամակի մանրամասները, Alibaba-ի Qwen AI լաբորատորիայի հետ կապված օպերատորները ենթադրաբար օգտագործել են մոտ 25,000 խաբեբայական հաշիվներ՝ ապրիլի 22-ից հունիսի 5-ն ընկած ժամանակահատվածում Claude մոդելների հետ գրեթե 28,8 միլիոն փոխազդեցություն իրականացնելու համար:businessinsider+2

Դիստիլյացիան տեխնիկա է, որի ժամանակ ավելի փոքր մոդելը մարզվում է ավելի հզոր մոդելի ելքային տվյալների օգտագործմամբ՝ արդյունավետորեն կորզելով մրցակցի հնարավորությունները՝ առանց դրանք ինքնուրույն ստեղծելու:cnbc

Ավելի լայն համատեքստ

Alibaba-ն հրապարակայնորեն չի հաստատել արգելքը, սակայն չինական ֆինանսական Yicai հրատարակությունը հայտնել է, որ ընկերությունը բացահայտել է այն, ինչը նկարագրել է որպես «ներկառուցված հետին դռան ռիսկեր»։ Ըստ հաղորդումների՝ ընկերությունն իր աշխատակիցներին խորհուրդ է տվել օգտագործել Qoder-ը՝ որպես ծրագրավորման այլընտրանքային գործիք:phemex+1

Այս դրվագն ընդգծում է ԱՄՆ-ի և Չինաստանի AI ընկերությունների միջև մտավոր սեփականության և հասանելիության շուրջ առկա խորը տարաձայնությունները, որտեղ երկու կողմերն էլ միմյանց մեղադրում են չափազանցված գործողությունների մեջ՝ Anthropic-ը մեղադրում է մոդելների լայնածավալ գողության մեջ, իսկ Alibaba-ն թաքնված նույնականացման կոդը ներկայացնում է որպես իր ծրագրավորողների գաղտնի հսկողություն: