„Alibaba“ uždraus „Claude Code“ dėl įtariamos užpakalinių durų rizikos

„Alibaba“ ↗ 1.87% nuo liepos 10 d. uždraus darbuotojams darbo aplinkoje naudoti „Anthropic“ „Claude Code“, nurodydama saugumo problemas dėl to, ką ji apibūdino kaip įterptą užpakalinių durų riziką dirbtinio intelekto kodavimo pagalbinėje priemonėje, ketvirtadienį pranešė „Reuters“.thenextweb+1

Draudimas įvestas po atskleidimų, kad balandžio 2 d. išleistoje „Claude Code“ 2.1.91 versijoje buvo paslėpta aptikimo logika, kuri tikrino vartotojų laiko juostos nustatymus ir tarpinio serverio konfigūracijas, siekiant identifikuoti su Kinija susijusius vartotojus. Mechanizme buvo naudojami steganografijos metodai – nematomų žymeklių įterpimas į sistemos raginimus per subtilius „Unicode“ simbolių variantus – kurie buvo nepastebimi vartotojams, bet įskaitomi „Anthropic“.cybersecuritynews+2

Paslėptas kodas

„Reddit“ vartotojas, žinomas kaip „LegitMichel777“, pirmasis atskleidė šią funkciją, nustatęs, kad „Claude Code“ lygino sistemos laiko juostas su „Asia/Shanghai“ arba „Asia/Urumqi“ ir skenavo tarpinio serverio URL adresus ieškodamas kiniškų domenų bei DI laboratorijų pavadinimų. Kodas buvo užmaskuotas naudojant XOR šifravimą su 91 raktu, todėl jo nebuvo galima rasti atliekant paprastas teksto paieškas.the-decoder+1

„Anthropic“ darbuotojas Thariqas Shihiparas, dirbantis „Claude Code“ komandoje, šią funkciją „X“ platformoje apibūdino kaip „eksperimentą, kurį pradėjome kovo mėnesį ir kuris buvo skirtas užkirsti kelią paskyrų piktnaudžiavimui iš neįgaliotų perpardavinėtojų bei apsisaugoti nuo distiliavimo“. Jis teigė, kad komanda „iš tikrųjų jau kurį laiką ketino tai pašalinti“ ir kad nuo liepos 1 d. funkcija buvo atšaukta.aiweekly+1

Distiliavimo įtampa

Draudimas įvestas didėjant įtampai tarp dviejų bendrovių. Birželio 10 d. „Anthropic“ išsiuntė laišką JAV senatoriams Timui Scottui ir Elizabeth Warren, kuriame apkaltino su „Alibaba“ susijusius operatorius vykdant tai, ką pavadino didžiausia žinoma distiliavimo kampanija prieš „Claude“. Remiantis CNBC, patvirtinusia laiško detales, su „Alibaba“ „Qwen“ DI laboratorija susiję operatoriai tariamai naudojo maždaug 25 000 apgaulingų paskyrų, kad nuo balandžio 22 d. iki birželio 5 d. atliktų beveik 28,8 mln. sąveikų su „Claude“ modeliais.businessinsider+2

Distiliavimas yra metodas, kai mažesnis modelis apmokomas naudojant galingesnio modelio išvestis – efektyviai išgaunant konkurento galimybes, jų nekuriant savarankiškai.cnbc

Platesnis kontekstas

„Alibaba“ viešai nepatvirtino draudimo, tačiau Kinijos finansų leidinys „Yicai“ pranešė, kad bendrovė nustatė tai, ką apibūdino kaip įterptą užpakalinių durų riziką. Pranešama, kad bendrovė darbuotojams rekomendavo „Qoder“ kaip alternatyvų kodavimo įrankį.phemex+1

Šis epizodas pabrėžia gilėjantį JAV ir Kinijos DI bendrovių susiskaldymą dėl intelektinės nuosavybės ir prieigos, abiem pusėms kaltinant viena kitą piktnaudžiavimu – „Anthropic“ teigiant apie didelio masto modelių vagystes, o „Alibaba“ paslėptą aptikimo kodą įvardijant kaip slaptą savo kūrėjų stebėjimą.