Alibaba forbyr Claude Code over påstått risiko for bakdører

Alibaba vil forby ansatte å bruke Anthropic sin Claude Code fra 10. juli på grunn av påståtte sikkerhetsrisikoer knyttet til bakdører, ifølge Reuters.thenextweb+1
Forbudet kommer etter en oppdagelse på Reddit om at Claude Code i hemmelighet brukte steganografiske markører for å identifisere Kina-tilknyttede brukere, noe Anthropic kalte et eksperiment mot destillering.the-decoder+1
Anthropic anklaget Alibaba-tilknyttede operatører for å bruke omtrent 25 000 falske kontoer for å utføre nesten 28,8 millioner interaksjoner med Claude-modeller.cnbc+1

Alibaba vil forby ansatte å bruke Anthropic sin Claude Code i arbeidsmiljøer fra 10. juli, med henvisning til sikkerhetsbekymringer over det de beskrev som innebygde bakdørsrisikoer i AI-kodeassistenten, rapporterte Reuters på torsdag.thenextweb+1

Forbudet følger avsløringer om at Claude Code versjon 2.1.91, utgitt 2. april, inneholdt skjult deteksjonslogikk som sjekket brukernes tidssoneinnstillinger og proxy-konfigurasjoner for å identifisere Kina-tilknyttede brukere. Mekanismen brukte steganografiske teknikker – å legge inn usynlige markører i systemmeldinger gjennom subtile Unicode-tegnvariasjoner – som var uoppdagelige for brukere, men lesbare for Anthropic.cybersecuritynews+2

Den skjulte koden

En Reddit-bruker kjent som LegitMichel777 avslørte funksjonen først, og fant ut at Claude Code sammenlignet systemtidssoner mot "Asia/Shanghai" eller "Asia/Urumqi" og skannet proxy-URL-er etter kinesiske domener og AI-laboratorievertsnavn. Koden var tilslørt ved bruk av XOR-kryptering med nøkkel 91, noe som forhindret at den dukket opp i enkle tekstsøk.the-decoder+1

Anthropic-ansatt Thariq Shihipar, som jobber i Claude Code-teamet, beskrev funksjonen på X som "et eksperiment vi lanserte i mars som var ment å forhindre kontomisbruk fra uautoriserte forhandlere og beskytte mot destillering". Han sa at teamet "faktisk hadde ment å fjerne dette en stund" og at det ble rullet tilbake fra 1. juli.aiweekly+1

Destilleringsspenninger

Forbudet kommer midt i økende spenninger mellom de to selskapene. Anthropic sendte et brev til de amerikanske senatorene Tim Scott og Elizabeth Warren den 10. juni, der de anklaget Alibaba-tilknyttede operatører for å utføre det de kalte den største kjente destilleringskampanjen mot Claude. Ifølge CNBC, som bekreftet detaljer i brevet, skal operatører knyttet til Alibabas Qwen AI-lab ha brukt omtrent 25 000 falske kontoer for å utføre nesten 28,8 millioner interaksjoner med Claude-modeller mellom 22. april og 5. juni.businessinsider+2

Destillering er en teknikk der en mindre modell trenes ved hjelp av utdata fra en kraftigere modell – effektivt for å utvinne en konkurrents evner uten å bygge dem uavhengig.cnbc

Bredere kontekst

Alibaba har ikke offentlig bekreftet forbudet, men det kinesiske finansnettstedet Yicai rapporterte at selskapet identifiserte det de beskrev som innebygde bakdørsrisikoer. Selskapet skal ha anbefalt Qoder som et alternativt kodeverktøy for ansatte.phemex+1

Episoden understreker det dypere skillet mellom amerikanske og kinesiske AI-selskaper når det gjelder intellektuell eiendom og tilgang, der begge sider anklager den andre for overgrep – Anthropic hevder storskala modelltyveri, og Alibaba rammer inn den skjulte deteksjonskoden som skjult overvåking av sine utviklere.

Kilder (12)