OpenAI obviňuje Moonshot AI z krádeže dat z GPT

Společnost OpenAI ve středu veřejně obvinila čínského rivala Moonshot AI z organizování rozsáhlé kampaně zaměřené na extrakci skrytých dat o uvažování z jejích modelů umělé inteligence GPT. Podle OpenAI byla tato kampaň navržena tak, aby replikovala schopnosti nejpokročilejších systémů firmy.

V příspěvku na blogu OpenAI uvedla, že zaznamenala tisíce pokusů uživatelů spojených s Moonshotem o dešifrování interních informací o tom, jak její modely řeší problémy, uvádí Bloomberg, který o obviněních informoval jako první. Koordinované úsilí o extrakci začalo začátkem července a koncem měsíce dosáhlo vrcholu 16 000 požadavků. Ačkoliv OpenAI uvedla, že nemůže veškerou aktivitu připsat jedinému aktérovi, identifikovala uživatele spojené s Moonshotem jako klíčové hráče.bloomberg

Vzor průmyslové destilace dat

Toto obvinění doplňuje rostoucí množství důkazů o tom, že čínské AI společnosti systematicky extrahují proprietární schopnosti z amerických modelů. Společné varování vydané v září agenturami NSA, CISA a FBI jmenovalo Moonshot AI spolu s DeepSeek, Alibaba ↘ 0.49%, MiniMax, StepFun a Z.AI jako účastníky kampaní na „průmyslovou destilaci znalostí“ proti americkým modelům. Varování uvádí, že tyto společnosti extrahovaly „miliardy tokenů napříč miliony výměn“ z modelů včetně variant Claude, GPT, Gemini a Grok, pravděpodobně s vědomím čínské vlády.cisa

Moonshot AI konkrétně použila destilovaná data z GPT-4o k trénování svého modelu Kimi-K2 a z modelu Claude Fable 5 od Anthropicu k trénování Kimi-K3, uvádí zpráva CISA. Anthropic v září zveřejnil vlastní zprávu o hrozbách, ve které podrobně popsal, jak Moonshot směroval téměř 300 000 požadavků přes 5 000 účtů během 10 dnů, přičemž se primárně zaměřoval na model Opus. Anthropic také tvrdí, že Moonshot tajně přeposílal některé požadavky zákazníků do modelu Claude, místo aby je zpracoval vlastními modely Kimi.techcrunch+2

Čínský model vstupuje do ekosystému OpenAI

V ironickém zvratu, který podtrhuje složitou dynamiku mezi oběma společnostmi, model Kimi K3 od Moonshotu vstoupil do podnikového kanálu Codex společnosti OpenAI prostřednictvím amerického poskytovatele Baseten, uvádí TechNode. Toto uspořádání umožňuje podnikovým zákazníkům započítat využívání čínského modelu do jejich stávajících závazků vůči OpenAI, což Sina Finance označila za první případ, kdy čínský otevřený model vstoupil do podnikového fakturačního systému OpenAI.technode

CISA doporučila americkým AI společnostem implementovat systémy pro detekci chování, nasadit jemné úpravy odpovědí u podezřelých pokusů o destilaci a vytvořit meziorganizační sdílení informací pro odhalování distribuovaných kampaní.cisa