Čínské firmy využily OpenAI GPT-6 k trénování vlastních AI, uvádí zpráva

Čínští vývojáři AI, DeepSeek a Moonshot AI, se při trénování svých nejnovějších modelů výrazně spoléhali na výstupy z modelu GPT-6 Astra od společnosti OpenAI, uvedl ve středu 28. října server The Information s odvoláním na zdroje přímo obeznámené se situací, informuje agentura Reuters. Zpráva označuje model Kimi K3.1 Pro od společnosti Moonshot, vydaný minulý týden, a vylepšený model V4.1-Flash 1017 od DeepSeek, spuštěný 17. října, za modely, které těžily z destilace modelu Astra.reuters.com+1

Toto obvinění přiživuje stupňující se spor o destilaci, techniku, při níž se jeden model učí z odpovědí jiného modelu. S tím, jak se zintenzivňuje technologická soutěž mezi USA a Čínou, se tato problematika stala třaskavým tématem. Společnosti OpenAI, DeepSeek a Moonshot AI na žádosti agentury Reuters o vyjádření bezprostředně nereagovaly.

Vzor obvinění

Zpráva navazuje na dřívější varování ze strany OpenAI. V příspěvku na blogu z 30. září společnost uvedla, že narušila koordinovanou kampaň zaměřenou na extrakci chráněných úvah z jejích modelů, přičemž aktivita byla poprvé zaznamenána začátkem července. „Hlavní shluk aktivit“ připsala jednotlivcům spojeným s Moonshot AI, přičemž uznala, že není jasné, zda všichni operátoři pocházeli z jednoho zdroje. OpenAI uvedla, že aktivita vrcholila 24. a 25. července, kdy bylo zaznamenáno 16 000 požadavků od více než 4 000 uživatelů, a že kampaň byla zcela ukončena do 28. července.openai.com+1

Podle OpenAI operátoři zkopírovali zašifrované úvahy z jedné konverzace a následně požádali model v jiné konverzaci, aby je dešifroval. Server CyberScoop podotkl, že příspěvek na blogu necitoval žádné technické důkazy pro toto připsání. OpenAI uvedla, že zablokovala účty, zpřísnila kontrolu registrací a rozšířila monitorování sítě.cyberscoop.com

Průmysl se brání

Podobné obavy vznesly i další americké laboratoře. Dne 12. října společnost Anthropic uvedla, že nová bezpečnostní opatření snížila objem dat získaných při útocích destilací o zhruba 90 % až 99 %, a označila společnost Zhipu, známou také jako Z.ai, za jednu z firem, které se pokusily destilovat model Claude. Společnost uvedla, že počet tokenů úvah extrahovaných destilací je nyní „10 až 100krát nižší“ než dříve.reuters.com+1

Rozsáhlá destilace prostřednictvím komerčního API může porušovat podmínky poskytovatele služeb a umožňuje rivalům získat podobné schopnosti za zlomek nákladů na trénování. DigiTimes uvedl, že nejnovější zpráva vyvolává otázky o tom, jak mohou americké firmy chránit svou technologickou výhodu, zatímco se rivalové snaží reprodukovat špičkové modely AI.digitimes.com+1

OpenAI vnímá tento problém z hlediska bezpečnosti. „Adverzní destilace představuje riziko pro bezpečnost a národní bezpečnost,“ uvedla společnost a varovala, že extrahované úvahy by mohly být použity k trénování jiného modelu „bez zachování bezpečnostních opatření aplikovaných na výstupy původního modelu určené pro uživatele.“