Anthropic sakar að Moonshot AI hafi beint fyrirspurnum notenda í gegnum Claude

Anthropic birti á fimmtudag nýja skýrslu þar sem kínverska gervigreindarfyrirtækið Moonshot AI er sakað um að hafa í leynd beint nærri 300.000 fyrirspurnum notenda í Claude líkönin, sérstaklega Opus líkanið, án þess að láta notendur vita, og síðan notað svörin til að þjálfa sitt eigið Kimi spjallmenni í því sem bandaríska fyrirtækið lýsir sem kerfisbundinni eimingarherferð.bloomberg+1

Skýrslan bætir nánari upplýsingum við ásakanir sem Anthropic setti fyrst fram í febrúar, þegar fyrirtækið greindi frá því að kínverskar gervigreindarstofur hefðu samtals átt yfir 16 milljón samskipti við Claude í gegnum um 24.000 sviksamlega aðganga.mashable+1

Hvernig svindlið virkaði

Samkvæmt Anthropic notaði Moonshot 5.380 sviksamlega aðganga, sem flestir virtust vera staðsettir í Singapúr og Japan, til að komast framhjá stefnu fyrirtækisins sem bannar aðgang frá Kína. Fyrirspurnunum var aðallega beint í Opus líkan Anthropic og fyrirtækið sagði að Moonshot hefði beint umferðinni yfir á nýútgefin Claude líkön innan sólarhrings frá útgáfu, sem bendir til þess að um sé að ræða skipulagða starfsemi frekar en tilfallandi tilraunir.wsj+1

Anthropic komst að því að starfsemin væri hluti af eimingarferli, þar sem verktaki safnar úttaki frá öflugra gervigreindarlíkani til að bæta veikara líkan. Í þessu tilviki segist Anthropic telja að svörin frá Claude hafi verið notuð til að þjálfa Kimi líkön Moonshot. Skýrslan nefndi einnig DeepSeek og Xiaomi sem fyrirtæki sem hafi tekið þátt í svipuðum vinnubrögðum.bloomberg

Víðtækari aðgerðir bandarískra stjórnvalda

Skýrslan kemur tveimur dögum eftir að bandarísk stjórnvöld gáfu út sameiginlega viðvörun í gegnum CISA þar sem sex kínversk gervigreindarfyrirtæki, þar á meðal DeepSeek, Moonshot AI, Alibaba ↘ 0.52%, MiniMax, StepFun og Z.AI, eru sökuð um að draga út "milljarða tákna" úr bandarískum gervigreindarkerfum. Reuters greindi frá því að bandarískir embættismenn lýstu starfseminni sem "árásargjarnri, illgjarnri og markvissri eimingarstarfsemi á iðnaðarkvarða," sem gæti aukið spennu fyrir fyrirhugaðan fund leiðtoga landanna tveggja síðar í mánuðinum.cisa+1

Kína svarar fyrir sig

Fulltrúar Moonshot, DeepSeek og Xiaomi svöruðu ekki strax beiðnum um athugasemdir. Viðskiptaráðuneyti Kína hefur áður sagt að enginn "staðreynda- eða lagagrundvöllur" sé fyrir ásökunum um eimingu á iðnaðarkvarða af hálfu kínverskra gervigreindarfyrirtækja og hótað gagnráðstöfunum ef Bandaríkin "grípa til aðgerða til að hefta og bæla niður" kínversk gervigreindarfyrirtæki.bloomberg