Írán a Čína nasazují agenty s umělou inteligencí k ovlivňování

Írán, Čína a soukromé izraelské společnosti začaly nasazovat autonomní agenty s umělou inteligencí k vedení ovlivňovacích kampaní na sociálních sítích s minimálním lidským dohledem, uvádí páteční vyšetřování deníku New York Times. Tyto operace představují jeden z prvních známých případů, kdy umělá inteligence řídila téměř každý krok ovlivňovací kampaně, od vytváření falešných účtů až po zveřejňování obsahu a interakci se skutečnými uživateli.nytimes

Agenti s umělou inteligencí nahrazují lidské operátory

Stovky agentů s umělou inteligencí, postavených na čínských modelech s otevřeným zdrojovým kódem, byly použity k otevření falešných účtů na Instagramu (Meta Platforms, Inc. ↗ 0.84%), Facebooku, X a TikToku a k jejich naplnění politicky motivovaným obsahem, uvedl deník Times. Američtí představitelé a odborníci na kybernetickou bezpečnost listu sdělili, že íránská kampaň byla nejvíce alarmující: účty generované umělou inteligencí se vydávaly za běžné Američany ve velkých městech, označovaly politiky a novináře a šířily memy a obsah namířený proti Republikánské straně. V první polovině roku 2026 sledovalo účty spojené s íránskou sítí téměř 80 000 uživatelů.ynetnews+2

V několika případech byly operátory deaktivovány bezpečnostní pojistky navržené tak, aby zabránily systémům umělé inteligence vytvářet klamavé účty. Na rozdíl od dřívějších snah o ovlivňování, které využívaly umělou inteligenci pouze ke generování obrázků nebo textu, se tyto kampaně spoléhaly na to, že umělá inteligence autonomně vytváří persony, vybírá témata, publikuje materiály a reaguje na ostatní uživatele.emirates247+1

Izraelská firma přiznává ovládání 1 000 falešných účtů

Vyšetřování také identifikovalo dvě soukromé izraelské společnosti provozující podobné operace. Společnost IntelEye se sídlem v Tel Avivu, založená bývalými zaměstnanci NSO Group, podle spoluzakladatele Maora Selleka přiznala, že zakoupila 10 000 účtů na sociálních sítích a použila čínský model DeepSeek k ovládání zhruba 1 000 z nich. Účty se zapojily do izraelských politických diskusí a zveřejňovaly obsah podporující i kritizující premiéra Benjamina Netanjahua.ynetnews

Sellek deníku Times řekl, že šlo o obranný výzkumný experiment, nikoliv o ovlivňovací kampaň, ačkoliv uznal, že společnost IntelEye měla platformy sociálních médií informovat. Společnost Meta označila tuto aktivitu za koordinovaný pokus o vytvoření neautentických účtů napříč několika platformami a uvedla, že její automatizované systémy již většinu účtů odstranily.ynetnews

Nebezpečná nová hranice

Bezpečnostní experti zdůraznili, že ačkoliv kampaně zůstávají relativně primitivní, trajektorie je jasná. Kyle Crichton, pracovník Centra pro bezpečnost a vznikající technologie na Georgetownské univerzitě, deníku Times řekl, že agenti s umělou inteligencí mohou splynout s davem a vypadat více jako lidští uživatelé, což představuje rizika přesahující pouhé měřítko. Používání modelů s otevřeným zdrojovým kódem je obzvláště znepokojivé, protože je lze stáhnout, upravit a provozovat soukromě, takže po odstranění bezpečnostních pojistek nemůže žádná externí společnost zasáhnout.emirates247+1

Američtí představitelé uvedli, že tyto vznikající schopnosti zvýšily obavy před listopadovými volbami.ynetnews