Íran og Kína beita sjálfvirkum gervigreindarherferðum

Íran, Kína og einkafyrirtæki í Ísrael hafa hafið notkun á sjálfvirkum gervigreindareiningum til að stýra áhrifaherferðum á samfélagsmiðlum með lágmarks eftirliti manna, samkvæmt rannsókn New York Times sem birt var á föstudag. Aðgerðirnar marka eitt fyrsta þekkta dæmið þar sem gervigreind stýrði nánast hverju skrefi áhrifaherferðar, allt frá því að búa til falsaða reikninga til að birta efni og eiga samskipti við raunverulega notendur.nytimes

Gervigreind kemur í stað manna

Hundruð gervigreindareininga, byggðar á kínverskum opnum hugbúnaði, voru notaðar til að opna falsaða reikninga á Instagram hjá Meta Platforms, Inc. ↘ 2.43%, Facebook, X og TikTok og fylla þá af pólitísku efni, að því er Times greindi frá. Bandarískir embættismenn og netöryggissérfræðingar sögðu blaðinu að íranska herferðin væri sú sem vekti mesta óhug: Gervigreindarreikningar þóttust vera venjulegir Bandaríkjamenn í stórborgum, merktu stjórnmálamenn og blaðamenn, og dreifðu myndum og efni gegn Repúblikanaflokknum. Nærri 80.000 notendur fylgdu reikningum tengdum íranska netinu á fyrri helmingi ársins 2026.ynetnews+2

Í nokkrum tilfellum höfðu rekstraraðilar slökkt á öryggisráðstöfunum sem ætlað var að koma í veg fyrir að gervigreindarkerfi gætu búið til villandi reikninga. Ólíkt fyrri tilraunum sem notuðu gervigreind eingöngu til að búa til myndir eða texta, reiddu þessar herferðir sig á gervigreind til að skapa persónur, velja efni, birta efni og svara öðrum notendum sjálfstætt.emirates247+1

Ísraelskt fyrirtæki viðurkennir stjórn á 1.000 fölskum reikningum

Rannsóknin leiddi einnig í ljós tvö ísraelsk einkafyrirtæki sem stunda svipaða starfsemi. IntelEye, fyrirtæki í Tel Avív stofnað af fyrrverandi starfsmönnum NSO Group, viðurkenndi að hafa keypt 10.000 samfélagsmiðlareikninga og notað kínverska DeepSeek líkanið til að stjórna um 1.000 þeirra, samkvæmt meðstofnanda Maor Sellek. Reikningarnir tóku þátt í ísraelskri stjórnmálaumræðu og birtu efni sem bæði studdi og andmælti Benjamin Netanyahu forsætisráðherra.ynetnews

Sellek sagði við Times að starfsemin væri varnartengd rannsóknartilraun en ekki áhrifaherferð, þó hann viðurkenndi að IntelEye hefði átt að láta samfélagsmiðlana vita. Meta kallaði starfsemina samræmda tilraun til að búa til óekta reikninga á nokkrum kerfum og sagði að sjálfvirk kerfi þeirra hefðu þegar fjarlægt meirihluta reikninganna.ynetnews

Ný og hættuleg vígstöð

Öryggissérfræðingar lögðu áherslu á að þótt herferðirnar séu enn tiltölulega frumstæðar, sé stefnan skýr. Kyle Crichton, fræðimaður við Center for Security and Emerging Technology í Georgetown háskóla, sagði við Times að gervigreindareiningar geti blandast inn í hópinn og litið meira út eins og mannlegir notendur, sem skapi áhættu sem nái lengra en bara umfangið. Notkun á opnum hugbúnaði er sérstakt áhyggjuefni vegna þess að hægt er að hlaða honum niður, breyta honum og keyra hann í einrúmi, sem gerir það að verkum að enginn utanaðkomandi aðili getur gripið inn í þegar öryggisráðstafanir eru fjarlægðar.emirates247+1

Bandarískir embættismenn sögðu að þessi nýja geta hafi aukið áhyggjur fyrir þingkosningarnar í nóvember.ynetnews