Gervigreindarfyrirtæki búa sig undir uppreisn almennings eftir hamfaraatburð

Yfirstjórnendur hjá Anthropic, OpenAI og öðrum gervigreindarfyrirtækjum vinna nú í kyrrþey að sviðsmyndum um uppreisn almennings og stjórnmálamanna sem gæti fylgt í kjölfar hamfaraatburðar tengdum gervigreind, að því er Axios greindi frá á föstudag. Margir innansbúðarmenn í greininni sögðu miðlinum að þeir búist við slíkum atburði innan næstu sex til tólf mánaða.axios

Skipuleggjendurnir telja líklegustu kveikjuna vera umfangsmikla tölvuárás sem lokar á aðgang að fjármálaþjónustu, nettengingum eða jafnvel rafmagni og vatni, samkvæmt Axios. Fyrsta dæmið um alvarlegan skaða í raunheimum af völdum óöruggrar gervigreindar myndi líklega snúa þegar tortryggnum almenningi enn frekar gegn tækninni og leiðtogum herferðarinnar, þar á meðal Dario Amodei, forstjóra Anthropic, og Sam Altman, forstjóra OpenAI. Það gæti einnig skaðað Trump forseta, sem hefur verið tregur til að setja reglur um iðnaðinn.axios

Undirbúa þingið undir eftirmálana

Axios greindi frá því að vinnan feli í sér prófanir á verstu sviðsmyndum (e. red-teaming), en hún snúist fyrst og fremst um að fræða þingmenn á Bandaríkjaþingi. Stjórnendur vita að engar líkur eru á að reglugerðir verði samþykktar sem stendur. Engu að síður vilja þeir móta þau lög og reglur sem bandarískir leiðtogar munu grípa til eftir fyrsta hamfaraatburðinn.axios

Talsmaður OpenAI sagði í samtali við Axios að fyrirtækið "framkvæmi viðbúnaðaræfingar þar sem teymi ræða og vinna úr ýmsum mögulegum sviðsmyndum." Talsmaðurinn bætti við: "Ekki er litið á þessar sviðsmyndir sem óumflýjanlegar, heldur er þeim ætlað að hjálpa okkur að búa okkur undir margvíslegar aðstæður." Anthropic vildi ekki tjá sig.axios

Skipuleggjendur í greininni gera ráð fyrir að Demókratar, sem unnu á í miðkjörtímabilskosningunum, muni bregðast skjótt við til að loka á gervigreind en mæta hindrunum. Þær hindranir eru meðal annars öldrunarþing sem gæti átt í erfiðleikum með að skilja tæknina og hagkerfi sem er nátengt uppbyggingu innviða gervigreindar. Skeytingarlausari tillögur Demókrata fela í sér að banna ofurgreind eða gera hlé á þróun háþróaðrar gervigreindar. Krafa um neyðarhnapp (e. kill switch) á háþróaðri gervigreind nýtur stuðnings beggja flokka og nokkurs stuðnings innan geirans, þótt sérfræðingar hafi dregið í efa hvort raunverulega sé hægt að slökkva á öllum gervigreindarkerfum.axios

Hættumerki þegar sýnileg

Axios benti á nýlega herferð gegn suður-kóreskum fjármálastofnunum, þar á meðal tilkynnt brot hjá tveimur bönkum. Tölvuþrjótur frá Kína er sagður hafa notað gervigreindarverkfæri, þar á meðal kínverska líkanið DeepSeek, til að stela gögnum frá tugum þúsunda bankaviðskiptavina. Samkvæmt netöryggisfyrirtækinu CrowdStrike ↗ 2.59% bað árásarmaðurinn einnig Claude Code frá Anthropic um aðstoð við að finna staði til að selja stolnu gögnin.axios

Sérfræðingar í netöryggi vara einnig við því að nú þegar sé hægt að hlaða niður of mörgum opnum gervigreindarlíkönum (e. open-weight models) ókeypis og nota þau til að valda skaða. Flestir þeirra telja að eina svarið sé að nota gervigreind til að berjast gegn skaðlegri gervigreind.axios

Skýrslan vakti fljótt athygli álitsgjafa. Liz Wolfe hjá Reason benti á hana í daglegu yfirliti sínu. Þrátt fyrir að búast við klofnum stjórnmálum gerir geirinn einnig ráð fyrir að Washington gæti tekið höndum saman í raunverulegu neyðarástandi. Aðstoðarmaður úr röðum Demókrata sagði í samtali við Axios að þingmenn hafi sýnt samstarfsvilja í COVID-faraldrinum og í fjármálakreppunni 2008.reason+1