Gervuð greining frá gervigreind nærri því að valda hernaðarátökum milli Bandaríkjanna og Kína

Bandaríski herinn var nærri því að lenda í átökum við Kína í vor eftir að gervigreind bjó til ranga leyniþjónustuskýrslu sem hélt því fram að kínverskt skip í Miðausturlöndum flytti íhluti í kjarnorkuvopn, að því er CNN greindi frá í einkaviðtali á föstudag.cnn

Vopnaðir hermenn voru að búa sig undir að fara um borð í skipið og herflugvélar voru þegar komnar á loft áður en embættismenn skoðuðu skýrsluna betur og uppgötvuðu að matið var, að sögn eins heimildarmanns, „algjörlega rangt“ og hafði „nærri því hrundið af stað stríði“.mezha+1

Hvernig gervigreindin komst að rangri niðurstöðu

Atvikið hófst þegar greinandi hjá sérsveitum hlaðinn upplýsingum um farmbréf skipsins í spjallmenni. Upplýsingarnar höfðu verið aflað af sérsveitum Bandaríkjahers í Kyrrahafi, sem hafa aðsetur á Havaí. Spjallmennið sameinaði opnar heimildir og leynilegar merkjaupplýsingar úr gagnagrunnum stjórnvalda og komst að rangri niðurstöðu um farm skipsins.mezha+1

Greinandinn notaði síðan gervigreindina aftur til að setja niðurstöðurnar fram í formi sem leit út eins og staðlað leyniþjónustuskýrsla, sem herforingjar treysta venjulega án athugasemda, og dreifði henni í gegnum hernaðarleiðir. CNN gat ekki staðfest hvað skipið var í raun að flytja.cnn

„Mörg af innri tólunum eru aðeins aðlögun á viðskiptahugbúnaði, klædd upp fyrir hernaðarnotkun,“ sagði fyrrverandi háttsettur embættismaður sem þekkir til gervigreindarkerfa hersins við CNN.mezha+1

Vaxandi traust, vaxandi áhætta

Atvikið á sér stað á sama tíma og Pentagon flýtir fyrir innleiðingu gervigreindar í varnarmálum. Í janúar kynnti varnarmálaráðherra Pete Hegseth „stefnu um hröðun gervigreindar“ hjá ráðuneytinu, sem miðar að því að gera gervigreindartól aðgengileg um þremur milljónum borgaralegra og hernaðarlegra starfsmanna á öllum stigum.investing+1

Samt sem áður er viðleitnin enn sundurlaus, að sögn nokkurra bandarískra embættismanna. Mismunandi deildir stjórnvalda nota ýmis tól undir ólíkum öryggisreglum, án samræmds staðals fyrir sannprófun á upplýsingum frá gervigreind.cnn+1

Heimildarmenn sögðu CNN að herinn noti gervigreind í auknum mæli við ákvarðanir um skotmörk, sem eykur hættuna á mistökum, mannfalli meðal óbreyttra borgara og skotum á eigin lið, jafnvel þótt manneskja haldi formlega endanlegu valdi.mezha+1

Viðvörun innan úr kerfinu

Sú tegund af „ofskynjunum“ gervigreindar sem nærri því olli atvikinu með Kína hefur ekki verið einsdæmi innan leyniþjónustusamfélagsins síðan þessi tól fóru að breiðast út, að sögn eins heimildarmanns. Yngri greinendur, sem eru vanari gervigreindartólum, gætu verið sérstaklega tilhneigðir til að samþykkja niðurstöður þeirra gagnrýnislaust, sögðu heimildarmenn.cnn

„Gervigreind gerir þér kleift að komast að rangri niðurstöðu hraðar,“ sagði einn heimildarmaður.mezha+1