Tekoälyn luoma virheellinen raportti oli lähellä laukaista Yhdysvaltain ja Kiinan välisen sotilaallisen yhteenoton

Yhdysvaltain armeija oli vaarallisen lähellä yhteenottoa Kiinan kanssa tänä keväänä, kun tekoäly-chatbot tuotti virheellisen tiedusteluraportin, jossa väitettiin Lähi-idässä olevan kiinalaisaluksen kuljettavan ydinaseiden komponentteja, CNN raportoi perjantaina julkaistussa tutkivassa artikkelissa.cnn

Aseistettu sotilashenkilöstö valmistautui nousemaan alukseen ja sotilaskoneet olivat jo ilmassa, ennen kuin viranomaiset tarkastelivat raporttia tarkemmin ja huomasivat, että tekoälyn tekemä arvio oli erään lähteen sanoin "täysin virheellinen" ja oli "lähes aloittanut sodan".mezha+1

Kuinka tekoäly tuotti virheellisen johtopäätöksen

Tapaus alkoi, kun erikoisoperaatioiden esikunnan analyytikko latasi tiedustelutietoa aluksen manifestista tekoäly-chatbotiin. Tiedot oli hankkinut Havaijilla sijaitseva Yhdysvaltain Tyynenmeren erikoisoperaatioiden esikunta. Chatbot yhdisti avoimista lähteistä saatua tiedustelutietoa hallituksen tietokantojen salaiseen signaalitiedusteluun ja päätyi virheelliseen johtopäätökseen aluksen lastista.mezha+1

Analyytikko käytti sitten tekoälyä muotoillakseen havainnot sellaiseksi, joka näytti tavalliselta tiedusteluraportilta – sellaiselta, johon sotilasviranomaiset yleensä luottavat kyseenalaistamatta – ja jakoi sen sotilaallisia kanavia pitkin. CNN ei pystynyt selvittämään, mitä alus todellisuudessa kuljetti.cnn

"Monet sisäisistä työkaluista ovat vain kaupallisten ohjelmistojen mukaelmia, jotka on puettu sotilaskäyttöön", kertoi CNN:lle entinen korkea virkamies, joka tuntee armeijan käyttämät tekoälyjärjestelmät.mezha+1

Kasvava riippuvuus, kasvava riski

Läheltä piti -tilanne sattuu samaan aikaan, kun Pentagon kiihdyttää tekoälyn käyttöönottoa puolustusoperaatioissaan. Tammikuussa puolustusministeri Pete Hegseth julkisti osaston "Tekoälyn kiihdyttämisstrategian", jonka tavoitteena on tuoda tekoälytyökalut noin kolmen miljoonan siviili- ja sotilashenkilön saataville kaikilla luokittelutasoilla.investing+1

Silti ponnistelu on edelleen pirstaloitunutta, useiden yhdysvaltalaisviranomaisten mukaan. Hallituksen eri sektorit käyttävät erilaisia työkaluja erillisten turvallisuusprotokollien alaisuudessa, ilman yhtenäistä standardia tekoälyn tuottaman tiedon todentamiseen.cnn+1

Lähteet kertoivat CNN:lle, että armeija käyttää tekoälyä yhä enemmän kohdentamispäätöksissä, mikä lisää virheellisten iskujen, siviiliuhrien ja omien tulitusten riskiä – vaikka ihminen säilyttäisikin muodollisesti lopullisen päätösvallan.mezha+1

Varoitus sisältäpäin

Sen tyyppinen tekoälyn "hallusinaatio", joka oli lähellä laukaista Kiinan-tapauksen, ei ole ollut eristetty tapaus tiedusteluyhteisössä sen jälkeen, kun nämä työkalut alkoivat yleistyä, erään lähteen mukaan. Nuoremmat analyytikot, jotka tuntevat olonsa mukavammaksi tekoälytyökalujen kanssa, saattavat olla erityisen taipuvaisia hyväksymään niiden tuotokset kritiikittömästi, lähteet sanoivat.cnn

"Tekoäly mahdollistaa huonoon johtopäätökseen pääsemisen nopeammin", eräs lähde huomautti.mezha+1