Dirbtinio intelekto sugeneruota klaidinga ataskaita vos nesukėlė JAV ir Kinijos karinio konflikto

JAV kariuomenė šį pavasarį buvo atsidūrusi ties pavojinga konfrontacijos su Kinija riba po to, kai dirbtinio intelekto pokalbių robotas sugeneravo klaidingą žvalgybos ataskaitą, teigiančią, kad Kinijos laivas Artimuosiuose Rytuose gabena branduolinio ginklo komponentus, penktadienį išskirtiniame tyrime pranešė CNN.cnn

Ginkluoti kariai ruošėsi įlipti į laivą, o kariniai orlaiviai jau buvo pakilę į orą, kol pareigūnai atidžiau peržiūrėjo ataskaitą ir nustatė, kad dirbtinio intelekto sugeneruotas vertinimas buvo, vieno šaltinio žodžiais tariant, „visiškai klaidingas“ ir „beveik sukėlė karą“.mezha+1

Kaip dirbtinis intelektas suformavo klaidingą išvadą

Incidentas prasidėjo, kai specialiųjų operacijų vadavietės analitikas įkėlė žvalgybos duomenis apie laivo manifestą į dirbtinio intelekto pokalbių robotą. Informaciją gavo JAV specialiųjų operacijų vadavietė Ramiojo vandenyno regione, įsikūrusi Havajuose. Pokalbių robotas sujungė atvirojo kodo žvalgybos duomenis su įslaptinta signalų žvalgybos informacija iš vyriausybės duomenų bazių ir padarė neteisingą išvadą apie laivo krovinį.mezha+1

Tada analitikas vėl pasitelkė dirbtinį intelektą, kad suformatuotų išvadas į tai, kas atrodė kaip standartinė žvalgybos ataskaita, kuria kariniai pareigūnai paprastai pasitiki be klausimų, ir išplatino ją kariniais kanalais. CNN negalėjo nustatyti, ką laivas iš tikrųjų gabeno.cnn

„Daugelis vidinių įrankių yra tik komercinės programinės įrangos adaptacijos, pritaikytos kariniam naudojimui“, – CNN sakė buvęs aukšto rango pareigūnas, susipažinęs su kariuomenės naudojamomis dirbtinio intelekto sistemomis.mezha+1

Auganti priklausomybė, auganti rizika

Šis incidentas įvyko Pentagonui spartinant dirbtinio intelekto diegimą gynybos operacijose. Sausio mėnesį gynybos sekretorius Pete Hegseth pristatė departamento „Dirbtinio intelekto spartinimo strategiją“, kuria siekiama, kad dirbtinio intelekto įrankiai būtų prieinami maždaug trims milijonams civilių ir karinių darbuotojų visais klasifikacijos lygiais.investing+1

Tačiau, pasak kelių JAV pareigūnų, pastangos išlieka fragmentiškos. Skirtingi vyriausybės sektoriai naudoja įvairius įrankius pagal skirtingus saugumo protokolus, neturėdami vieningo standarto dirbtinio intelekto sugeneruotai informacijai tikrinti.cnn+1

Šaltiniai CNN teigė, kad kariuomenė vis dažniau naudoja dirbtinį intelektą priimdama sprendimus dėl taikinių, o tai didina klaidų, civilių aukų ir „draugiškos ugnies“ incidentų riziką, net jei žmogus formaliai išlaiko galutinę galią.mezha+1

Įspėjimas iš vidaus

Pasak vieno šaltinio, tokio pobūdžio dirbtinio intelekto „haliucinacijos“, kurios vos nesukėlė incidento su Kinija, žvalgybos bendruomenėje nėra izoliuotas reiškinys nuo tada, kai šie įrankiai pradėjo plisti. Jaunesni analitikai, kurie geriau jaučiasi naudodamiesi dirbtinio intelekto įrankiais, gali būti ypač linkę nekritiškai priimti jų rezultatus, teigė šaltiniai.cnn

„Dirbtinis intelektas leidžia greičiau pasiekti neteisingą išvadą“, – pastebėjo vienas šaltinis.mezha+1