Yapay zeka kaynaklı sahte rapor ABD ve Çin arasında neredeyse askeri çatışmaya yol açıyordu

CNN'in Cuma günü yayınladığı özel bir araştırmaya göre, yapay zeka destekli bir sohbet robotunun Orta Doğu'daki bir Çin gemisinin nükleer silah bileşenleri taşıdığını iddia eden sahte bir istihbarat raporu üretmesi üzerine ABD ordusu bu bahar Çin ile çatışmanın eşiğine geldi.cnn

Silahlı askeri personel gemiye çıkmaya hazırlanıyordu ve askeri uçaklar havadaydı; ta ki yetkililer raporu daha yakından inceleyip yapay zeka tarafından üretilen değerlendirmenin, bir kaynağın ifadesiyle, "tamamen hatalı" olduğunu ve "neredeyse bir savaş başlattığını" keşfedene kadar.mezha+1

Yapay Zeka Yanlış Bir Sonucu Nasıl Üretti

Olay, özel harekat komutanlığı analistinin geminin manifestosu hakkındaki istihbaratı bir yapay zeka sohbet robotuna yüklemesiyle başladı. Bilgiler, Hawaii merkezli ABD Pasifik Özel Harekat Komutanlığı tarafından elde edilmişti. Sohbet robotu, açık kaynaklı istihbaratı devlet veri tabanlarından gelen gizli sinyal istihbaratıyla birleştirdi ve geminin kargosu hakkında yanlış bir sonuca vardı.mezha+1

Analist daha sonra bulguları, askeri yetkililerin genellikle sorgusuz sualsiz güvendiği standart bir istihbarat raporu gibi görünen bir formata sokmak için tekrar yapay zekayı kullandı ve bunu askeri kanallar aracılığıyla dağıttı. CNN, geminin gerçekte ne taşıdığını belirleyemedi.cnn

Ordunun kullandığı yapay zeka sistemlerine aşina olan eski bir üst düzey yetkili CNN'e verdiği demeçte, "İç araçların çoğu, askeri kullanım için süslenmiş ticari yazılımların uyarlamalarından ibaret" dedi.mezha+1

Artan Bağımlılık, Artan Risk

Bu kıl payı atlatılan olay, Pentagon'un savunma operasyonlarında yapay zekayı benimseme sürecini hızlandırdığı bir dönemde yaşandı. Ocak ayında Savunma Bakanı Pete Hegseth, yapay zeka araçlarını tüm sınıflandırma seviyelerindeki yaklaşık üç milyon sivil ve askeri personele ulaştırmayı amaçlayan bakanlığın "Yapay Zeka Hızlandırma Stratejisi"ni açıkladı.investing+1

Ancak birkaç ABD'li yetkiliye göre bu çaba hala parçalı bir yapıda. Hükümetin farklı sektörleri, yapay zeka tarafından üretilen bilgileri doğrulamak için birleşik bir standart olmaksızın, farklı güvenlik protokolleri altında çeşitli araçlar kullanıyor.cnn+1

Kaynaklar CNN'e, ordunun hedefleme kararlarında giderek daha fazla yapay zeka kullandığını, bunun da insan nihai yetkiyi elinde tutsa bile hatalı saldırı, sivil kayıplar ve dost ateşi olayları riskini artırdığını söyledi.mezha+1

İçeriden Bir Uyarı

Bir kaynağa göre, Çin olayını neredeyse tetikleyen türden bir yapay zeka "halüsinasyonu", bu araçların yaygınlaşmaya başlamasından bu yana istihbarat camiasında izole bir olay değil. Kaynaklar, yapay zeka araçlarını kullanmaya daha yatkın olan genç analistlerin, çıktılarını eleştirel olmayan bir şekilde kabul etmeye özellikle meyilli olabileceğini belirtti.cnn

Bir kaynak, "Yapay zeka, kötü bir sonuca daha hızlı ulaşmanızı sağlıyor" yorumunda bulundu.mezha+1