Ruský dron řízený AI autonomně zabil tři Ukrajince, uvádějí úřady

Ruský dron plně řízený umělou inteligencí zabil minulý měsíc v Záporoží tři ukrajinské civilisty. Podle pondělního vyšetřování deníku New York Times jde o první potvrzené smrtící použití plně autonomní zbraně s AI v této válce, jak uvádějí odborníci.nytimes

Dron, který připomínal malý model letadla, byl naprogramován k letu směrem k čerpací stanici v tomto jihovýchodním ukrajinském městě, ale svůj přesný cíl, s největší pravděpodobností propanové nádrže, si vybral sám na základě tréninku AI k rozpoznávání takových objektů. Uvedli to experti na drony, ukrajinští vojenští velitelé a forenzní tým, který zkoumal trosky.nytimes

Útok

Mezi mrtvými byla i devatenáctiletá vysokoškolská studentka Tetiana Bubynetsová, která se při příletu dronu běžela schovat. Zařízení narazilo do zdi a explodovalo v dešti střepin, což zabilo ji a další dva lidi. Ukrajinští představitelé uvedli, že dron obsahoval výpočetní modul Nvidia ↘ 4.58% Jetson Orin, běžně dostupný čip pro edge computing, který umožňoval zpracování AI přímo na palubě. Společnost Nvidia reagovala prohlášením, že tyto moduly jsou široce dostupné na sekundárních trzích a že společnost dodržuje sankce.aiweekly+1

Milník v autonomním vedení války

Plukovník Serhij Minajev, velitel protivzdušné obrany v Záporoží, varoval před širšími důsledky. „To je riziko pro celý svět,“ řekl deníku Times. „Za pár let budeme žít ve filmu Terminátor. To není vtip. Stroje se samy rozhodují, na co zaútočí.“nytimes

K tomuto vývoji dochází na pozadí zrychlujících se závodů ve zbrojení v oblasti autonomních systémů na Ukrajině. Obě strany nasazují stále sofistikovanější drony vylepšené o AI, včetně systémů automatického rozpoznávání cílů, které dronům umožňují pokračovat k cíli i po ztrátě spojení s lidským operátorem. Samotné ukrajinské síly začaly drony s AI pořizovat v roce 2024 a ruské i ukrajinské platformy postupně zavádějí palubní edge computing pro vyhýbání se překážkám a identifikaci cílů.forbes+2

Širší důsledky

Kyjev označil útok v Záporoží za první potvrzený případ, kdy plně autonomní zbraň s AI zabila v tomto konfliktu civilisty. Incident vyostřuje dlouhodobé mezinárodní debaty o smrtících autonomních zbraňových systémech, které se zastánci kontroly zbrojení snaží regulovat již více než deset let. Na rozdíl od předchozích útoků dronů v této válce, které zabily tisíce ukrajinských civilistů, se na konečném rozhodnutí o zasažení cíle při tomto útoku nepodílel žádný lidský pilot. Jde o hranici, před jejímž překročením vojenští etikové již dlouho varují.aiweekly+1