Mravní hranice u robotů zabijáků byla překročena, varují experti po úderu na Ukrajině

Organizace spojených národů a Mezinárodní výbor Červeného kříže vydaly v úterý společnou výzvu, ve které vyzývají vlády k neodkladnému sjednání závazných mezinárodních pravidel pro autonomní zbraňové systémy. Varují, že svět je „nebezpečně blízko překročení mravní hranice: autonomního zaměřování lidí stroji.“icrc+1

Prohlášení generálního tajemníka OSN Antónia Guterrese a prezidentky MVČK Mirjany Spoljaricové obnovuje výzvu poprvé pronesenou v roce 2023 k zavedení konkrétních zákazů a omezení autonomních zbraní, což je lhůta, kterou mezinárodní společenství nedodrželo.rte+1

Hranice už byla překročena

Experti však tvrdí, že mravní hranice už byla porušena. Ruský dron Molnija, který 6. července zabil tři civilisty na čerpací stanici v ukrajinském Záporoží, byl podle vyšetřování deníku The New York Times zveřejněného 24. srpna naváděn zcela pomocí umělé inteligence. Dron vybavený minipočítačem Nvidia ↗ 0.84% Jetson Orin letěl bez rádiového řízení a využíval palubní AI k výběru cíle, pravděpodobně nádrží s propanem, na jejichž rozpoznání byl vycvičen, poté co ho lidská obsluha nasměrovala do dané oblasti.sofx+2

Devatenáctiletá univerzitní studentka Tetiana Bubynecová spolu s jedenačtyřicetiletým Oleksijem Svirinem a osmačtyřicetiletým Romanem Karpijem zahynuli, když dron narazil do zdi nedaleko místa, kde se ukrývali.sofx

„Zbraně neměly žádnou anténu pro lidské pilotování a disponovaly výkonným palubním počítačem s předem vycvičenými kategoriemi cílů,“ uvedl Stuart Russell, profesor počítačových věd na Kalifornské univerzitě v Berkeley a prezident Mezinárodní asociace pro bezpečnou a etickou AI.latimes

Závod o regulaci

Společné prohlášení vyzvalo k zákazům dvou kategorií autonomních zbraní: „nepředvídatelných“ systémů, jejichž výsledky nemohou operátoři předvídat, a protipěchotních zbraní, které se úmyslně zaměřují na lidské bytosti. Organizace poukázaly na listopadovou konferenci v Ženevě k přezkoumání Úmluvy o některých konvenčních zbraních jako na „nejjasnější dostupnou cestu“ k právně závazným pravidlům.spectrumlocalnews+2

Ryan Jenkins, docent z univerzity Cal Poly, který se zabývá etikou automatizovaného válčení, uvedl, že aktivisté prohráli závod o zákaz autonomních zbraní dříve, než se ukázaly jako užitečné v boji. „Jakmile je zbraň použita v boji a jakmile se ukáže, že poskytuje výhodu, je pro země mnohem těžší se jí vzdát,“ řekl deníku Los Angeles Times.latimes

Centrum pro etiku a právní stát při Pensylvánské univerzitě svolá v říjnu související konferenci zkoumající etické a právní rámce pro armádní AI. Centrum poznamenalo, že nedávná politika USA, včetně červnové bezpečnostní směrnice prezidenta Trumpa z roku 2026 urychlující zavádění AI v armádě, dodala debatě na ještě větší naléhavosti.penncerl