Robots tueurs: la ligne rouge morale a déjà été franchie selon des experts après une frappe en Ukraine

L'Organisation des Nations unies et le Comité international de la Croix-Rouge ont lancé mardi un appel conjoint exhortant les gouvernements à négocier d'urgence des règles internationales contraignantes sur les systèmes d'armes autonomes, avertissant que le monde se trouve "dangereusement près de franchir une ligne rouge morale: le ciblage autonome d'êtres humains par des machines."icrc+1

La déclaration du Secrétaire général de l'ONU, António Guterres, et de la présidente du CICR, Mirjana Spoljaric, réitère un appel lancé pour la première fois en 2023 en faveur d'interdictions et de restrictions spécifiques sur les armes autonomes, une échéance que la communauté internationale n'a pas su respecter.rte+1

Une ligne déjà franchie

Mais selon des experts, la ligne rouge morale a déjà été dépassée. Un drone russe Molniya ayant tué trois civils dans une station-service à Zaporijjia, en Ukraine, le 6 juillet semble avoir été entièrement guidé par l'intelligence artificielle, d'après une enquête du New York Times publiée le 24 août. Le drone, équipé d'un mini-ordinateur Nvidia ↗ 1.48% Jetson Orin, a volé sans contrôle radio et a utilisé l'IA embarquée pour choisir sa cible, très probablement des réservoirs de propane qu'il avait été entraîné à reconnaître, après que des opérateurs humains l'ont dirigé vers la zone générale.sofx+2

Tetiana Bubynets, une étudiante de 19 ans, ainsi qu'Oleksiy Svirin, 41 ans, et Roman Karpiy, 48 ans, ont été tués lorsque le drone s'est écrasé contre un mur près duquel ils s'abritaient.sofx

"Les armes ne possédaient aucune antenne pour un pilotage humain et disposaient d'un puissant ordinateur de bord avec des catégories de cibles pré-entraînées", a expliqué Stuart Russell, professeur de sciences informatiques à l'université de Californie à Berkeley et président de l'Association internationale pour une IA sûre et éthique.latimes

La course à la réglementation

La déclaration conjointe appelle à l'interdiction de deux catégories d'armes autonomes: les systèmes "imprévisibles" dont les opérateurs ne peuvent pas anticiper les résultats, et les armes antipersonnel qui ciblent délibérément des êtres humains. Les deux organisations ont désigné une conférence prévue en novembre à Genève pour réviser la Convention sur certaines armes classiques comme "la voie la plus claire" pour parvenir à des règles juridiquement contraignantes.spectrumlocalnews+2

Ryan Jenkins, professeur associé à Cal Poly qui étudie l'éthique de la guerre automatisée, a estimé que les militants ont perdu la course visant à interdire les armes autonomes avant qu'elles ne prouvent leur utilité au combat. "Une fois qu'une arme est utilisée sur le champ de bataille et qu'elle démontre qu'elle confère un avantage, il devient beaucoup plus difficile pour les pays d'y renoncer", a-t-il déclaré au Los Angeles Times.latimes

Le Center for Ethics and the Rule of Law de l'université de Pennsylvanie tiendra en octobre une conférence consacrée aux cadres éthiques et juridiques de l'IA militarisée, soulignant que la politique récente des États-Unis, notamment la directive de sécurité nationale du président Trump de juin 2026 accélérant l'adoption de l'IA militaire, a renforcé l'urgence du débat.penncerl