Ils ont tué 123 enfants à cause d'une erreur de l'IA : une enquête révèle que l'armée américaine repose aveuglément sur l'IA pour choisir ses cibles
Les armées confient souvent le tri de leurs cibles à des logiciels plus rapides que les analystes humains. Mais quand une donnée est périmée, la machine ne s’en rend pas toujours compte.
Les armées modernes utilisent de plus en plus des systèmes d'intelligence artificielle (IA) pour identifier et sélectionner des cibles militaires. Ces logiciels analysent des données en temps réel, comme des images satellites, des communications ou des mouvements de troupes, afin de proposer des objectifs à frapper. L'IA est privilégiée pour sa rapidité et sa capacité à traiter des volumes de données bien supérieurs à ceux d'un humain. Cependant, ces systèmes reposent sur des algorithmes qui interprètent les données selon des critères prédéfinis, parfois sans toujours vérifier leur actualité ou leur fiabilité. Dans cet article, l'erreur d'une IA a conduit à une tragédie : une école a été confondue avec une position militaire, entraînant la mort de 123 enfants.
L'enquête révèle qu'une donnée obsolète a provoqué l'erreur de l'IA. Concrètement, le système a utilisé une information ancienne ou incorrecte pour classer l'école comme une cible militaire. Par exemple, un bâtiment similaire à une caserne dans une ancienne image satellite, ou une activité suspecte enregistrée plusieurs mois plus tôt, a pu être interprété comme une preuve actuelle de présence ennemie. Les systèmes d'IA militaires ne disposent pas toujours de mécanismes robustes pour détecter automatiquement les incohérences dans les données. Cette faille a conduit à une frappe aérienne sur une cible civile, un drame qui aurait pu être évité avec une vérification humaine systématique des propositions de l'IA.
Le bilan humain de cette erreur est lourd : 123 enfants ont perdu la vie lors de l'attaque. Cet événement illustre les risques liés à la dépendance excessive aux technologies automatisées dans les opérations militaires. Les cibles proposées par l'IA sont souvent validées par des opérateurs humains, mais cette étape ne garantit pas toujours la détection d'erreurs, surtout lorsque les analystes font confiance à la machine. Les organisations de défense des droits humains soulignent régulièrement les dangers de ces systèmes, qui peuvent amplifier les erreurs humaines ou les biais des données. Dans ce cas précis, l'armée américaine a reconnu l'incident, mais l'enquête n'a pas encore révélé si des mesures correctives ont été mises en place pour éviter de futurs drames.
Cet incident met en lumière la confiance croissante des armées dans les algorithmes pour des décisions critiques. Les systèmes de ciblage automatisé, comme ceux utilisés par l'armée américaine, sont conçus pour accélérer le processus de prise de décision en réduisant le temps de réaction face à une menace. Cependant, cette automatisation s'accompagne de risques : une mauvaise interprétation des données, une mise à jour insuffisante des informations ou un biais dans les algorithmes peuvent entraîner des erreurs aux conséquences dramatiques. Les experts en éthique militaire appellent à une régulation plus stricte de ces technologies, afin de garantir que les décisions de vie ou de mort ne reposent pas uniquement sur des machines, mais intègrent une supervision humaine rigoureuse.
