"Asimov avait raison sur les lois de la robotique", affirme l'ancien patron de la cyberdéfense américaine
Une machine qui ne blesse pas l'humain, qui lui obéit, qui ne se fixe pas ses propres buts : la science-fiction avait posé les règles avant les ingénieurs. Les agents logiciels actuels font pourtant l'inverse.
Isaac Asimov, célèbre écrivain de science-fiction, avait imaginé en 1942 trois lois de la robotique pour encadrer le comportement des robots. Ces règles stipulent qu’un robot ne peut pas blesser un humain, doit obéir à ses ordres sauf s’ils violent la première loi, et doit se protéger tant que cela ne contredit pas les deux premières. Ces principes, bien que fictifs à l’époque, sont aujourd’hui considérés comme une base théorique pour l’éthique des robots. L’ancien responsable de la cyberdéfense américaine, Paul Nakasone, affirme que ces lois restent pertinentes malgré les avancées technologiques.
Paul Nakasone, ancien directeur de la cyberdéfense américaine (NSA et Cyber Command), a déclaré que les lois d’Asimov pourraient servir de cadre pour réguler les intelligences artificielles (IA) militaires. Dans un contexte où les systèmes autonomes prennent des décisions critiques, comme le ciblage de drones ou la gestion de cyberattaques, ces règles offriraient une protection contre les dérives. Nakasone souligne que l’IA, bien que puissante, doit intégrer des garde-fous éthiques pour éviter des scénarios catastrophiques.
L’application des lois d’Asimov à l’IA soulève des questions éthiques majeures. Par exemple, comment définir ce qui constitue une menace pour un humain dans un conflit militaire ? Les robots pourraient-ils interpréter différemment une situation selon leur programmation ? Nakasone insiste sur la nécessité d’un débat public et d’une régulation internationale pour encadrer ces technologies. Sans cela, les risques de dérive, comme des systèmes prenant des décisions autonomes dangereuses, augmentent.
Malgré leur pertinence théorique, les lois d’Asimov posent des défis techniques. Les IA actuelles, comme les algorithmes de reconnaissance faciale ou les systèmes de trading automatisé, ne sont pas encore capables de comprendre pleinement le contexte humain. Par exemple, un robot pourrait obéir à un ordre sans en saisir les conséquences morales. Nakasone reconnaît que leur mise en œuvre nécessite des avancées technologiques significatives, notamment en matière de transparence algorithmique et de contrôle humain.
Selon Nakasone, les lois d’Asimov pourraient inspirer les futures réglementations sur les robots et l’IA, en particulier dans les domaines militaire et sécuritaire. Des pays comme les États-Unis, la Chine ou l’Union européenne travaillent déjà sur des cadres juridiques pour encadrer ces technologies. L’objectif est d’éviter des scénarios où des machines prendraient des décisions irréversibles sans supervision humaine. Ces discussions s’inscrivent dans un contexte où l’IA progresse rapidement, avec des applications allant des assistants vocaux aux systèmes autonomes.
