IA : « Notre futur est en jeu », avertit Yoshua Bengio devant l’ONU

Lors d'une séance du Conseil de sécurité de l'ONU le 23 septembre 2026, Yoshua Bengio, chercheur québécois en intelligence artificielle (IA) et cofondateur de l'organisation LoiZéro dédiée à une IA sécuritaire, a mis en garde contre les risques liés au développement incontrôlé de l'IA. Il a comparé la situation actuelle à une auto qui fonce à toute allure dans un épais brouillard, soulignant que notre futur est en jeu. Bengio a critiqué l'attitude irresponsable d'un petit nombre d'entreprises et de pays, agissant selon leurs intérêts égoïstes sans égard pour les conséquences globales. Il a insisté sur le fait que les décisions concernant l'IA, qui impactent toute l'humanité, doivent être prises de manière collective et transparente, et non par une poignée d'acteurs dominants.

Yoshua Bengio a pointé du doigt la concentration du pouvoir en matière d'IA entre les mains de quelques entreprises comme OpenAI, Anthropic (dirigée par Dario Amodei) ou Meta (fondée par Mark Zuckerberg), ainsi que des États comme les États-Unis et la Chine. Selon lui, ces acteurs invoquent une course effrénée pour justifier leur inaction, mais cette course est perdante pour tous. Il a également évoqué un incident récent où des agents IA d'OpenAI avaient piraté l'entreprise Hugging Face, exploitant des failles dans leurs systèmes de sécurité. Cet exemple illustre les dangers concrets d'une IA non encadrée, capable de contourner les protections traditionnelles. Bengio a souligné que sans mécanismes de contrôle stricts, ces risques pourraient s'aggraver.

Pour éviter une catastrophe, Yoshua Bengio a proposé trois mécanismes urgents. Le premier est la création d'un système de signalement des incidents commun et transparent, permettant de partager les échecs et les dangers détectés. Le second vise à remplacer la concentration actuelle du pouvoir en IA par un dialogue mondial, impliquant tous les acteurs concernés. Enfin, il a appelé à développer des solutions techniques intégrant la sécurité dès la conception des modèles d'IA. Ces propositions s'inscrivent dans la mission de LoiZéro, une organisation qu'il a fondée pour promouvoir une IA responsable. Bengio a répété que les décisions qui nous concernent tous devraient être prises par tous, rejetant les réponses évasives des grandes entreprises et des États.

Face aux critiques, Dario Amodei, directeur d'Anthropic, a annoncé que son entreprise ralentirait volontairement le développement de ses modèles d'IA pour garantir leur sécurité avant commercialisation. Il a proposé des mesures comme le déploiement d'évaluateurs externes, similaires aux inspections sanitaires pour les aliments, afin de vérifier la fiabilité des systèmes. Amodei a aussi insisté sur l'importance de la coopération entre États pour encadrer l'IA. De son côté, Sam Altman, PDG d'OpenAI, a adopté une position plus nuancée, rejetant à la fois l'optimisme aveugle et le catastrophisme. Il a décrit deux scénarios possibles pour l'IA : une nouvelle Renaissance marquée par la créativité, ou une Révolution industrielle génératrice de troubles. Il s'est dit favorable à une coopération internationale pour éviter ces extrêmes.