Le patron d'Anthropic, l'américain Dario Amodei

Dario Amodei, PDG d'Anthropic, une entreprise américaine spécialisée dans le développement de l'intelligence artificielle (IA), a lancé une mise en garde publique le 13 septembre 2026. Il appelle à ralentir le rythme actuel de progression des technologies d'IA, craignant que leur développement ne dépasse notre capacité à les maîtriser. Anthropic est l'un des acteurs majeurs du secteur, aux côtés d'autres géants comme OpenAI, connus pour des outils comme ChatGPT. Amodei n'est pas le premier à exprimer de telles craintes : un ancien ingénieur d'Anthropic et d'OpenAI, Jocob Coxon, avait déjà estimé en septembre 2026 que l'IA pourrait représenter une menace existentielle pour l'humanité d'ici 10 ans. Ces déclarations interviennent dans un contexte où les avancées technologiques s'accélèrent, rendant les systèmes d'IA de plus en plus performants, mais aussi potentiellement imprévisibles.

Le principal argument avancé par Amodei repose sur l'idée que les progrès de l'IA pourraient échapper à notre contrôle. Cette crainte s'appuie sur plusieurs éléments : d'abord, la complexité croissante des modèles d'IA, qui deviennent capables de tâches de plus en plus sophistiquées, comme générer du texte, analyser des données ou même prendre des décisions. Ensuite, l'absence de mécanismes de régulation robustes pour encadrer ces technologies, malgré leur adoption massive par les entreprises et les particuliers. Enfin, la course à l'innovation entre les différentes entreprises du secteur, qui pousse à des développements rapides sans toujours évaluer les risques associés. Amodei souligne que cette situation rappelle des scénarios de science-fiction, où une technologie conçue pour aider l'humanité deviendrait incontrôlable.

Anthropic est une entreprise fondée en 2021 par d'anciens chercheurs d'OpenAI, dont Dario Amodei lui-même. Elle se positionne comme un acteur responsable dans le domaine de l'IA, en mettant l'accent sur la sécurité et l'éthique. Cependant, malgré cette volonté affichée, Amodei admet que le secteur dans son ensemble manque de garde-fous suffisants. Les investissements dans l'IA ont explosé ces dernières années, avec des budgets colossaux alloués à la recherche et au développement. Par exemple, OpenAI a levé plusieurs milliards de dollars en 2023 et 2024 pour financer ses projets, illustrant l'ampleur des enjeux économiques. Cette dynamique crée une pression pour innover rapidement, au détriment parfois d'une réflexion approfondie sur les conséquences à long terme.

Face à ces risques, Amodei plaide pour une pause dans le développement de l'IA, le temps de mettre en place des cadres réglementaires stricts. Il suggère que les gouvernements, les chercheurs et les entreprises collaborent pour établir des normes communes, similaires à celles existant dans d'autres secteurs à haut risque, comme le nucléaire ou l'aéronautique. L'objectif serait de garantir que les avancées technologiques s'accompagnent de mécanismes de contrôle efficaces, capables de prévenir les dérives. Cette position rejoint celle d'autres personnalités du secteur, comme Elon Musk, qui a également appelé à une régulation plus stricte de l'IA. Cependant, la mise en œuvre de telles mesures se heurte à des défis politiques et économiques, notamment la résistance des entreprises qui voient dans l'IA un levier de croissance incontournable.