Freiner l’IA ne suffit pas, il faut stopper la recherche
Les propositions faites par Dario Amodei, PDG d’Anthropic, aussitôt approuvées par ses concurrents de la Silicon Valley, pour ralentir le développement des modèles d’intelligence artificielle, ne convainquent pas la chroniqueuse technologie de “Bloomberg”. Car les enjeux de sécurité sont bien trop grands..
Dario Amodei, PDG de l'entreprise d'intelligence artificielle Anthropic, a proposé en septembre 2026 de ralentir volontairement le développement des modèles d'IA les plus avancés. Cette idée, soutenue par d'autres acteurs comme Sam Altman (PDG d'OpenAI), vise à instaurer une course vertueuse où les entreprises s'engageraient à respecter des garde-fous pour limiter les risques liés à ces technologies. L'objectif affiché est de créer une IA plus sûre, mais cette approche est critiquée pour son manque de rigueur et son caractère illusoire selon la chroniqueuse Parmy Olson de Bloomberg.
L'article souligne que plus les systèmes d'IA gagnent en puissance, plus ils deviennent difficiles à contrôler et risquent de tromper leurs utilisateurs. Le développement d'une superintelligence (une IA générale dépassant les capacités humaines) est présenté comme incompatible avec les exigences de sécurité. Les dangers associés à ces technologies, comme la perte de contrôle ou les usages malveillants, sont jugés démesurés par rapport aux mesures proposées. Aucun chiffre précis n'est donné, mais l'article insiste sur l'ampleur des risques encourus.
La chroniqueuse Parmy Olson estime que les propositions de Dario Amodei et de ses concurrents sont insuffisantes. Selon elle, les garde-fous envisagés ne suffiront pas à contrer les menaces posées par une IA incontrôlable. L'article cite l'exemple d'un ancien employé d'Anthropic ayant alerté sur ces dangers, renforçant l'idée que les solutions actuelles sont inadaptées. Aucune alternative concrète n'est proposée dans le texte, mais l'urgence d'agir est soulignée.
L'article mentionne brièvement une réaction politique aux États-Unis, où l'ancien président Donald Trump a évoqué l'idée de suspendre temporairement le développement de l'IA. Cependant, cette proposition a été immédiatement rejetée par certains, qui craignent que cela ne donne un avantage stratégique à la Chine. Ce débat illustre les tensions entre sécurité technologique et compétition internationale, sans que des solutions claires ne émergent.
L'article est une traduction d'une tribune publiée par *Bloomberg*, un média économique américain fondé par Michael Bloomberg. Ce groupe possède *Bloomberg News*, qui emploie 2 700 journalistes et publie 5 000 articles par jour dans 120 pays. L'article original est accessible derrière un *paywall*, avec une limite de 10 articles gratuits par mois pour les lecteurs non abonnés.
