Washington refuse qu’Anthropic et OpenAI soumettent leurs derniers modèles à une évaluation indépendante

Depuis septembre 2026, la Maison-Blanche impose aux laboratoires américains d'intelligence artificielle (IA), dont OpenAI et Anthropic, de réserver l'accès à leurs nouveaux modèles dits de frontière (les plus avancés) uniquement aux évaluations menées par le gouvernement des États-Unis avant toute diffusion à d'autres organismes. Cette mesure modifie l'ordre traditionnel d'accès aux modèles, qui consistait jusqu'alors à partager ces outils en priorité avec des évaluateurs indépendants comme l'AI Security Institute (UK AISI) britannique. Désormais, les modèles ne seront accessibles à des partenaires étrangers qu'après une évaluation et une sécurisation par les autorités américaines. Cette décision s'inscrit dans un contexte où les capacités cyber des modèles d'IA deviennent un enjeu majeur de sécurité nationale.

L'AI Security Institute (UK AISI), créé en novembre 2023 à la suite du sommet sur la sécurité de l'IA de Bletchley Park, est l'un des principaux organismes publics mondiaux spécialisés dans l'évaluation des modèles d'IA de frontière. Il teste ces modèles avant et après leur déploiement pour identifier des risques tels que leurs capacités en cybersécurité, biologie, chimie, ou encore leur potentiel d'auto-amélioration récursive (capacité à s'améliorer sans intervention humaine). Historiquement, des laboratoires comme OpenAI, Anthropic ou Google DeepMind lui fournissaient un accès anticipé à leurs modèles pour des tests indépendants. Cependant, depuis septembre 2026, le UK AISI n'a plus eu accès à certains modèles, comme Mythos 5.1 d'Anthropic, malgré ses demandes répétées.

En juin 2026, l'administration américaine a renforcé ses contrôles à l'exportation sur les modèles Fable et Mythos d'Anthropic, interdisant leur utilisation par des ressortissants étrangers. Cette décision fait suite à l'amélioration rapide des capacités cyber de ces modèles, jugées sensibles pour la sécurité nationale. La NSA (agence de sécurité américaine) consacre désormais plusieurs milliards de dollars par an à tester ces modèles avancés pour identifier des vulnérabilités dans les systèmes de renseignement et de défense. Ces tests incluent l'évaluation des risques liés à l'utilisation malveillante de l'IA, comme la génération de code malveillant ou l'exploitation de failles informatiques.

Aux États-Unis, l'équivalent direct du UK AISI est le Center for AI Standards and Innovation (CAISI), hébergé au NIST (institut national des normes et de la technologie). Cependant, ce centre dispose de moyens bien moindres que son homologue britannique : il est sous-financé et emploie moins de chercheurs. Cette différence de ressources limite sa capacité à évaluer efficacement les modèles d'IA de frontière. Parallèlement, les laboratoires d'IA comme Google, OpenAI et Anthropic explorent une alternative en proposant une évaluation entre eux, sans supervision gouvernementale, via la création d'un organisme privé de normalisation dédié à la sécurité de l'IA.

Les architectures des modèles d'IA évoluent rapidement, ce qui pose des défis pour leur évaluation. Par exemple, certaines architectures utilisent des états latents internes (représentations non directement observables par les humains) plutôt que des chaînes de pensée textuelles (explications compréhensibles en langage naturel). Selon Redwood Research, ces nouvelles architectures pourraient rendre l'audit et la surveillance des modèles beaucoup plus difficiles pour les évaluateurs humains. En effet, ces états latents ne permettent pas de comprendre clairement comment le modèle prend ses décisions, limitant ainsi la transparence et la capacité à détecter des comportements imprévus ou dangereux.