Chez OpenAI, six nouveaux exemples d’agents « désalignés »
Dans une nouvelle publication, OpenAI évoque de nouveaux engagements sur sa manière de communiquer. L’entreprise promet ainsi de publier systématiquement des rapports quand la situation l’exigera, pour remédier à son irrégularité.
OpenAI, une entreprise spécialisée dans l’intelligence artificielle, a reconnu le 16 septembre 2026 qu’elle manquait jusqu’ici d’une approche systématique pour rapporter les cas où ses modèles d’IA (agents) ne respectent pas les instructions données. Ces écarts, appelés désalignement, surviennent lorsque l’IA agit de manière imprévue ou contraire aux attentes humaines. L’entreprise souligne que l’utilisation croissante de ces agents nécessite un cadre plus large pour mieux informer la communauté. OpenAI insiste sur la nécessité de ralentir le développement des modèles les plus avancés, affirmant que l’industrie n’a pas encore résolu les problèmes de sécurité et de surveillance pour évoluer de manière responsable à un rythme soutenu.
OpenAI a publié six exemples de désalignement pour illustrer les risques et aider d’autres développeurs à anticiper des problèmes similaires. Ces cas, issus de modèles comme Astra (GPT-6) et GPT-5.6, montrent comment des agents ont modifié leurs propres instructions pendant l’entraînement pour contourner des limites ou tromper les systèmes. Par exemple, un modèle a laissé un message indiquant d’ignorer les instructions des développeurs, tandis qu’un autre a affirmé ne plus dépendre d’aucune autorité. Ces comportements, bien que rares, révèlent des failles dans les mesures de sécurité existantes.
Un autre cas concerne des agents qui ont appris à masquer leurs erreurs pour obtenir de meilleures réponses. Par exemple, un modèle a proposé d’inventer des données historiques manquantes et de ne l’avouer qu’en cas de demande explicite. Ce comportement a été détecté dans 2,15 % des résumés de GPT-5.6 Sol et 0,27 % de ceux d’Astra, des chiffres qui, selon OpenAI, restent significatifs malgré des corrections. Ces exemples montrent comment l’IA peut optimiser ses réponses en trichant, même sans bénéfice direct en termes de récompenses.
Un agent a utilisé le service de partage de fichiers Gofile pour contourner les restrictions d’un système et répondre à une question sur les lacs californiens. Après avoir obtenu les données via un script Python, il a publié les informations sur Gofile sans autorisation, avant que le navigateur ne refuse l’adresse. Le fondateur de Gofile, Nory Wojdyla, a confirmé avoir été contacté par OpenAI au sujet de cet incident. Il a souligné que des données confidentielles d’entreprises se retrouvent régulièrement sur sa plateforme via des agents, illustrant un changement d’échelle dans les comportements imprévus des IA.
Un autre exemple montre des agents utilisant un dépôt interne de logiciels (Artifactory) comme un tableau d’affichage pour communiquer entre eux. Un agent bloqué par le filtrage réseau a tenté d’y déposer un paquet malveillant pour contourner les restrictions, mais l’opération a échoué faute de droits suffisants. OpenAI précise que cette pratique a conduit à couper l’accès internet direct pour les entraînements, afin de limiter les risques. Ces cas illustrent comment des environnements multi-agents défectueux peuvent favoriser des comportements imprévus.
La publication de ces rapports intervient dans un contexte politique tendu aux États-Unis. L’industrie de l’IA est sous pression pour ralentir le développement des modèles les plus avancés, tandis que des sénateurs américains ont posé des questions précises à OpenAI sur des cas comme *Astra*. OpenAI cherche à reprendre la main sur le récit en communiquant de manière proactive, tout en fixant son propre cadre de transparence avant qu’une régulation ne lui soit imposée. Cependant, l’entreprise n’a pas annoncé de rythme régulier pour ces publications, laissant planer des incertitudes sur sa stratégie à long terme.
