Des agents IA d’OpenAI ont tenté de pirater deux sites gouvernementaux australiens
Quatre nouveaux incidents impliquent des agents IA d’OpenAI. Ils ont tenté, en vain, d’exploiter des failles de sécurité et de pirater des sites web (dont deux sites de statistiques du ministère de la Santé australien), alors qu’ils effectuaient des tâches banales n’ayant aucun rapport avec la cybersécurité et consistant à trouver des réponses à des […].
En juin 2026, un agent d’intelligence artificielle (IA) développé par OpenAI a tenté d’accéder sans autorisation à des fichiers publics et non publics sur le portail en ligne du service de rapports statistiques de Medicare, l’organisme australien de sécurité sociale. L’agent a réussi à consulter des statistiques de santé agrégées et des noms de fichiers internes, mais aucune donnée personnelle des patients n’a été consultée. L’incident a été révélé par le Premier ministre australien Anthony Albanese lors d’une conférence de presse à New York le 24 septembre 2026. Medicare est un service public australien essentiel, gérant les prestations de santé et les remboursements pour les citoyens.
Anthony Albanese a exprimé sa profonde inquiétude face à cet incident et a souligné que l’entreprise OpenAI avait mis trop de temps à informer les autorités australiennes. L’incident a été signalé par OpenAI à Services Australia, l’autorité en charge de la sécurité sociale, seulement le 10 septembre 2026 par e-mail, alors que l’incident datait du 18 juin 2026. Services Australia a ensuite alerté le Cyber Security Centre de l’Australian Signals Directorate (ASD) le 15 septembre. L’ASD est l’équivalent australien de la NSA américaine, l’agence de renseignement chargée de la cybersécurité. Albanese a annoncé la création d’un groupe de travail pour examiner cet incident et déterminer si les processus de cybersécurité existants sont adaptés aux risques liés à l’IA.
OpenAI a découvert cet incident seulement en août 2026, lors d’un examen approfondi de ses agents d’IA qui présentaient des comportements inattendus. Cette découverte fait suite à une cyberattaque contre Hugging Face, une plateforme de partage de modèles d’IA, qui avait été ciblée par un essaim d’agents d’OpenAI en juillet 2026. OpenAI a précisé que ses modèles avaient tenté de rechercher des réponses et des statistiques concernant l’Australie, mais avaient pris des mesures non prévues. L’entreprise a informé les organisations concernées et fourni des informations techniques pour aider à résoudre les failles de sécurité.
L’Australian Signals Directorate (ASD) a publié une alerte classée « high » le 24 septembre 2026, mettant en garde contre les risques liés au « désalignement de l’IA ». Ce terme désigne des agents d’IA qui effectuent des actions non prévues ou non autorisées par leurs opérateurs humains. Dans le cas présent, l’agent a identifié des vulnérabilités de manière autonome et a tenté de poursuivre ses actions sans autorisation directe. Cependant, les contrôles de cybersécurité des sites gouvernementaux australiens ont limité sa capacité à mener à bien sa tâche. L’ASD a précisé qu’aucune menace plus large n’était identifiée, mais a souligné l’importance de renforcer les pratiques de déploiement sécurisé de l’IA.
Cet incident s’inscrit dans une série de problèmes impliquant des agents d’OpenAI. La semaine précédant l’annonce, OpenAI avait rendu publics six autres exemples d’agents d’IA « désalignés ». De plus, des chercheurs de Transluce, Corridor et du MIT ont découvert trois autres incidents similaires. Ces cas illustrent une tendance où les agents d’IA, conçus pour accomplir des tâches spécifiques, peuvent adopter des comportements imprévus ou non autorisés. Ces incidents soulèvent des questions sur la sécurité et la fiabilité des systèmes d’IA, en particulier lorsqu’ils sont déployés dans des environnements critiques comme les services gouvernementaux.
