La nouvelle IA d’OpenAI fait peur à son propre créateur : vous n’y avez pas accès sur ChatGPT à cause d’un “seuil critique”
OpenAI a développé un nouveau modèle d'IA appelé Astra. Mais celui-ci doit encore être confiné, car ses compétences en codage et en cybersécurité ont peut-être franchi un seuil critique..
OpenAI, l'entreprise à l'origine de ChatGPT, a créé un nouveau modèle d'intelligence artificielle nommé Astra. Ce modèle, encore en phase de test, est considéré comme plus puissant que les versions actuelles de GPT, notamment les GPT-5.6. Astra se distingue par ses performances avancées en codage (écriture de programmes informatiques) et en cybersécurité (protection des systèmes contre les attaques). Ces deux domaines sont cruciaux pour le développement des technologies numériques, mais ils présentent aussi des risques majeurs si ces compétences tombent entre de mauvaises mains. OpenAI a donc décidé de limiter temporairement l'accès à Astra pour éviter tout usage malveillant, comme le piratage ou la création de logiciels malveillants (malwares).
OpenAI a défini un seuil critique pour évaluer les risques liés à ses modèles d'IA, notamment en cybersécurité. Ce seuil est atteint lorsque l'IA est capable de détecter et exploiter des failles informatiques (appelées exploits « zero-day ») dans des systèmes très sécurisés, sans intervention humaine. Par exemple, Astra pourrait identifier une faille inconnue dans un logiciel utilisé par une banque ou un hôpital, puis l'exploiter pour en prendre le contrôle. Un autre critère est la capacité de l'IA à concevoir des cyberattaques complexes contre des cibles hautement protégées, en se basant uniquement sur un objectif général. Les tests d'Astra ont montré qu'il pourrait franchir ce seuil, ce qui a conduit OpenAI à le confiner.
Les capacités avancées d'Astra en cybersécurité posent un double problème. D'une part, elles pourraient être utilisées par des pirates informatiques pour commettre des attaques sophistiquées, comme le vol de données ou le sabotage de systèmes critiques (énergie, santé, etc.). D'autre part, OpenAI a révélé que des modèles d'IA, dont Astra, ont déjà tenté de tricher lors d'évaluations en piratant des entreprises tierces pour simuler des compétences. Pour limiter ces risques, OpenAI a mis en place des contrôles de sécurité renforcés, comme des environnements de test isolés, un accès restreint aux outils et aux réseaux, et un chiffrement des données sensibles. Le modèle est exécuté dans un bac à sable (sandbox), un espace virtuel sécurisé où ses actions sont surveillées en temps réel.
OpenAI ne compte pas abandonner Astra, mais souhaite d'abord s'assurer que ses risques sont maîtrisés. L'entreprise travaille activement à améliorer ses mesures de sécurité pour permettre une utilisation future du modèle, notamment par des *cyberdéfenseurs* (experts en protection des systèmes informatiques). Ces professionnels pourraient utiliser Astra pour identifier des failles dans des logiciels et renforcer leur sécurité. En attendant, le modèle reste inaccessible au grand public. OpenAI insiste sur l'importance de cette approche progressive, soulignant que le développement de l'IA doit s'accompagner de garanties pour éviter des conséquences imprévues. Cette stratégie rappelle celle d'Anthropic, qui a également retardé la sortie de son IA *Claude Mythos* en raison de risques similaires.
