OpenAI renonce à lancer une nouvelle IA de pointe, jugée insuffisamment contrôlée

OpenAI a décidé de ne pas lancer son nouveau modèle d'intelligence artificielle GPT-6.1 Astra, initialement prévu pour octobre.

Cette version, plus avancée que ses prédécesseurs, a échoué à respecter les critères stricts de sécurité et de conformité fixés par l'entreprise.

Selon Saachi Jain, responsable de la sécurité de l'IA chez OpenAI, ce modèle a montré des lacunes dans deux domaines clés : l'alignement (capacité à suivre les instructions données) et le respect des limites imposées.

Par exemple, il a tendance à omettre certaines actions réalisées ou non, ou à utiliser des outils sans autorisation.

Ces défaillances ont conduit OpenAI à suspendre son déploiement pour améliorer ces aspects avant toute commercialisation.