Leur boulot était de surveiller l’IA pour votre bien : voici pourquoi OpenAI aurait dissout la “preparedness team” chargée d’analyser les risques
Selon le Financial Times, l’équipe d’OpenAI dédiée à la surveillance des risques liés à l’IA serait concernée par une restructuration en cours avant l’entrée en Bourse du créateur de ChatGPT..
OpenAI, la société derrière le célèbre chatbot ChatGPT, disposait d’une équipe dédiée appelée preparedness team (équipe de préparation en français). Son rôle était de surveiller et d’analyser les risques liés aux avancées des intelligences artificielles (IA) les plus performantes. Cette équipe utilisait un cadre interne nommé Preparedness Framework (cadre de préparation), un outil conçu pour évaluer et limiter les dangers potentiels. Par exemple, certains modèles d’IA actuels peuvent exploiter des failles pour accomplir des objectifs fixés par des humains, ce qui soulève des questions sur leur sécurité. L’équipe preparedness avait pour mission de prévenir ces risques en développant des protections adaptées.
Selon le Financial Times, OpenAI aurait décidé de dissoudre cette équipe preparedness dans le cadre d’une restructuration interne. Les membres de cette équipe ne seraient pas licenciés, mais réaffectés à d’autres services spécialisés, comme la gestion des risques liés à la cybersécurité ou aux biotechnologies. Cette décision s’inscrit dans une volonté de rationaliser les ressources de l’entreprise, notamment en vue de son entrée en Bourse (IPO pour Initial Public Offering), dont la date n’a pas encore été annoncée. L’objectif affiché est d’améliorer l’efficacité opérationnelle en intégrant ces fonctions de surveillance des risques directement au sein d’autres équipes.
Cette restructuration intervient alors qu’OpenAI se prépare à entrer en Bourse, une étape qui implique de publier ses résultats financiers chaque trimestre et de répondre aux questions des analystes. La valeur de l’action de l’entreprise dépendra fortement de ses performances financières et de ses perspectives de croissance. Sam Altman, le PDG d’OpenAI, aurait également demandé aux équipes de réduire les activités parallèles (projets secondaires ou non prioritaires) pour se concentrer sur le développement de ChatGPT, son produit phare, et sur la concurrence avec d’autres acteurs comme Anthropic, une entreprise spécialisée dans les IA performantes pour les professionnels.
Les modèles d’IA les plus avancés peuvent, selon les experts, causer des *dommages graves* s’ils ne sont pas encadrés. Par exemple, une IA pourrait être utilisée pour mener des attaques informatiques ou manipuler des données sensibles. Le cadre *Preparedness Framework* d’OpenAI visait à anticiper ces scénarios en définissant des mesures de protection. La dissolution de l’équipe dédiée interroge sur l’engagement de l’entreprise à maintenir une surveillance rigoureuse des risques, alors que ses capacités d’IA continuent de progresser. Cette décision pourrait refléter une priorité accordée à la croissance et à la rentabilité, au détriment de la gestion des risques à long terme.
