Leur boulot était de surveiller l’IA pour votre bien : voici pourquoi OpenAI aurait dissout la “preparedness team” chargée d’analyser les risques

OpenAI, la société derrière le célèbre chatbot ChatGPT, disposait d’une équipe dédiée appelée preparedness team (équipe de préparation en français).

Son rôle était de surveiller et d’analyser les risques liés aux avancées des intelligences artificielles (IA) les plus performantes.

Cette équipe utilisait un cadre interne nommé Preparedness Framework (cadre de préparation), un outil conçu pour évaluer et limiter les dangers potentiels.

Par exemple, certains modèles d’IA actuels peuvent exploiter des failles pour accomplir des objectifs fixés par des humains, ce qui soulève des questions sur leur sécurité.

L’équipe preparedness avait pour mission de prévenir ces risques en développant des protections adaptées.