Ils devaient améliorer l’IA d’OpenAI, mais ont été virés pour avoir utilisé de l’IA
Des prestataires chargés d’améliorer les modèles d’OpenAI ont été écartés pour avoir utilisé eux-mêmes de l’IA, rapporte 404 Media le 22 septembre 2026. Une situation ironique qui s’explique par leur mission : apporter un jugement humain..
En septembre 2026, des prestataires sous contrat avec OpenAI pour améliorer ses modèles d’intelligence artificielle ont été exclus de leurs missions après avoir utilisé des outils d’IA dans leur travail. Cette décision, rapportée par le média 404 Media, s’appuie sur des documents internes et des témoignages de trois prestataires, dont deux confirment avoir été écartés pour cette raison. Ces exclusions concernent des travailleurs externes à OpenAI, engagés via des sous-traitants comme Mercor, qui a confirmé l’existence de clauses interdisant l’usage de modèles de langage dans ces tâches. OpenAI, de son côté, n’a pas souhaité commenter cette affaire.
Les prestataires exclus étaient chargés d’évaluer et de classer les réponses de ChatGPT, une tâche essentielle pour améliorer la qualité du chatbot. Leur rôle consistait notamment à vérifier que les réponses ne présentaient pas de biais, comme donner systématiquement raison à l’utilisateur ou se faire passer pour un être humain. Cette méthode, appelée RLHF (Reinforcement Learning from Human Feedback, soit apprentissage par renforcement à partir de retours humains), repose sur des comparaisons entre différentes réponses à une même question. L’objectif est d’ajuster le modèle pour qu’il produise des réponses plus utiles et précises. En janvier 2022, OpenAI avait déjà expliqué utiliser cette approche pour développer InstructGPT, un modèle précurseur de ChatGPT.
L’utilisation de l’IA par les prestataires pose un problème majeur : elle contredit l’objectif même de leur mission. En effet, OpenAI attend des évaluations réalisées par des humains, et non par d’autres IA. Par exemple, un prestataire pouvait être chargé de comparer deux réponses à une question et de choisir la meilleure. Si ce choix est délégué à un chatbot, l’entreprise reçoit alors le jugement d’une autre IA, ce qui fausse le processus d’amélioration. Cette situation illustre une ironie de l’industrie de l’IA : utiliser des outils automatisés pour accomplir une tâche censée reposer sur l’humain peut entraîner un licenciement.
Pour repérer les prestataires utilisant de l’IA, OpenAI et ses sous-traitants s’appuient sur des méthodes de contrôle spécifiques. Contrairement aux détecteurs d’IA comme *GPTZero*, jugés peu fiables, les contrôleurs doivent rechercher des indices stylistiques et de cadence, tels que des formulations répétitives, des habitudes de ponctuation ou des tâches accomplies trop rapidement. Ces signes sont analysés en combinaison, car aucun d’eux ne constitue une preuve absolue à lui seul. Les contrôleurs ne doivent pas expliquer aux prestataires les raisons de leurs soupçons, afin d’éviter qu’ils adaptent leurs méthodes pour contourner les vérifications.
