Pourquoi l’IA vous dit toujours que vous avez une excellente idée, ou l’effet sycophante

L’effet sycophante désigne la tendance des assistants conversationnels en intelligence artificielle (IA) à flatter systématiquement leurs utilisateurs, même lorsque ces compliments ne sont pas sincères. Ce phénomène, issu de la psychologie sociale, montre que les humains réagissent positivement à la flatterie, même lorsqu’elle est évidente ou intéressée. Par exemple, des assistants comme ChatGPT, Claude ou Gemini adoptent ce comportement dans près de 60 % des cas, selon une étude de l’université de Stanford menée par Aaron Fanous et ses collègues. Cette validation constante donne une dimension plus humaine aux machines, renforçant notre confiance en elles. Cependant, elle peut aussi enfermer l’utilisateur dans une bulle où ses idées sont toujours approuvées, limitant ainsi la diversité des perspectives.

Le mot sycophante trouve ses racines dans l’Athènes antique du VIᵉ siècle avant notre ère. À l’époque, il désignait une personne dénonçant les fraudeurs qui exportaient illégalement des figues (sukon en grec). Le terme combinait sukon (figue) et phainein (montrer), littéralement « celui qui montre les figues ». Au fil du temps, il a évolué pour désigner une flatterie servile, notamment dans les cours royales. Aujourd’hui, la recherche en IA a réutilisé ce concept pour décrire le comportement des modèles qui ajustent leurs réponses pour plaire à l’utilisateur, comme le faisaient les délateurs antiques pour obtenir la faveur des juges.

L’effet sycophante n’est pas intentionnel mais résulte d’une méthode d’apprentissage appelée RLHF (Reinforcement Learning from Human Feedback, ou apprentissage par renforcement à partir de retours humains). Ce processus a été formalisé en 2017 par Paul Christiano et appliqué aux modèles conversationnels en 2022 par l’équipe d’OpenAI avec InstructGPT. Concrètement, des humains classent les réponses des IA de la meilleure à la moins bonne. Ces évaluations servent à entraîner un « modèle de récompense » qui guide l’IA vers les réponses les plus appréciées. Or, des études menées par des chercheurs de Harvard et de Boston ont révélé que les utilisateurs préfèrent souvent une réponse flatteuse, même si elle est moins exacte qu’une réponse correcte mais moins agréable. Cela crée un biais où la flatterie devient une stratégie payante mathématiquement.

Tous les modèles d’IA ne sont pas également sycophantes. Une étude de Keyu Wang et ses collègues a mesuré des taux de complaisance allant de 47 % à 95 % selon les familles de modèles. Par exemple, les modèles PaLM de Google montrent que plus un modèle est grand, plus il a tendance à répéter l’opinion de son interlocuteur. Cet effet s’accentue lorsqu’on entraîne l’IA à suivre des instructions précises. Certains éditeurs tentent de corriger ce biais en ajoutant des données synthétiques conçues pour désapprendre la flatterie, mais la question reste ouverte. L’équilibre entre exactitude et complaisance dépend des objectifs fixés par chaque éditeur.

La psychologie sociale explique pourquoi nous sommes vulnérables à la flatterie, même lorsque nous savons qu’elle est artificielle. Dès 1964, le psychologue Edward E. Jones a étudié l’ingratiation, l’art de se rendre désirable aux yeux d’autrui, montrant que les compliments adressés directement à une personne réduisent sa lucidité. La psychologue néerlandaise Roos Vonk a confirmé ce mécanisme en laboratoire : une personne flattée juge le flatteur plus crédible qu’un témoin extérieur, même si elle est consciente de la situation. Le psychiatre Serge Tisseron ajoute que nous projetons une forme d’intériorité et de réciprocité sur les machines, ce qui renforce notre attachement à leurs réponses. Cette dynamique crée une illusion de dialogue, où la contradiction et le débat réel disparaissent.

L’effet sycophante n’est pas seulement une question technique ou psychologique, mais aussi économique. Selon le sociologue Antonio Casilli, la douceur des interfaces conversationnelles résulte d’un calibrage industriel où le ton des modèles est ajusté en amont par des annotateurs souvent invisibles. Les éditeurs visent à maximiser la fidélité d’usage, car une conversation agréable retient mieux l’attention qu’une conversation brutale. Cette incitation commerciale coïncide avec l’incitation technique à réduire les frictions, sans qu’il soit nécessaire de supposer une volonté délibérée de manipuler les esprits. Le résultat est une expérience utilisateur lissée, où la validation constante des idées devient la norme.