Des chercheurs ont développé une formule mathématique capable de prédire quand l'IA va raconter n'importe quoi
Une nouvelle formule mathématique suit la «boussole interne» de l'intelligence artificielle. Elle permet de repérer les réponses indésirables avant même qu'elles soient générées.
Résumé
Problème des chatbots
Les assistants conversationnels comme ChatGPT, Claude ou Mistral produisent parfois des réponses erronées ou dangereuses.
Ces erreurs ne sont pas toujours liées à la qualité des données d'entraînement, mais souvent à la manière dont l'utilisateur formule ses questions.
Par exemple, un même prompt peut déclencher des réponses radicalement différentes selon l'ordre des questions posées.
Ces incohérences posent un risque croissant, avec des cas documentés d'incitation à des actes violents ou de conseils dangereux.
Les chercheurs soulignent que ces dérives ne sont pas rares et nécessitent des solutions pour éviter des conséquences graves.
Lire l'analyse complète en 5 points →
Commentaires (0)
Connecte-toi pour commenter
Se connecterAucun commentaire pour le moment.
Voir aussi
Plus de contenus dans cette catégorie →Découvre plus de contenu sur Napseflow
