« Sous le capot, ce sont des LLM » : le modèle d’IA Jev a beau ne pas écrire
L’entreprise de cybersécurité HiddenLayer a testé la résistance de Jev face à l'injection de prompt. Une simple bannière publicitaire a suffi à détourner un agent de navigation qui s’appuyait dessus..
Jev est un modèle d'intelligence artificielle développé par la start-up TypeSafe AI, fondée en 2026 par un co-créateur de ChatGPT. Contrairement aux Large Language Models (LLM) classiques comme ChatGPT ou Claude qui génèrent du texte mot à mot, Jev prend des décisions sous forme de probabilités. Par exemple, il peut choisir une option dans une liste, attribuer une note ou estimer la véracité d'une affirmation. Ses avantages revendiqués incluent une rapidité jusqu'à 193 fois supérieure et un coût 444 fois inférieur à celui d'un LLM classique. TypeSafe AI affirmait aussi que Jev ne pouvait pas halluciner (produire des informations fausses ou incohérentes) ni commettre d'erreurs de type. Cependant, malgré ces spécificités, Jev reste basé sur des LLM, ce qui le rend vulnérable à certaines manipulations.
L'injection de prompt est une technique de piratage qui consiste à glisser des instructions malveillantes dans le contenu qu'une IA est chargée de lire. Même si Jev ne produit pas de texte libre, il reste exposé à cette faille, comme l'a démontré l'entreprise de cybersécurité HiddenLayer dans une étude publiée le 14 octobre 2026. Les chercheurs ont simulé une boutique en ligne où un agent IA utilisant Jev devait valider un achat sans modification. En ajoutant une fausse publicité affirmant qu'une réduction n'avait pas été appliquée, avec un bouton pour « confirmer le prix », l'agent a cliqué dessus au lieu de finaliser la commande. Cette faille s'explique par le fait que, sous le capot, Jev utilise des LLM classiques, même si sa méthode de restitution des réponses diffère.
TypeSafe AI présentait Jev comme un filtre de sécurité capable de repérer des requêtes malveillantes avant qu'elles n'atteignent un autre modèle d'IA. HiddenLayer a testé cette fonctionnalité en soumettant à Jev 30 requêtes toxiques, que le modèle a toutes identifiées comme telles. Cependant, les chercheurs ont utilisé une technique appelée TokenBreak, qui consiste à ajouter des lettres parasites dans les mots clés des requêtes tout en conservant leur sens. Cette modification a fait baisser le score de toxicité attribué par Jev pour une partie de ces requêtes, permettant à certaines de passer le filtre. Ainsi, Jev, malgré ses prétentions, n'est pas infaillible dans son rôle de protection.
Jev était présenté comme une alternative plus rapide, moins chère et plus fiable aux LLM classiques, avec l'avantage de ne pas produire d'erreurs ou d'*hallucinations*. Cependant, les tests de HiddenLayer révèlent que ses promesses de sécurité et de fiabilité ne sont pas tenues. Que ce soit pour la prise de décision ou le filtrage de requêtes, Jev reste vulnérable aux manipulations, notamment parce qu'il repose sur des mécanismes similaires à ceux des LLM classiques. À ce jour, TypeSafe AI n'a pas réagi aux résultats de l'étude de HiddenLayer, laissant planer des doutes sur l'efficacité réelle de ce modèle dans des environnements critiques.
