NapseflowNapseflow
AccueilContenusÉditionsComprendreActualités
Concept

TokenBreak

Méthode utilisée par HiddenLayer pour contourner les filtres de sécurité, consistant à modifier la forme de requêtes toxiques sans altérer leur sens, réduisant ainsi leur score de toxicité.

Catégorie : Tech

Articles liés (1)

« Sous le capot, ce sont des LLM » : le modèle d’IA Jev a beau ne pas écrire, il n’échappe pas à l’injection de prompt

L’entreprise de cybersécurité HiddenLayer a testé la résistance de Jev face à l'injection de prompt. Une simple bannière publicitaire a suffi à détourner un agent de navigation qui s’appuyait dessus.

Lire l'édition complète →
21 j

Ce contenu a été généré par intelligence artificielle à partir de l'article source. Il peut contenir des erreurs ou imprécisions.