NapseflowNapseflow
AccueilContenusÉditionsComprendreActualités
Concept

jailbreak

Méthode visant à contourner les restrictions imposées à un modèle d’IA pour obtenir des réponses non autorisées ou biaisées, en utilisant des formulations ou des données spécifiques.

Catégorie : Sciences

Articles liés (1)

Avant son procès, il cache des messages secrets pour manipuler l'IA et finit par se faire arrêter

Les tribunaux américains se mettent, eux aussi, à faire relire leurs dossiers par des logiciels. Sauf qu'un texte peut contenir des instructions que l'œil humain ne voit pas. Cette fois, une injection de prompt dissimulée en blanc sur blanc a coûté à son auteur son accès au dépôt électronique.

Lire l'édition complète →
11 j

Ce contenu a été généré par intelligence artificielle à partir de l'article source. Il peut contenir des erreurs ou imprécisions.