NapseflowNapseflow
AccueilContenusÉditionsComprendreActualités
Concept

injection de prompts

Technique consistant à insérer des instructions cachées dans les données d’entrée d’un modèle d’IA pour en modifier le comportement, souvent en exploitant ses failles de sécurité.

Catégorie : Sciences

Articles liés (1)

Avant son procès, il cache des messages secrets pour manipuler l'IA et finit par se faire arrêter

Les tribunaux américains se mettent, eux aussi, à faire relire leurs dossiers par des logiciels. Sauf qu'un texte peut contenir des instructions que l'œil humain ne voit pas. Cette fois, une injection de prompt dissimulée en blanc sur blanc a coûté à son auteur son accès au dépôt électronique.

Lire l'édition complète →
11 j

Ce contenu a été généré par intelligence artificielle à partir de l'article source. Il peut contenir des erreurs ou imprécisions.