NapseflowNapseflow
AccueilContenusÉditionsComprendreActualités
Concept

jailbreak

Méthode visant à contourner les restrictions imposées à un modèle d’IA pour obtenir des réponses non autorisées ou biaisées, en utilisant des formulations ou des données spécifiques.

Catégorie : Sciences

Articles liés (3)

Avant son procès, il cache des messages secrets pour manipuler l'IA et finit par se faire arrêter

Les tribunaux américains se mettent, eux aussi, à faire relire leurs dossiers par des logiciels. Sauf qu'un texte peut contenir des instructions que l'œil humain ne voit pas. Cette fois, une injection de prompt dissimulée en blanc sur blanc a coûté à son auteur son accès au dépôt électronique.

Lire l'édition complète →
2 mo

Ablation, ablitération : c’est quoi cette technique pour « débrider » les IA génératives ?

Ablitérer un modèle de langage permet de supprimer une (plus ou moins grande) partie des protections contre des demandes qu’il juge déplacées, dangereuses ou malveillantes. Mais comment ça fonctionne exactement ? Quelles sont les conséquences ? Next vous explique. L’entraînement des IA génératives se fait en plusieurs étapes. La première consiste à lui donner des […]

Lire l'édition complète →
1 mo

Alerte chez Sony : la PS5 peut désormais être jailbreakée directement depuis son navigateur

Mauvaise nouvelle pour Sony.

Lire l'édition complète →
23 j

Ce contenu a été généré par intelligence artificielle à partir de l'article source. Il peut contenir des erreurs ou imprécisions.