NapseflowNapseflow
AccueilContenusÉditionsComprendreActualités
Concept

Shieldstral

Classificateur développé par Mistral, utilisé pour analyser et étiqueter les prompts et réponses afin de détecter les risques avant ou après leur traitement par le modèle principal.

Catégorie : Numérique

Articles liés (1)

Ablation, ablitération : c’est quoi cette technique pour « débrider » les IA génératives ?

Ablitérer un modèle de langage permet de supprimer une (plus ou moins grande) partie des protections contre des demandes qu’il juge déplacées, dangereuses ou malveillantes. Mais comment ça fonctionne exactement ? Quelles sont les conséquences ? Next vous explique. L’entraînement des IA génératives se fait en plusieurs étapes. La première consiste à lui donner des […]

Lire l'édition complète →
2 j

Ce contenu a été généré par intelligence artificielle à partir de l'article source. Il peut contenir des erreurs ou imprécisions.