Ablation, ablitération : c’est quoi cette technique pour « débrider » les IA génératives ?

Les IA génératives, comme les grands modèles de langage (LLM), fonctionnent grâce à un processus en plusieurs étapes.

D’abord, elles sont entraînées sur d’énormes quantités de données, souvent issues de l’intégralité du web.

Cet entraînement permet d’ajuster des centaines de milliards de paramètres (ou poids), qui sont des valeurs numériques associées aux connexions entre les neurones artificiels du modèle.

Plus il y a de paramètres, plus le modèle peut stocker de connaissances et devenir performant.

Par exemple, un modèle récent peut contenir jusqu’à plusieurs centaines de milliards de paramètres, ce qui lui permet de traiter des requêtes complexes comme générer un texte ou répondre à une question technique.

Cette phase initiale ne définit pas encore les limites éthiques ou sécuritaires de l’IA, mais elle pose les bases de ses capacités.