Comment cette police anti-IA reste illisible pour les modèles les plus avancés
Un designer a imaginé une police anti-IA qui tient encore en échec les modèles les plus avancés. Son procédé ne repose sur aucun chiffrement, juste sur une faiblesse de perception que les machines n'ont pas encore comblée.
Des chercheurs ont conçu une police de caractères appelée ZXX, spécialement conçue pour tromper les intelligences artificielles (IA) et les empêcher de reconnaître les textes écrits. Contrairement aux polices classiques, ZXX intègre des formes de lettres volontairement déformées, des traits irréguliers ou des symboles abstraits qui perturbent les algorithmes d'analyse de texte. L'objectif est de rendre ces textes illisibles pour les modèles d'IA tout en restant compréhensibles pour les humains. Cette innovation s'inscrit dans un contexte où les IA, comme les grands modèles de langage (LLM), sont de plus en plus utilisées pour extraire et analyser des informations à partir de documents numériques, soulevant des questions sur la protection des données et la vie privée.
La police ZXX fonctionne en exploitant une faille des algorithmes d'IA : ceux-ci s'appuient sur des motifs visuels répétitifs pour reconnaître les caractères. En introduisant des variations aléatoires ou des éléments graphiques non standard, les concepteurs de ZXX rendent ces motifs imprévisibles pour les IA, qui échouent alors à interpréter le texte. Par exemple, une lettre comme le A peut être représentée par une forme géométrique complexe ou un symbole unique, impossible à catégoriser pour un modèle d'apprentissage automatique. Cette approche rappelle les CAPTCHA, ces tests de vérification qui demandent aux utilisateurs de reconnaître des lettres déformées pour prouver qu'ils ne sont pas des robots.
Les usages potentiels de ZXX sont variés et concernent principalement la protection des données sensibles. Elle pourrait être employée pour sécuriser des documents confidentiels, comme des contrats ou des rapports médicaux, afin d'empêcher leur exploitation par des IA sans l'accord des humains. Une autre application serait la lutte contre le spam ou les fake news, en rendant les textes générés par des IA indétectables par les filtres automatiques. Enfin, cette police pourrait aussi servir à protéger les œuvres artistiques ou littéraires contre le scraping (collecte automatisée) par des algorithmes. Cependant, son adoption massive dépendra de sa compatibilité avec les outils numériques existants.
Malgré ses avantages, ZXX présente des limites majeures. D'abord, son utilisation nécessite une adaptation des outils numériques pour afficher correctement les caractères déformés, ce qui peut poser des problèmes de compatibilité avec certains logiciels ou appareils. Ensuite, cette police ne protège pas contre les humains malintentionnés, qui pourraient transcrire manuellement les textes pour contourner la protection. Enfin, son efficacité pourrait diminuer à mesure que les IA s'améliorent et développent des méthodes plus sophistiquées pour analyser des motifs visuels complexes. Les concepteurs de ZXX travaillent donc à des versions encore plus avancées pour rester une longueur d'avance.
L'émergence de polices comme *ZXX* reflète une tendance plus large dans le domaine de la cybersécurité et de la lutte contre les abus des IA. Avec l'essor des modèles de langage comme *GPT-4* ou *Gemini*, capables de générer ou d'analyser des quantités massives de texte, les risques de violations de la vie privée ou de manipulation de l'information se multiplient. Des initiatives similaires, comme les *watermarks* invisibles pour les images générées par IA, visent à rendre les contenus traçables. *ZXX* s'inscrit donc dans une dynamique où les humains cherchent à reprendre le contrôle sur des technologies qu'ils ont eux-mêmes créées.
