Gare aux «biais culturels» de l’IA, met en garde le chien de garde des langues officielles

La commissaire aux langues officielles du Canada, Kelly Burke, met en garde contre les biais culturels et linguistiques que peuvent générer les outils d’intelligence artificielle (IA).

Selon elle, ces systèmes s’appuient souvent sur des données principalement anglophones disponibles en ligne, ce qui peut fausser leurs réponses.

Par exemple, une requête demandant une liste des dix meilleurs auteurs canadiens pourrait exclure les auteurs francophones ou bilingues, car l’IA ne les identifierait pas comme pertinents.

Ces biais surviennent parce que les algorithmes d’IA sont entraînés à partir de contenus majoritairement produits en anglais, ce qui limite leur capacité à reconnaître la diversité linguistique et culturelle du Canada.

Kelly Burke souligne que ces erreurs peuvent concerner non seulement le choix des références, mais aussi des aspects techniques comme la grammaire, la conjugaison ou la terminologie, particulièrement dans un contexte formel où la précision est cruciale.