Les entreprises ne savent pas quelle IA elles utilisent
L’article Les entreprises ne savent pas quelle IA elles utilisent est apparu en premier sur Maddyness - Le média pour comprendre l'économie de demain..
L'AI Act est un règlement européen entré en vigueur en 2024 qui encadre l'utilisation des systèmes d'intelligence artificielle (IA) dans les entreprises. Contrairement aux idées reçues, il ne se limite pas à réguler les algorithmes ou les modèles d'IA eux-mêmes, mais impose aux entreprises de tenir un inventaire précis de tous les outils d'IA qu'elles utilisent. L'objectif est de garantir la transparence et la conformité légale, notamment en identifiant les risques liés à ces technologies. Cependant, selon Rémy Bozonnet, expert Privacy chez Adequacy, les entreprises peinent à répondre à cette exigence, révélant un manque de visibilité sur leurs propres outils. En 2026, cette situation pose un défi majeur pour les organisations, qui doivent se conformer à des règles strictes sous peine de sanctions.
L'inventaire des systèmes d'IA dans une entreprise est un processus complexe car ces outils sont souvent intégrés de manière invisible dans les processus métiers. Par exemple, une entreprise peut utiliser une IA pour analyser des données clients sans le savoir, via un logiciel tiers comme un CRM (outil de gestion de la relation client) ou un service cloud. En 2026, peu d'entreprises disposent d'une cartographie complète de leurs outils d'IA, ce qui les expose à des risques juridiques et opérationnels. L'AI Act exige que ces inventaires soient mis à jour régulièrement, ce qui nécessite une collaboration entre les équipes techniques, juridiques et métiers. Les entreprises doivent identifier non seulement les outils développés en interne, mais aussi ceux achetés auprès de fournisseurs externes, comme les solutions SaaS (logiciels en tant que service).
Le manque de visibilité sur les outils d'IA utilisés expose les entreprises à des risques importants. L'AI Act classe les systèmes d'IA en quatre catégories de risque, allant de minime à inacceptable. Les entreprises utilisant des outils non conformes s'exposent à des amendes pouvant atteindre jusqu'à 7 % de leur chiffre d'affaires mondial, selon la gravité de l'infraction. En 2026, les autorités européennes renforcent les contrôles, ce qui augmente la pression sur les organisations. Par exemple, une entreprise utilisant une IA pour le recrutement sans évaluation préalable des biais algorithmiques pourrait être sanctionnée. Les experts soulignent que cette situation crée une zone grise où les entreprises, par méconnaissance, risquent de violer la réglementation sans même en avoir conscience.
Pour se conformer à l'*AI Act*, les entreprises doivent mettre en place des processus internes pour identifier et documenter leurs outils d'IA. Cela implique de réaliser un *audit complet* de leurs systèmes, en collaboration avec des experts en *conformité* et en *protection des données* (*RGPD*). Des outils spécialisés, comme des logiciels de gestion des risques algorithmiques, peuvent aider à automatiser cette tâche. Par exemple, des solutions comme *Adequacy* ou *IBM Watsonx Governance* permettent de cartographier les outils d'IA et de générer des rapports de conformité. Les entreprises doivent également former leurs équipes à la réglementation et sensibiliser les employés aux enjeux de la transparence algorithmique. En 2026, ces démarches deviennent indispensables pour éviter des sanctions et préserver la réputation des organisations.
