« C'est une boucle destructrice » : l'IA pourrait finir par s'autodétruire, selon un haut placé chez Microsoft

Des mémos internes de Microsoft, rendus publics dans le cadre d’un procès fédéral aux États-Unis, révèlent une inquiétude majeure au sein de l’entreprise concernant sa stratégie en intelligence artificielle (IA). Ces documents, qualifiés de « vol d’une ampleur sans précédent » par des employés de haut niveau, décrivent une situation où l’IA pourrait s’autodétruire en raison de ses propres mécanismes. L’IA, ou intelligence artificielle, désigne ici des systèmes capables d’apprendre et de prendre des décisions de manière autonome, souvent à partir de données massives. Le terme « vol » dans ce contexte ne fait pas référence à un acte criminel, mais plutôt à l’utilisation massive et non contrôlée de contenus protégés par des droits d’auteur pour entraîner ces systèmes. Ces mémos n’ont pas été rendus publics par Microsoft lui-même, mais ont été déclassifiés dans le cadre d’un procès fédéral, ce qui signifie qu’ils ont été rendus accessibles au public après avoir été initialement confidentiels.

Les documents internes de Microsoft mettent en lumière une menace pesant sur l’ensemble de la chaîne de contenu, c’est-à-dire l’écosystème qui permet la création, la diffusion et la consommation de contenus (articles, vidéos, musique, etc.). Selon ces mémos, l’utilisation massive de contenus protégés pour entraîner les modèles d’IA pourrait, à terme, épuiser ou dégrader la qualité des sources disponibles. En effet, si les systèmes d’IA s’appuient trop largement sur des contenus déjà existants sans contribuer à leur création ou à leur enrichissement, cela pourrait créer une boucle où les contenus deviennent de moins en moins pertinents ou originaux. Cette situation est décrite comme une « boucle destructrice », où l’IA, en s’alimentant de contenus existants, contribue à leur appauvrissement, ce qui à son tour réduit la qualité des données disponibles pour son entraînement futur. Les conséquences pourraient toucher tous les acteurs de la chaîne, des créateurs de contenu aux plateformes de diffusion.

Les mémos internes soulignent que la stratégie actuelle de Microsoft en matière d’IA repose en grande partie sur l’utilisation de contenus protégés par des droits d’auteur, sans toujours obtenir les autorisations nécessaires. Les droits d’auteur sont des protections légales qui permettent aux créateurs de contenus (écrivains, musiciens, cinéastes, etc.) de contrôler l’utilisation de leurs œuvres. Dans le cadre de l’entraînement des modèles d’IA, ces contenus sont souvent utilisés pour apprendre aux systèmes à générer du texte, des images ou de la musique similaires. Cependant, cette pratique soulève des questions juridiques et éthiques, car elle peut violer les droits des créateurs. Les mémos décrivent cette utilisation massive comme un « vol », non pas au sens pénal, mais comme une appropriation non autorisée de ressources intellectuelles essentielles à la création de valeur dans l’économie numérique.

Les conséquences de cette stratégie pourraient être profondes pour l’écosystème global des contenus. Si les modèles d’IA s’appuient de manière excessive sur des contenus protégés sans contribuer à leur renouvellement ou à leur enrichissement, cela pourrait entraîner une baisse de la qualité et de la diversité des contenus disponibles. Par exemple, des articles de presse, des chansons ou des vidéos pourraient devenir moins originaux ou moins pertinents, car les systèmes d’IA reproduiraient des patterns existants sans innover. Cette situation pourrait également affecter les revenus des créateurs de contenu, qui pourraient voir leurs œuvres utilisées sans compensation. Enfin, cela pourrait aussi poser un risque pour les plateformes de diffusion, qui pourraient se retrouver avec des contenus de moindre qualité, réduisant ainsi l’engagement des utilisateurs.