Plus de 300 000 livres par mois : comment l'IA et ChatGPT saturent Amazon avec des biographies falsifiées

Depuis 2024, Amazon est inondé de livres générés par intelligence artificielle (IA), avec plus de 300 000 titres publiés chaque mois.

Ces ouvrages, souvent des biographies ou des essais, sont créés automatiquement par des algorithmes comme ChatGPT ou d'autres outils d'IA générative.

Contrairement aux livres traditionnels, ils sont produits en masse sans intervention humaine significative, ce qui explique leur nombre élevé.

L'IA utilise des bases de données pour générer du texte cohérent, mais sans vérification des faits, ce qui conduit à des erreurs ou des affirmations non fondées.

Ce phénomène reflète une tendance plus large : l'automatisation de la création de contenu, qui touche aussi bien l'édition que d'autres secteurs.

Les plateformes comme Amazon, en permettant l'auto-édition, deviennent des terrains de jeu pour ces outils, souvent à moindre coût pour leurs utilisateurs.

Parmi les livres générés par IA, une grande partie sont des biographies d'auteurs fictifs ou réels, mais avec des détails inventés ou modifiés.

Par exemple, des profils d'écrivains célèbres ou de personnalités historiques sont recréés avec des éléments biographiques erronés, comme des dates de naissance incorrectes ou des événements imaginaires.

Ces falsifications sont possibles car l'IA se base sur des données existantes pour générer du texte, sans toujours distinguer le vrai du faux.

Le problème est aggravé par le fait que ces livres sont souvent vendus comme des œuvres originales, parfois sous des titres accrocheurs, mais sans valeur réelle.

Les lecteurs peuvent ainsi acheter des ouvrages qui ne reflètent pas la réalité, ce qui pose des questions sur la fiabilité des contenus disponibles sur les plateformes numériques.

ChatGPT, développé par OpenAI, est l'un des outils d'IA les plus utilisés pour générer ces livres.

Il fonctionne grâce à des modèles de langage entraînés sur des milliards de textes disponibles en ligne, ce qui lui permet de produire des phrases et des paragraphes cohérents.

Cependant, il ne comprend pas le sens profond des mots : il combine simplement des motifs linguistiques pour créer du contenu.

Dans le cas des livres, il peut être programmé pour générer des biographies ou des essais en quelques secondes, en s'appuyant sur des prompts (instructions données à l'IA) comme « écris une biographie de 2000 mots sur un scientifique fictif ».

Cette automatisation explique pourquoi le nombre de titres explose, mais aussi pourquoi la qualité est souvent médiocre ou trompeuse.

Amazon, en tant que leader de la vente de livres en ligne, est particulièrement touché par cette saturation de contenu généré par IA.

La plateforme permet l'auto-édition, ce qui signifie que n'importe qui peut publier un livre sans contrôle éditorial strict.

Avec l'arrivée des outils d'IA, des milliers de titres sont ajoutés chaque jour, saturant les rayons numériques et rendant difficile la distinction entre un livre sérieux et un contenu généré artificiellement.

Cette situation pose un défi majeur pour les lecteurs, qui peuvent se retrouver face à une offre pléthorique mais peu fiable.

De plus, les algorithmes de recommandation d'Amazon, conçus pour promouvoir les livres les plus vendus ou les mieux notés, peuvent favoriser ces contenus automatisés s'ils génèrent des clics ou des ventes, même sans valeur réelle.

Pour les lecteurs, la prolifération de ces livres pose plusieurs problèmes.

D'abord, ils risquent de tomber sur des ouvrages contenant des informations erronées, car l'IA ne vérifie pas les faits.

Ensuite, la qualité littéraire est souvent médiocre, avec des répétitions, des incohérences ou un style artificiel.

Enfin, cette saturation rend plus difficile la découverte de vrais talents ou de contenus originaux, noyés sous une masse de publications automatisées.

Les plateformes comme Amazon, qui dépendent de la confiance des utilisateurs, pourraient voir leur réputation affectée si cette tendance se poursuit.

Les lecteurs pourraient alors se tourner vers des sources plus fiables, comme les éditeurs traditionnels ou les librairies indépendantes.

Face à ce phénomène, des voix s'élèvent pour demander un encadrement plus strict des contenus générés par IA.

Certains éditeurs et auteurs appellent à une régulation pour limiter la publication de livres automatisés, notamment ceux qui propagent des fake news ou des informations trompeuses.

Des outils de détection de contenu généré par IA sont également en développement, mais leur efficacité reste limitée.

Amazon, de son côté, n'a pas encore mis en place de mesures spécifiques pour filtrer ces livres, bien que la plateforme ait déjà retiré certains contenus manifestement frauduleux.

La question de la responsabilité se pose : qui doit contrôler ces publications ?

Les plateformes, les régulateurs, ou les utilisateurs eux-mêmes ?

Aucune solution claire n'émerge encore, mais le débat est lancé.