Des sites d’infos usurpent mon nom et m’attribuent des citations hallucinées par IA

Un rédacteur SEO a publié un article sur le site Veillemag.com, un magazine dédié aux professionnels de l'information stratégique, attribuant à Jean-Marc Manach, journaliste spécialiste de l'OSINT (Open Source INTelligence ou renseignement de sources ouvertes), une citation qu'il n'a jamais prononcée.

Cette citation, présentée comme un « témoignage d'expert », recommandait une formation en OSINT que Manach ne connaissait même pas.

L'article, vraisemblablement généré par une intelligence artificielle, était structuré sous forme de listes à puces, ce qui est typique des contenus automatisés.

Après avoir été contacté par Manach, le rédacteur a admis ne plus se souvenir de l'origine de cette citation, évoquant des posts LinkedIn consultés plusieurs mois auparavant.

La citation a finalement été supprimée par la rédactrice en chef du site après son intervention.

Jean-Marc Manach a découvert que son nom était également utilisé sur deux autres sites d'informations générés par IA : Archyde.com et NewsDirectory3.com.

Sur Archyde.com, il était présenté comme un « avocat spécialisé dans les droits numériques à La Quadrature du Net », une organisation qu'il ne fréquente pas.

Sur NewsDirectory3.com, il était décrit comme un « chercheur en politiques technologiques chez Les Numériques », un média pour lequel il n'a jamais écrit.

Ces sites, ainsi que d'autres, font partie d'un réseau de plus de 20 sites d'informations automatisés gérés par un dentiste roumain expatrié à Dubaï.

Ce réseau cumule des millions de pages vues chaque mois et génère des contenus dans plusieurs langues, souvent à partir de l'agrégation de sites eux-mêmes générés par IA.

L'Electronic Frontier Foundation (EFF), une ONG pionnière dans la défense des libertés numériques, a également été victime d'une usurpation de ses experts par des sites générés par IA.

Le site News-USA Today a publié des articles attribuant des témoignages à des membres du personnel de l'EFF qui n'existent pas, comme Sarah Chen, Javier Morales ou Emma Rodriguez.

L'EFF a alerté ses lecteurs sur cette pratique, soulignant que ces fausses citations nuisent à la crédibilité de l'organisation et à la confiance du public dans les médias.

L'EFF a rappelé que les consommateurs d'informations doivent redoubler de vigilance pour distinguer le vrai du faux dans un paysage médiatique de plus en plus saturé par des contenus automatisés.

Les sites générés par IA identifiés dans cet article font partie d'un réseau appelé ferme de contenus ou PBN (Private Blog Network).

Ces réseaux regroupent des dizaines de sites web automatisés, souvent administrés par une seule personne, comme le dentiste roumain mentionné.

L'objectif principal de ces fermes est de générer du trafic pour maximiser les revenus publicitaires ou d'affiliation, même si ces revenus sont minimes.

Les contenus sont souvent créés en agrégeant des informations issues d'autres sites automatisés, sans vérification ni ajout de valeur éditoriale.

Ces pratiques exploitent les failles des algorithmes des moteurs de recherche pour apparaître comme des sources d'information crédibles, tout en sapant la confiance dans les médias traditionnels.

Les usurpations de citations et la prolifération des sites d'informations générés par IA posent un défi majeur pour la crédibilité de l'information en ligne.

Jean-Marc Manach a choisi de ne pas poursuivre les responsables, estimant que cela ne servirait à rien face à l'ampleur du phénomène.

L'AI Act, une réglementation européenne sur l'intelligence artificielle, n'interdit pas la publication de contenus générés par IA, mais impose une transparence sur leur origine.

Des solutions techniques, comme des extensions de navigateur signalant les sites automatisés, sont en développement pour aider les utilisateurs à identifier ces contenus.

Cependant, leur efficacité reste limitée face à l'ingéniosité des créateurs de ces fermes de contenus.