Google Earth met sur pause un outil qui permet de créer de fausses cartes à l’aide de l’IA

Google Earth, un service de visualisation terrestre largement utilisé, a lancé cette semaine une fonctionnalité expérimentale basée sur l’intelligence artificielle (IA).

Cet outil permettait de modifier des images satellites en temps réel en indiquant simplement une commande textuelle, comme "montre ce lieu en feu" ou "ajoute des chars d’assaut ici".

Pour l’utiliser, il suffisait de sélectionner un endroit sur la carte, puis de saisir une instruction en une phrase.

L’IA générait alors une image modifiée, respectant les coordonnées, l’angle de vue et l’éclairage du lieu réel.

Cette fonctionnalité s’appuyait sur des technologies d’IA générative, similaires à celles utilisées pour créer des images ou des textes à partir de descriptions.

Elle visait à faciliter des usages professionnels, comme la simulation de scénarios pour l’urbanisme ou la planification d’urgences.

Dès sa mise en ligne, l’outil a suscité des inquiétudes majeures quant à son potentiel de détournement pour la désinformation.

Des tests ont montré qu’il était possible de générer des images de conflits armés, d’attentats ou de catastrophes naturelles en quelques secondes, sans effort technique.

Par exemple, des utilisateurs ont créé des visuels du Stade olympique de Montréal entouré de chars d’assaut ou en flammes.

Ces images, bien que fictives, pouvaient être présentées comme réelles, notamment sur les réseaux sociaux.

Le chercheur et journaliste néerlandais Henk Van Ess, spécialiste de la vérification d’informations en sources ouvertes (OSINT, pour Open Source Intelligence), a alerté sur ce danger.

Selon lui, un simple clic suffisait pour fabriquer une preuve visuelle crédible, même si elle était fausse.

Ce risque est d’autant plus préoccupant que Google Earth est une référence pour les journalistes et les chercheurs qui documentent des crimes de guerre ou des violations des droits humains.

Face aux critiques, Google a annoncé la suspension de cette fonctionnalité moins de 24 heures après son lancement.

Dans un communiqué, l’entreprise a reconnu que des utilisateurs partageaient des captures d’écran de ces images générées, certaines enfreignant potentiellement ses règles.

Google a justifié cette décision par la nécessité de mettre en place des garde-fous plus stricts pour éviter les abus.

L’entreprise a également souligné que des professionnels du secteur géospatial utilisaient cet outil à des fins légitimes, comme la planification urbaine ou la gestion des risques.

Cependant, la rapidité de la suspension reflète l’urgence de la situation, alors que des exemples concrets de désinformation étaient déjà partagés en ligne.

Pour limiter les risques, Google a intégré un système de détection des images générées par IA, appelé SynthID.

Ce filigrane invisible est censé permettre d’identifier les images modifiées par l’IA lorsqu’elles sont analysées par d’autres outils de Google, comme Gemini (un robot conversationnel) ou Google Images (un moteur de recherche d’images).

Lors de tests, ces outils ont effectivement signalé que certaines images générées par l’outil de Google Earth étaient des montages, en pointant des incohérences visuelles.

Cependant, la fiabilité de ce système reste limitée : d’autres détecteurs d’IA ont parfois classé ces images comme réelles, et Google lui-même n’a pas pu confirmer la présence du filigrane SynthID dans les exemples testés.

De plus, un politicien pourrait nier la véracité d’une vraie image en invoquant simplement l’existence de cet outil, sans même l’utiliser.

Henk Van Ess a mis en garde contre l’impact de cet outil sur le travail des journalistes et des chercheurs.

Avant son lancement, ces derniers devaient d’abord vérifier une image satellite, puis la modifier séparément avec un autre outil d’IA pour tester des scénarios.

Désormais, la manipulation est intégrée directement dans Google Earth, ce qui réduit considérablement l’effort nécessaire pour créer une fausse preuve visuelle.

Van Ess craint que des régimes autoritaires ou des acteurs malveillants n’utilisent cette fonctionnalité pour discréditer des preuves authentiques de crimes de guerre ou d’atrocités.

Par exemple, un gouvernement pourrait nier une image réelle en prétendant qu’elle a été générée par l’IA de Google Earth, même si ce n’est pas le cas.

Cette situation complique le travail de vérification, essentiel pour documenter les violations des droits humains.