☕️ Google Earth permet maintenant d’ajouter ce qui n’existe pas

Google Earth intègre désormais Nano Banana 2, un modèle d'intelligence artificielle (IA) capable de générer des images réalistes à partir de requêtes textuelles.

Cette fonction permet aux utilisateurs d'ajouter ou de modifier des éléments sur les images satellites, comme des bâtiments inexistants ou des objets fantaisistes.

Par exemple, il est possible de faire apparaître Godzilla à côté de la Tour Eiffel ou de créer une centrale nucléaire fictive en Iran.

Google présente cette innovation comme un outil ludique pour stimuler l'imagination, mais elle soulève des questions sur son utilisation détournée.

L'IA utilise des algorithmes d'apprentissage automatique pour produire des images photoréalistes, un domaine appelé IA générative.

L'ajout d'éléments fictifs dans Google Earth ouvre la porte à des usages malveillants, notamment la désinformation.

Un journaliste, Henk van Ess, a démontré comment cette fonction pouvait être exploitée pour créer des « preuves » trompeuses, comme un hôpital fictif près d'un cratère de bombe à Gaza ou des réfugiés inventés à la frontière entre le Mexique et les États-Unis.

Ces images, crédibles en apparence, pourraient servir à manipuler l'opinion publique ou à semer le doute sur des événements réels.

Les deepfakes, déjà difficiles à détecter selon l'ANSSI (Agence nationale de la sécurité des systèmes d'information), deviennent encore plus problématiques avec cette technologie.

Les conséquences pourraient être graves, notamment dans des contextes géopolitiques tendus.

Face aux risques de désinformation, Google affirme prendre le sujet « très au sérieux » et met en place des mesures pour limiter les abus.

Les images générées par Nano Banana 2 intègrent un filigrane SynthID, une technologie permettant d'identifier leur origine artificielle.

Les utilisateurs peuvent vérifier l'authenticité d'une image via Gemini ou Google Lens, mais cette procédure reste peu connue et peu accessible.

Google bloque également certaines requêtes jugées dangereuses, bien que cela n'ait pas empêché des tests comme la création d'un accident de voiture fictif à Amsterdam.

Malgré ces efforts, des failles persistent, laissant planer un doute sur l'efficacité réelle de ces protections.

Cette innovation soulève des questions éthiques majeures.

D'un côté, elle offre une liberté créative sans précédent, permettant de visualiser des scénarios imaginaires ou des projets architecturaux.

De l'autre, elle menace la confiance dans les images satellites, qui sont traditionnellement perçues comme des preuves objectives de la réalité.

Des acteurs malintentionnés pourraient exploiter cette fonction pour fabriquer des preuves dans des conflits géopolitiques, comme le suggère un commentaire évoquant l'utilisation de l'outil par l'Iran pour créer de fausses images de destruction de bases américaines.

La frontière entre réalité et fiction devient de plus en plus floue, posant un défi pour les utilisateurs et les régulateurs.

Malgré ses avancées, la technologie présente des limites.

Le filigrane SynthID et les outils de vérification comme Gemini ou Google Lens ne sont pas encore largement adoptés par le public.

Leur efficacité dépend de la connaissance des utilisateurs, qui doivent explicitement chercher à vérifier une image pour détecter une manipulation.

Par ailleurs, les algorithmes d'IA générative, bien que performants, peuvent produire des erreurs ou des incohérences visuelles, réduisant leur crédibilité dans certains cas.

Enfin, les blocages de requêtes dangereuses ne sont pas infaillibles, comme en témoignent les exemples cités dans l'article.