« Je n’avais jamais mentionné ce nom » : l’IA de Google connaissait pourtant le secret de ce jeu vidéo

Un développeur indépendant, connu sous le pseudonyme Klub Kofta, a découvert que l’intelligence artificielle (IA) de Google connaissait le nom d’un personnage encore secret de son jeu vidéo Operation Octo. Ce personnage, appelé Vantage Tripod, n’avait été mentionné nulle part publiquement : ni dans une bande-annonce, ni dans les fichiers du jeu, ni même sur le serveur Discord de la communauté. Selon le développeur, ce nom n’existait que dans un document Google privé, où il travaillait sur les idées pour une future mise à jour. Pourtant, un membre de la communauté a obtenu ce nom en interrogeant l’IA de Google, sans que le développeur n’ait jamais partagé cette information en ligne. Cette situation soulève des questions sur la manière dont l’IA a pu accéder à ce nom, alors qu’il était censé rester confidentiel.

Operation Octo est un jeu vidéo indépendant de type tower defense (défense de tour) et bullet hell (flux de projectiles intense), se déroulant dans un univers sous-marin. Le jeu compte environ une centaine d’évaluations sur la plateforme Steam, ce qui en fait un titre modeste en termes de visibilité. Le personnage Vantage Tripod est une créature mécanique montée sur trois pattes, prévue pour une future mise à jour. Le développeur avait gardé son nom secret, le réservant à un document de travail privé. Ce jeu est un exemple de création indépendante, souvent développée par des petites équipes ou des individus, et qui peut gagner en popularité grâce à des communautés engagées comme celle de Operation Octo.

L’IA de Google mentionnée dans l’article fait partie de l’AI Mode de Google Search, un service intégré au moteur de recherche qui permet d’obtenir des réponses générées par une intelligence artificielle. Contrairement à une recherche classique qui affiche des liens, cette IA produit des réponses en langage naturel. Elle est entraînée sur d’énormes quantités de données textuelles disponibles en ligne, ce qui lui permet de générer des réponses plausibles même sur des sujets très spécifiques. Cependant, elle ne dispose pas d’un accès direct aux documents privés des utilisateurs, sauf si ceux-ci sont partagés ou utilisés via des services connectés comme Google Drive ou Gmail. Google affirme que pour les comptes personnels, les données privées ne sont pas utilisées pour entraîner ses modèles sans autorisation explicite.

Plusieurs hypothèses tentent d’expliquer comment l’IA a pu connaître le nom Vantage Tripod. La première suggère que le document privé du développeur a été utilisé pour entraîner l’IA, puis que celle-ci a restitué l’information à un autre utilisateur. Cependant, Google précise que les données privées ne sont pas exploitées sans consentement. Une autre piste évoque une coïncidence : l’IA aurait combiné des mots comme Vantage et Tripod, qui existent déjà dans d’autres contextes (par exemple, des trépieds pour appareils photo). Une troisième possibilité est que le nom ait été exposé ailleurs, par exemple via un ancien lien de partage, une capture d’écran ou une personne ayant eu accès au document. Enfin, l’IA aurait pu générer ce nom de manière aléatoire, comme elle le fait parfois avec des réponses plausibles mais incorrectes.

Le témoignage du développeur reste isolé : depuis la publication de son récit, aucun autre utilisateur n’a réussi à obtenir le nom Vantage Tripod en interrogeant l’IA de Google. Cela ne signifie pas que l’incident n’a pas eu lieu, car les IA génératives peuvent donner des réponses différentes à une même question. Le développeur admet lui-même que l’IA ne cite plus ce nom aujourd’hui. Une autre explication possible est que la conversation initiale ait accumulé suffisamment d’indices sur le jeu pour orienter l’IA vers une réponse précise. Par exemple, le développeur avait dessiné le personnage lors d’un jeu de devinettes en ligne, laissant supposer qu’un « poisson-trépied » pourrait rejoindre Operation Octo. Le nom exact restait cependant secret.

Google précise que pour les comptes professionnels (Workspace), les documents privés ne sont pas utilisés pour entraîner ses modèles sans autorisation. Pour les comptes personnels, l’entreprise indique que les données privées comme Gmail ou Google Drive ne sont pas exploitées dans leur intégralité pour améliorer ses IA. Cependant, si des applications sont connectées et que le paramètre Conserver l’activité est activé, des résumés ou extraits de fichiers peuvent être utilisés pour améliorer les modèles. Ces données restent limitées aux contenus accessibles par l’utilisateur qui interroge l’IA. Rien n’indique que le document du développeur ait été exploité de cette manière, car le joueur utilisait l’AI Mode de Google Search, un service distinct avec ses propres réglages.

Le développeur a partagé une expérience similaire vécue par une autre créatrice de jeu. Celle-ci avait imaginé un projet dans un document privé sans jamais le publier. En demandant à l’IA de Google d’inventer des idées à partir du titre du jeu, plusieurs réponses ont resembled de manière troublante au contenu de son document. Cependant, cette expérience n’a pas été vérifiée de manière indépendante, et il n’est pas certain que les applications Workspace de la créatrice aient été connectées à l’IA. Une comparaison avec un autre modèle d’IA (Claude) a montré que ce dernier proposait des idées plus éloignées, ce qui rend la coïncidence moins probable, mais ne prouve pas une fuite de données.