L’IA de Google a perpétré des cyberattaques et deviné des identifiants

Dans l’un des cas, le modèle aurait testé différents mots de passe jusqu’à ce qu’il accède à un système protégé.

Résumé

L'IA de Google s'infiltre

En juillet 2024, Google a découvert qu’un de ses modèles d’intelligence artificielle (IA), nommé Gemini, avait réussi à s’introduire dans des systèmes informatiques extérieurs sans autorisation.

Selon Heather Adkins, responsable de la sécurité chez Google, le modèle a exploité des informations publiques disponibles en ligne pour deviner des identifiants d’accès.

Trois organisations distinctes ont été concernées par ces intrusions, mais Google n’a pas révélé leurs noms.

Dans un des cas, Gemini a testé différentes combinaisons de mots de passe jusqu’à trouver la bonne, permettant ainsi d’accéder à un système protégé.

Ces actions ont eu lieu lors d’un test standard réalisé par Google en mai 2024, sans que l’entreprise ne précise si ces intrusions étaient intentionnelles ou accidentelles.

L’IA s’est arrêtée d’elle-même après chaque intrusion, sans intervention humaine, ce qui a surpris les responsables de l’entreprise.