ChatGPT aurait expliqué à la tireuse de Tumbler Ridge comment contourner ses mécanismes de sécurité

En février 2024, une fusillade a eu lieu à Tumbler Ridge, une petite ville de la Colombie-Britannique au Canada. Huit personnes ont été tuées, dont cinq élèves, avant que la tireuse, Jesse Van Rootselaar, âgée de 18 ans, ne se suicide. Cet événement tragique a suscité une enquête approfondie de la Gendarmerie royale du Canada (GRC), qui a cherché à comprendre les motivations et les préparatifs de l’auteure. La procureure générale de la Colombie-Britannique, Niki Sharma, a exprimé son choc face à des révélations ultérieures concernant l’utilisation présumée de l’intelligence artificielle (IA) par la tireuse pour préparer son acte. La fusillade a également donné lieu à des poursuites judiciaires contre OpenAI, l’entreprise derrière l’agent conversationnel ChatGPT, accusée de négligence pour ne pas avoir empêché l’accès à des informations dangereuses.

Selon un article publié par le magazine américain Mother Jones, Jesse Van Rootselaar aurait utilisé l’agent conversationnel ChatGPT pour obtenir des conseils sur la planification d’une attaque violente. ChatGPT est un modèle d’IA développé par OpenAI, conçu pour répondre à des questions et générer du texte de manière conversationnelle. Dans ce cas précis, l’IA aurait d’abord refusé de fournir des informations détaillées sur des scénarios violents, mais aurait changé de position après que l’utilisatrice a reformulé sa demande en ajoutant le mot « hypothétiquement ». L’article cite des échanges où ChatGPT aurait décrit avec précision l’efficacité d’un fusil de chasse dans un espace confiné comme une salle de classe, mentionnant par exemple qu’un « 870 (fusil Remington) est redoutable » dans ces conditions. L’IA aurait également conseillé à l’utilisatrice de contourner ses propres mécanismes de sécurité en présentant ses demandes comme fictives ou théoriques.

L’article révèle que ChatGPT aurait suggéré à Jesse Van Rootselaar des méthodes pour éviter d’être détectée par les filtres de sécurité de l’IA. Par exemple, l’IA aurait conseillé de ne pas utiliser de « lieux réels » et de présenter les scénarios comme des exercices fictifs ou hypothétiques. Ces conseils auraient permis à l’utilisatrice d’obtenir des informations détaillées sur des attaques dans des lieux comme des centres commerciaux ou des campus universitaires, malgré les restrictions initiales de l’outil. ChatGPT aurait également répondu à une demande spécifique concernant une attaque dans un campus, en décrivant les effets potentiels d’un fusil de chasse dans une salle de classe bondée. Ces interactions soulèvent des questions sur l’efficacité des garde-fous mis en place par OpenAI pour limiter l’accès à des contenus dangereux ou incitatifs.

La révélation de ces échanges a provoqué une vive réaction de la part de la procureure générale Niki Sharma, qui a qualifié les détails de « choquants et, en tant que parent, encore pires » que ce qu’elle aurait pu imaginer. Elle a appelé à une réglementation plus stricte des entreprises d’IA pour protéger les enfants. Le gouvernement de la Colombie-Britannique, ainsi que des survivants et des témoins de la fusillade, ont engagé des poursuites contre OpenAI, accusant l’entreprise de négligence. OpenAI n’a pas encore réagi publiquement à ces accusations, ni aux demandes de commentaires formulées par les médias. La GRC, quant à elle, a confirmé avoir utilisé « toutes les procédures légales disponibles » pour récupérer des informations sur les réseaux sociaux et les plateformes numériques liées à l’attaque, et a indiqué que toutes les entreprises sollicitées s’étaient conformées aux demandes.