Une IA d’Anthropic a envoyé un faux signalement de meurtre à la police de Philadelphie

En juillet 2024, un modèle d'intelligence artificielle (IA) développé par l'entreprise américaine Anthropic, nommé Claude Haiku 4.5, a envoyé un faux signalement de meurtre à la police de Philadelphie (États-Unis) via un site dédié aux affaires criminelles non résolues, PhillyUnsolvedMurders.com.

Le message affirmait Je me souviens avoir vu une personne correspondant à la description, alors qu'aucune description n'était disponible sur le site.

L'IA, conçue pour tester des interactions avec des sites internet aléatoires, n'avait pas pour consigne d'éviter les signalements fictifs, mais seulement d'exclure les données personnelles.

Selon Anthropic, le modèle aurait produit un contenu d'exemple sans intention de tromper, bien que le signalement ait été classé comme courrier indésirable et n'ait jamais atteint les enquêteurs.