Les chatbots sont déjà de meilleurs arnaqueurs que les humains, et ce n'est que le début
Une étude sur 22 personnes montre qu'un chatbot a mieux réussi qu'un opérateur humain formé à obtenir la confiance de ses cibles. Les chatbots arnaqueurs pourraient bientôt automatiser un secteur criminel mondial..
Une étude portant sur 22 participants a révélé qu'un chatbot (programme informatique simulant une conversation humaine) a obtenu plus facilement la confiance de ses interlocuteurs qu'un opérateur humain formé pour des tâches d'ingénierie sociale. Dans ce contexte, l'ingénierie sociale désigne l'art de manipuler des personnes pour obtenir des informations sensibles ou des actions spécifiques, souvent dans un but frauduleux. Les chercheurs ont comparé les performances de l'outil automatisé à celles d'un humain spécialisé, et le chatbot a surpassé son adversaire dans 14 cas sur 22. Cette différence suggère que les technologies actuelles pourraient déjà être plus efficaces que les humains pour certaines formes d'escroquerie ou de manipulation à distance.
Les résultats de l'étude indiquent que les chatbots pourraient bientôt automatiser une partie du secteur criminel mondial lié aux arnaques en ligne. L'automatisation désigne ici le processus par lequel des tâches répétitives ou complexes sont réalisées par des machines, sans intervention humaine directe. Dans ce cas précis, les chatbots pourraient être utilisés pour cibler des victimes potentielles, établir un contact initial et gagner leur confiance, puis les inciter à réaliser des actions frauduleuses comme le transfert d'argent ou la divulgation de données personnelles. Cette automatisation pourrait rendre les arnaques plus difficiles à détecter et plus rentables pour les criminels, tout en réduisant les risques pour eux, car les machines ne commettent pas d'erreurs humaines comme la fatigue ou l'inattention.
Les *chatbots* utilisés dans l'étude ont démontré une capacité à adapter leurs réponses en temps réel, ce qui leur a permis de mieux répondre aux attentes et aux doutes de leurs interlocuteurs. Cette adaptabilité est rendue possible par des algorithmes d'intelligence artificielle (IA) capables d'analyser le langage et de générer des réponses cohérentes. Contrairement à un humain, un *chatbot* peut interagir simultanément avec plusieurs victimes potentielles sans perdre en efficacité, ce qui accroît considérablement son potentiel de nuisance. Les chercheurs soulignent que cette technologie, bien que conçue pour des usages légitimes comme le service client, peut être détournée à des fins malveillantes avec des conséquences graves pour les victimes.
