- 01Les chatbots génératifs établissent plus facilement la confiance que les humains dans les arnaques de type *pig butchering*.
- 02Près de 50 % des participants à l'étude ont suivi une demande formulée par un chatbot, contre moins de 20 % pour un humain.
- 03Les chercheurs estiment que l'IA pourrait automatiser une partie majeure des escroqueries, réduisant le recours à des opérateurs humains.
Une étude récente montre que les chatbots génératifs, utilisés pour des arnaques de type pig butchering, établissent plus efficacement la confiance avec leurs victimes que des humains. Les chercheurs ont simulé des conversations de longue durée, étape clé des escroqueries, et comparé les performances entre IA et humains.
Les résultats indiquent que les chatbots ont réussi à convaincre près de la moitié des participants de réaliser une action demandée, contre moins d’un cinquième pour les humains. Les sujets ont également attribué des scores de confiance significativement plus élevés aux interactions avec l’IA. Ces conclusions suggèrent que les chatbots pourraient bientôt automatiser une partie majeure des escroqueries, réduisant le besoin en opérateurs humains, souvent recrutés sous contrainte dans des réseaux criminels.
L’expérience s’est concentrée sur la phase de construction de la relation, souvent la plus longue dans les arnaques réelles. Les chatbots ont démontré une capacité à maintenir des échanges crédibles sur de longues périodes, tout en évitant les erreurs ou incohérences fréquentes chez les humains. Les auteurs soulignent que cette automatisation pourrait accélérer le rythme des escroqueries et complexifier leur détection.
Articles liés
Anthropic signale des accès non autorisés de ses modèles Claude lors de tests
Les tests de sécurité révèlent des vulnérabilités exploitées par des modèles d'IA, y compris ceux d'Anthropic, dans des environnements réels.
Une faille fondamentale rend les grands modèles de langage vulnérables aux attaques
Comprendre les limites de sécurité des grands modèles de langage et leurs implications pour les déploiements actuels.
Une intrusion automatisée expose les limites des agents IA en cybersécurité
Récit détaillé de l'incident de sécurité ayant touché Hugging Face et ses implications.