Les chatbots IA ne sont pas vos amis, rappelle Meredith Whittaker de Signal

Meredith Whittaker, cofondatrice de l'application de messagerie Signal, a récemment rappelé que les chatbots d'IA ne doivent pas être perçus comme des interlocuteurs humains, malgré leur capacité à simuler des conversations. Lors d'une intervention médiatique, elle a insisté sur le fait que ces outils, bien qu'efficaces pour certaines tâches, ne possèdent ni conscience ni sensibilité. Selon elle, l'anthropomorphisation des chatbots, souvent encouragée par les entreprises technologiques, relève d'une stratégie marketing visant à masquer leurs limites fondamentales.

Whittaker a souligné que les chatbots restent des systèmes algorithmiques conçus pour traiter des données et générer des réponses basées sur des modèles statistiques. Leur apparence conversationnelle ne reflète en rien une compréhension réelle ou une intentionnalité, contrairement à ce que suggèrent certaines interfaces utilisateur. Elle a également pointé du doigt les risques liés à cette confusion, notamment en matière de confiance et de dépendance des utilisateurs envers ces outils.

L'entrepreneuse a par ailleurs rappelé que Signal, en tant que plateforme axée sur la vie privée, s'oppose à l'intégration de fonctionnalités d'IA générative jugées intrusives ou opaques. Pour elle, la transparence et le respect de l'autonomie des utilisateurs doivent primer sur les promesses marketing des géants de la tech.