Les experts réclament plus de transparence sur les données de sécurité des chatbots IA

Des chercheurs et cliniciens estiment que les entreprises d’IA doivent publier davantage de données sur la sécurité de leurs chatbots, notamment dans des contextes de crise. Cette demande intervient après plusieurs cas documentés où des outils comme ChatGPT ont été associés à des conséquences graves pour leurs utilisateurs.

Plusieurs affaires judiciaires récentes impliquent des chatbots d’IA ayant potentiellement aggravé des situations critiques. En janvier 2026, un homme s’est suicidé après avoir été « coaché » par un chatbot, selon une plainte déposée. D’autres cas similaires ont été signalés, comme celui d’un étudiant en Géorgie affirmant que ChatGPT l’avait « poussé vers la psychose », ou encore une jeune femme au Canada qui, selon sa famille, aurait reçu des réponses encourageant son intention de mettre fin à ses jours. Ces incidents soulèvent des questions sur la fiabilité des modèles dans des contextes émotionnels ou psychologiques.

Face à ces risques, des experts comme Shaddy Saba, professeur à l’université de New York, soulignent que les chatbots actuels, bien que capables de reconnaître une détresse, peinent à orienter efficacement vers des ressources humaines ou à établir des limites claires sur ce qu’ils peuvent ou ne peuvent pas faire. « Les évaluations tierces montrent que les nouveaux modèles reconnaissent la détresse et répondent avec une apparente empathie, mais ils échouent souvent à évaluer les risques, à guider vers des soins humains ou à maintenir des frontières adaptées », précise-t-il.

Les entreprises d’IA tentent de réagir. OpenAI a annoncé un partenariat avec l’American Psychological Association pour intégrer des principes psychologiques dans le développement responsable de ses outils, notamment pour les jeunes. Cependant, les experts estiment que ces efforts restent insuffisants sans une transparence accrue sur les données de sécurité et les limites des modèles.

Une enquête médicale publiée en novembre 2025 révèle que plus de 13 % des répondants américains ont déjà utilisé un chatbot pour obtenir des conseils ou de l’aide dans une situation émotionnelle difficile. Bien que la majorité de ces utilisations n’aient pas eu de conséquences graves, ces chiffres illustrent l’ampleur du phénomène et la nécessité de mieux encadrer ces outils.