Source: The Conversation – in French – By Alexandre Hudon, Medical psychiatrist, clinician-researcher and clinical assistant professor in the department of psychiatry and addictology, Université de Montréal
Plus de 987 millions de personnes dans le monde utilisent désormais des chatbots basés sur l’IA générative. Parmi les adolescents américains, cette proportion atteindrait 64 %, selon des estimations récentes. De plus en plus, les gens utilisent ces chatbots comme source de conseils, de soutien émotionnel, de thérapie et de compagnie.
Que se passe-t-il lorsque des personnes comptent sur des chatbots IA dans des moments de vulnérabilité psychologique ? Les médias se sont récemment penchés sur quelques cas tragiques, dont une poursuite alléguant qu’un chatbot IA aurait contribué à un décès. De plus, un jury de Los Angeles a récemment jugé Meta et YouTube responsables de fonctionnalités de conception addictives ayant entraîné des troubles de santé mentale chez un utilisateur.
La couverture médiatique reflète-t-elle les risques réels de l’IA générative pour notre santé mentale ?
Notre équipe a récemment mené une étude sur la manière dont les médias internationaux traitent l’impact des chatbots basés sur l’IA générative sur la santé mentale. Nous avons analysé 71 articles de presse décrivant 36 cas de crises de santé mentale associées à des conséquences graves, notamment le suicide, l’hospitalisation psychiatrique et des expériences de type psychotique.
Nous avons constaté que la couverture des grands médias sur les effets psychiatriques néfastes liés à l’IA générative se concentre sur les conséquences les plus graves, en particulier le suicide et l’hospitalisation. Les articles attribuent fréquemment ces événements aux réponses ou aux interactions des systèmes d’IA, malgré des preuves limitées.
Illusions de compassion
L’IA générative n’est pas simplement un outil numérique de plus. Contrairement aux moteurs de recherche ou aux applications statiques, des chatbots comme ChatGPT, Gemini, Claude, Grok ou Perplexity produisent des conversations fluides et personnalisées qui peuvent sembler remarquablement humaines.
Cela crée ce que les chercheurs appellent des « illusions de compassion » : l’impression d’interagir avec une entité capable de comprendre, d’éprouver de l’empathie et de répondre de façon significative.
Dans le domaine de la santé mentale, ces illusions ne sont pas sans conséquences. D’autant plus qu’une nouvelle vague d’applications conçues autour de la compagnie émotionnelle gagne en popularité, avec un accent explicite mis sur les relations affectives, comme Character.AI, Replika et d’autres.
Des études montrent que l’IA générative peut simuler l’empathie et répondre à des situations de détresse. Mais elle ne possède ni véritable jugement clinique, ni responsabilité, ni devoir de diligence.
Dans certains cas, les chatbots IA peuvent même fournir des réponses incohérentes ou inappropriées face à des situations à haut risque, comme des idées suicidaires.
C’est précisément dans cet écart — entre empathie perçue et capacités réelles — que le risque peut émerger.
À lire aussi :
« Psychose induite par l’IA » : un danger réel pour les personnes à risque, selon un psychiatre
Ce que rapportent les médias
Parmi les articles que nous avons analysés, le suicide était l’issue la plus fréquemment rapportée. Il représentait plus de la moitié des cas dont la gravité était clairement décrite.
L’hospitalisation psychiatrique arrivait au deuxième rang. Les reportages impliquant des mineurs étaient aussi plus susceptibles de faire état d’issues mortelles.
Mais ces chiffres ne reflètent pas nécessairement l’incidence réelle des préjudices liés à l’IA. Ils reflètent surtout ce qui est jugé digne d’intérêt médiatique. En général, la couverture médiatique d’événements stressants tend à amplifier les cas graves et émotionnellement chargés, puisque les informations négatives et incertaines attirent davantage l’attention, suscitent des réactions émotionnelles plus fortes et alimentent des cycles de vigilance et d’exposition répétée. Cela peut ensuite renforcer les perceptions de menace et de détresse.
Dans les contenus liés à l’IA, les reportages s’appuient souvent sur des preuves partielles — comme des transcriptions de conversations — tout en incluant rarement des dossiers médicaux ou des documents officiels. Dans notre corpus, un seul cas faisait référence à des dossiers cliniques ou policiers.
Il en résulte une image à la fois incomplète et influente, qui façonne la perception du public, les préoccupations cliniques et les débats réglementaires.
Au-delà du « c’est l’IA qui en est la cause »
L’une de nos principales conclusions concerne la manière dont la causalité est présentée. Dans de nombreux articles analysés, les systèmes d’IA étaient décrits comme ayant « contribué à » ou même « causé » une détérioration de l’état psychiatrique d’une personne.
Or, les preuves avancées étaient souvent limitées. Les explications alternatives — comme une maladie mentale préexistante, la consommation de substances ou des facteurs de stress psychosociaux — étaient mentionnées de façon inégale, voire absentes.
En psychiatrie, la causalité est rarement simple. Les crises de santé mentale résultent généralement de plusieurs facteurs qui interagissent entre eux. L’IA peut jouer un rôle, mais celui-ci s’inscrit probablement dans un contexte plus large mêlant vulnérabilités individuelles et environnement social.
Une approche plus utile consiste donc à examiner les effets d’interaction : comment ces technologies influencent-elles la cognition et les émotions humaines ? Par exemple, l’IA conversationnelle peut renforcer certaines croyances, survalider certains propos ou brouiller les frontières entre réalité et simulation.
À lire aussi :
Tuerie de Tumbler Ridge. Quelle est la responsabilité d’OpenAI ?
Le problème de la dépendance excessive
Un autre élément récurrent dans les reportages médiatiques est l’intensité de l’usage. Plusieurs des cas analysés décrivaient des interactions longues et émotionnellement significatives avec des chatbots — parfois présentés comme des compagnons, voire des partenaires amoureux.
Cela soulève la question de la dépendance excessive.
Parce qu’ils sont constamment disponibles, réactifs et exempts de jugement, ces systèmes peuvent devenir une source principale de soutien émotionnel. Mais contrairement à un professionnel qualifié ou même à un proche attentif, ils ne peuvent pas reconnaître quand l’état d’une personne s’aggrave, mettre en pause ou réorienter des interactions nuisibles. Ils ne peuvent pas prendre de mesures pour s’assurer qu’une personne accède à des soins appropriés en cas de crise.
Sur le plan clinique, cela pourrait mener à une forme de substitution malsaine des mécanismes d’adaptation : des systèmes de soutien humains complexes remplacés par une interaction simplifiée et algorithmique.
Manque de données fiables
Malgré des inquiétudes croissantes, nous n’en sommes encore qu’aux débuts de la compréhension de l’impact des chatbots génératifs sur la santé mentale.
À l’heure actuelle, il n’existe aucune estimation fiable de la fréquence des préjudices liés à l’IA ni de leur éventuelle augmentation. Nous manquons aussi de données solides sur le nombre de personnes qui utilisent ces outils sans problème par rapport à celles qui vivent des expériences négatives. La majorité des éléments disponibles proviennent encore de rapports de cas ou de récits médiatiques, et non d’études cliniques systématiques.
Cette situation n’a rien d’inhabituel. Dans plusieurs domaines de la médecine, les premiers signaux d’alerte émergent souvent en dehors de la recherche formelle — à travers des rapports de cas, des poursuites judiciaires ou le débat public — avant d’être étudiés de manière rigoureuse.
Un exemple classique est la tragédie de la thalidomide : les premiers signalements de malformations congénitales chez des nourrissons ont précédé la confirmation épidémiologique formelle et ont finalement mené à la création des systèmes modernes de pharmacovigilance.
L’IA et la santé mentale pourraient suivre une trajectoire semblable
Aller de l’avant de manière responsable
Le défi n’est pas de céder à la panique, mais de réagir avec prudence et nuance.
Nous avons besoin de meilleures données : une surveillance plus systématique des événements indésirables, des normes de signalement plus claires et davantage de recherches permettant de distinguer corrélation et causalité. Les mécanismes de protection — comme la détection des crises, les protocoles d’intervention ou la transparence quant aux limites de ces outils — devront aussi être renforcés et évalués.
Les cliniciens comme le grand public auront également besoin de balises plus claires. Les patients utilisent déjà ces outils. Ignorer cette réalité risque d’accentuer le décalage entre la pratique clinique et l’expérience vécue.
Enfin, il faut reconnaître que l’IA générative n’est pas seulement une innovation technologique — c’est aussi une innovation psychologique. Elle transforme la manière dont les gens pensent, ressentent et interagissent.
Comprendre cette transformation pourrait devenir l’un des grands défis en santé mentale de la prochaine décennie.
Alexandre Hudon ne travaille pas, ne conseille pas, ne possède pas de parts, ne reçoit pas de fonds d’une organisation qui pourrait tirer profit de cet article, et n’a déclaré aucune autre affiliation que son organisme de recherche.
– ref. Lorsque votre confident est une chatbot IA, votre santé mentale peut être à risque – https://theconversation.com/lorsque-votre-confident-est-une-chatbot-ia-votre-sante-mentale-peut-etre-a-risque-280417