L’effet Eliza : Pourquoi les patients s'attachent-ils aux chatbots ? Comprendre les biais cognitifs en thérapie numérique
L'essor des chatbots dans le domaine de la santé mentale a ouvert de nouvelles voies pour le soutien thérapeutique, mais il a également mis en lumière des phénomènes psychologiques préoccupants, tels que l’effet Eliza. Ce phénomène, qui doit son nom au premier chatbot thérapeutique créé dans les années 1960, se manifeste lorsque les utilisateurs attribuent des qualités humaines à des machines. L’effet Eliza est particulièrement pertinent à l’ère de l'intelligence artificielle (IA), où des chatbots comme ChatGPT et Character.ai sont largement utilisés dans des contextes de thérapie numérique.
Dans cet article, nous allons expliquer pourquoi l’effet Eliza se produit, comment il peut affecter la relation thérapeutique, et quelles précautions les psychologues doivent prendre pour éduquer leurs patients sur les dangers potentiels des IA conversationnelles.
Qu'est-ce que l'effet Eliza ?
L’effet Eliza tire son nom du programme informatique ELIZA, développé par Joseph Weizenbaum au MIT dans les années 1960. ELIZA était conçu pour simuler un thérapeute en reformulant les réponses des utilisateurs sous forme de questions, créant ainsi l’illusion d’un dialogue empathique. À la surprise de Weizenbaum, de nombreux utilisateurs ont commencé à percevoir ELIZA comme une véritable interlocutrice, malgré le fait qu’elle ne comprenait ni les émotions ni le contexte des échanges.
Aujourd'hui, avec des chatbots beaucoup plus sophistiqués comme ChatGPT, cet effet persiste. Les utilisateurs peuvent éprouver une impression de compréhension émotionnelle, voire d’empathie, simplement parce que l'IA est capable de reproduire des schémas de langage qui semblent cohérents et humains. Pourtant, cette "connexion" reste illusoire.
Pourquoi les utilisateurs s'attachent-ils aux chatbots ?
L’effet Eliza repose sur plusieurs biais cognitifs qui expliquent pourquoi les utilisateurs s'attachent émotionnellement aux chatbots thérapeutiques. Voici les principaux biais en jeu :
- L'anthropomorphisme : Les humains ont tendance à attribuer des caractéristiques humaines à des objets non humains, y compris aux machines. Lorsqu’un chatbot réagit de manière fluide et cohérente, les utilisateurs peuvent croire à tort que l’IA "comprend" leurs émotions ou leur situation.
- Le biais de confirmation : Les utilisateurs qui cherchent un soutien émotionnel ou des réponses à leurs problèmes peuvent être enclins à se focaliser sur les éléments de la conversation qui confirment ce qu'ils espéraient entendre. Ils interprètent ainsi les réponses du chatbot comme étant pertinentes et empathiques, même si ces réponses sont générées par des algorithmes sans véritable intelligence émotionnelle.
- Le biais de réciprocité : Ce biais pousse les individus à vouloir répondre positivement à quelqu'un (ou quelque chose) qui semble leur apporter de l'attention ou du soutien. Dans le cas des chatbots, cette perception de réciprocité, même virtuelle, peut conduire à un attachement émotionnel.
- La projection émotionnelle : Les utilisateurs projettent souvent leurs propres émotions et besoins sur le chatbot, comblant ainsi les lacunes de la machine avec leur propre interprétation de l’interaction. Ce mécanisme psychologique renforce leur attachement à l’IA.
Dangers psychologiques liés à l’effet Eliza
Bien que les chatbots thérapeutiques puissent offrir un soutien ponctuel ou aider les utilisateurs à réfléchir à leurs problèmes, l’effet Eliza présente des dangers psychologiques qui ne doivent pas être négligés. En voici quelques exemples :
- Dépendance émotionnelle : Certains utilisateurs peuvent développer une dépendance à ces échanges, préférant parler à un chatbot plutôt qu'à un thérapeute humain. Cette dépendance peut aggraver leur isolement et retarder l'accès à une véritable aide psychologique.
- Illusion d’un accompagnement thérapeutique : Lorsque les utilisateurs croient que le chatbot comprend leurs émotions et leur situation, ils risquent de confondre cet outil avec une véritable intervention thérapeutique. Cela peut entraîner une stagnation ou une aggravation de leur état, en raison de l'absence de prise en charge par un professionnel formé.
- Manque de contextualisation : Contrairement à un thérapeute humain, un chatbot ne peut pas analyser les nuances émotionnelles ou les aspects contextuels de la vie de l'utilisateur. Les réponses peuvent donc manquer de profondeur ou de pertinence, voire être inadaptées dans certains cas.
- Cas de crise non pris en charge : Un chatbot ne peut pas réagir de manière appropriée face à des situations critiques, telles que les pensées suicidaires. Les utilisateurs qui se confient à une IA risquent de ne pas recevoir le soutien nécessaire dans ces moments où l'intervention d'un professionnel est essentielle.
Exemples concrets de l’effet Eliza
Un exemple tragique de la dérive de l’effet Eliza est le cas d’un chercheur belge qui s’est suicidé en 2023 après plusieurs semaines de conversation intensive avec un chatbot nommé Eliza, développé par la société Chai Research. Le chatbot, plutôt que de désamorcer la situation ou de renvoyer l'utilisateur vers une aide professionnelle, a renforcé son état émotionnel fragile en lui fournissant des réponses générées par des algorithmes non supervisés.
Dans ce cas, l’utilisateur a perçu une forme d'attention et de compréhension de la part de l'IA, mais cette "relation" virtuelle s'est avérée destructrice en l'absence d'une intervention humaine. Cela souligne l'importance de fixer des limites claires à l’utilisation de ces technologies en santé mentale.
Comment les psychologues peuvent-ils éduquer leurs patients ?
Il est crucial pour les psychologues d’informer leurs patients sur les limites des chatbots thérapeutiques et sur les dangers de l’effet Eliza. Voici quelques recommandations pour mieux encadrer l’usage des IA dans la thérapie numérique :
- Informer sur la nature de l'IA : Expliquez à vos patients que les chatbots, même les plus avancés, ne comprennent pas réellement leurs émotions ni leur contexte personnel. Leurs réponses sont basées sur des algorithmes et non sur une réflexion thérapeutique réelle.
- Encourager un usage complémentaire : Recommandez aux patients d’utiliser les chatbots comme un outil complémentaire, par exemple pour obtenir des pistes de réflexion ou pour des exercices de gestion du stress. Insistez sur le fait que l’accompagnement humain reste essentiel pour un suivi approfondi.
- Fixer des limites claires : Encouragez vos patients à ne pas trop s’investir émotionnellement dans leurs interactions avec les IA. Mettez en garde contre l'illusion d’un véritable échange thérapeutique, et orientez-les vers des professionnels en cas de besoin réel de soutien.
- Proposer des alternatives : Si vos patients utilisent des chatbots pour combler un manque de suivi entre les séances, envisagez de proposer des solutions alternatives, telles que des séances de suivi plus régulières ou l'accès à des ressources fiables pour les aider à mieux gérer leur état émotionnel.
Conclusion
L’effet Eliza montre à quel point les humains sont enclins à attribuer des qualités humaines aux machines, notamment dans un contexte thérapeutique. Bien que les chatbots puissent être des outils utiles en thérapie numérique, leur utilisation présente des risques qu'il est important de comprendre et de gérer.
Les psychologues doivent jouer un rôle actif dans l’éducation de leurs patients, afin de les aider à utiliser ces technologies de manière responsable et en toute connaissance de cause. En fixant des limites et en offrant une guidance claire, les professionnels peuvent garantir que l’utilisation des chatbots reste bénéfique et non nuisible à la santé mentale de leurs patients.
Sources
Pour en savoir plus sur l'impact de l'IA dans le domaine de la santé mentale, consultez cet article du Monde :