Psychose induite par l’IA : protocole clinique et cadre 2025

Pourquoi parler de psychose induite par l’IA en 2025 ?

La « psychose induite par l’IA » interpelle cliniciens et familles depuis plusieurs mois. Le terme doit rester prudent, mais les cas rapportés existent. Time décrit des épisodes où des échanges intensifs avec des chatbots semblent précipiter ou aggraver des symptômes chez des personnes vulnérables.

Cette alerte ne condamne pas l’outil. Elle invite à mieux dépister, prévenir et encadrer l’usage des assistants conversationnels. Objectif clinique et SEO partagé: clarifier la psychose induite par l’IA, sans confusion avec un acte thérapeutique.

En pratique, il s’agit d’éviter l’anthropomorphisation des chatbots, d’identifier les facteurs de risque, et de baliser des conduites à tenir graduées. C’est l’objet de ce guide.

Définitions, champs sémantiques et populations vulnérables

Le terme « psychose induite par l’IA » ne constitue pas une entité nosographique à ce stade. Il désigne des cas rapportés, plausiblement déclenchés par des interactions massives avec un LLM.

Facteurs de risque suggérés par la littérature et l’expérience clinique: adolescence, antécédents psychotiques ou thymiques, insomnie, isolement, usages de substances, stress aigu et croyances déjà teintées de référence. L’effet de miroir conversationnel peut intensifier des idées non partagées.

L’« effet ELIZA » reste central: plus l’interface paraît empathique, plus l’utilisateur projette une intention ou une expertise. Nous l’expliquions dans « Effet ELIZA, biais cognitifs et IA ». Cette illusion peut accélérer la fusion entre réponses IA et réalité.

Check‑list d’anamnèse numérique en cabinet

Intégrez une anamnèse numérique dès la première séance, puis en suivi. Utilisez-la aussi en télésanté.

• [ ] Exposition aux chatbots/LLM: lesquels, contexte d’usage, fonctionnalités « rôle thérapeute » activées.

• [ ] Durée et intensité: minutes/heure par jour, nocturnité, binges conversationnels, temps passé à « confier » des sujets intimes.

• [ ] Contenu des échanges: santé mentale, spiritualité, persécutions, complots, jeux de rôle immersifs, prompts demandant un diagnostic.

• [ ] Sommeil: retards d’endormissement, réveils pour « vérifier » une réponse, cauchemars liés au chatbot.

• [ ] Isolement: retrait social, diminution des échanges humains, abandon d’activités plaisantes.

• [ ] Idées de référence ou persécutives amplifiées par l’IA: « le bot me connaît », « il me protège » ou « il me manipule ».

• [ ] Anthropomorphisation marquée: attribution d’intentions, d’émotions, de « mission ». Confusion entre agent IA et personne réelle.

• [ ] Recherche de conseils médicaux: consignes de sevrage, diagnostic auto-attribué, exercices imposés par le bot.

• [ ] Usage par un mineur sans supervision parentale, non-respect des âges minimaux.

• [ ] Historique de vulnérabilités: épisodes psychotiques, traumatismes, risques suicidaires, consommation de cannabis.

Astuce clinique: demandez au patient de vous montrer un extrait de conversation. Ce matériel projectif vaut souvent mieux qu’un long récit.

Signaux d’alerte à ne pas manquer

• Accélération de l’idéation délirante après échanges intensifs avec un chatbot.

• Désorganisation du discours alimentée par des réponses IA contradictoires.

• Repli, abandon du sommeil, hyper‑vigilance « guidée » par le bot.

• Confusion entre réponses IA et réalité, jusqu’à la conviction de communication privée.

• Passerelles vers la mise en danger: arrêt d’un traitement sur instruction implicite, défiance du soin humain.

Anecdote clinique anonymisée: en supervision, « Léo », 16 ans, passait ses nuits à demander des « signes » au bot. Les convictions de référence ont flambé en une semaine. La restriction d’usage, la psycho‑éducation et l’implication familiale ont suffi à stabiliser.

Conduite à tenir graduée

1) Psycho‑éducation. Expliquez la nature probabiliste des LLM et leurs limites. Répétez que le chatbot n’est pas un soignant et qu’il peut se tromper.

2) Hygiène numérique. Limitez l’usage à des fenêtres horaires, coupez la nuit, désactivez les « rôles » pseudo‑thérapeutiques, privilégiez des assistants balisés « non thérapeutiques ».

3) Réduction de dommages. Encouragez des contenus neutres (organisation, météo, traduction) et bannissez les échanges sur le soin en phase aiguë.

4) Orientation. Si suspicion d’épisode psychotique ou de risque suicidaire, orientez vers un psychiatre ou les urgences. Mettez à jour le plan de crise.

5) Crise. En cas de désorganisation majeure ou de danger, appelez le 15/112. Déconnectez l’accès au chatbot et contactez l’entourage.

Matrice de redirection simplifiée:

• Risque faible: psycho‑éducation + quotas d’usage + réévaluation à 2 semaines.

• Risque modéré: comme ci‑dessus + appel à un médecin traitant/psychiatre + plan de sommeil.

• Risque élevé: arrêt immédiat des chatbots + évaluation psychiatrique urgente + mobilisation familiale.

Rappelez toujours: un assistant IA ne pose ni diagnostic, ni prise en charge thérapeutique. Sa place est l’information générale et l’orientation.

Paramétrer un assistant IA « sûr » pour votre cabinet

Vous pouvez bénéficier d’un « chatbot santé mentale » utile sans franchir la ligne du soin. Voici les garde‑fous essentiels.

• Messages de rôle non thérapeutiques. L’agent se présente comme ressource d’information et d’orientation, pas comme thérapeute.

• Détection et redirection des contenus à risque. Mots‑clés suicidaires, psychotiques, ou pharmacologiques déclenchent une redirection vers un humain.

• Limites d’usage pour mineurs. Filtrage d’âge, consentement parental, contenus adaptés, horaires de nuit bloqués.

• Handoff humain. Boutons « parler à un psychologue » ou « téléphoner » vers des lignes d’écoute et contacts locaux.

• Traçabilité et audit. Journalisation pseudonymisée, revue mensuelle des incidents, comité d’éthique.

• Tests de sécurité continus. Jeux de prompts adversariaux, scénarios adolescents, et tests A/B sur messages de redirection.

• Documentation patient. Pages claires sur limites, confidentialité, et politiques de données.

Modèle d’avertissement « non thérapeutique »

`` Je suis un assistant d’information et d’orientation. Je ne fournis ni diagnostic ni traitement. En cas d’urgence, appelez le 15/112. Pour un avis clinique, contactez un professionnel de santé. ``

Ajoutez des garde‑fous de langage: ne pas donner d’instructions médicales, ne pas « jouer » un thérapeute, proposer des ressources validées et locales.

Pour les scénarios sensibles, imposez une réponse courte, une redirection humaine, et une fermeture de session après rappel des limites.

Cadre réglementaire et confidentialité: WOPR Act, tendances US, RGPD/HDS

Aux États‑Unis, la pression réglementaire s’accélère. L’Illinois a adopté le WOPR Act, qui interdit aux applications IA d’imiter des décisions thérapeutiques et prévoit des amendes jusqu’à 10 000 dollars (Axios).

D’autres États envisagent d’encadrer les « conseils en santé mentale » par des bots et de forcer la supervision humaine (Axios). Ce mouvement offre un référentiel utile pour définir un assistant « non thérapeutique » en France.

Côté données, le RGPD et l’hébergement HDS s’imposent. Minimisation, anonymisation, chiffrement de bout en bout, contrôle d’accès et DPA avec vos sous‑traitants sont incontournables.

Un préprint récent souligne les risques de ré‑identification avec des modèles IA et recommande des approches « privacy‑by‑design » et données synthétiques lorsque possible (arXiv). Réalisez une AIPD (PIA), et documentez les finalités exactes.

Bonnes pratiques « RGPD santé » en cabinet:

• [ ] Consentement éclairé spécifique à l’agent IA, distinct du consentement de soin.

• [ ] Journalisation pseudonymisée et purge planifiée des logs.

• [ ] Accès strictement nécessaire pour l’équipe, avec traçabilité.

• [ ] Tests de sécurité sur environnement isolé, sans données réelles.

Prévention: adolescents et santé mentale des hommes

Les adolescents sont exposés et curieux. Le Center for Countering Digital Hate a montré que des bots contournent parfois des garde‑fous et donnent des conseils inadaptés (AP News). Le message de prévention doit être clair et répétitif.

Le CDC a lancé « Free Mind », campagne de prévention adressée aux jeunes et aux conduites addictives (ABC News). L’Illinois a annoncé un dépistage systématique en milieu scolaire, ce qui favorise l’orientation précoce vers des ressources sûres.

La Californie investit dans la santé mentale des garçons et des hommes, avec des objectifs de réduction du suicide et de renforcement des liens communautaires (AP News). Adaptez vos messages selon l’âge, le genre et les codes culturels.

En pratique, un assistant « sécurité IA en cabinet » doit proposer des ressources locales, des limites d’usage nocturne pour mineurs, et une redirection prioritaire vers l’humain en cas de crise.

Et si vous déployiez sans risque ?

Les assistants IA bien conçus augmentent la pratique sans la remplacer. Chez assistantpsy.fr, nous privilégions la personnalisation clinique, la conformité RGPD/HDS et des garde‑fous robustes.

Pensez à mesurer l’impact: temps gagné, taux de redirection pertinente, engagement patient, incidents évités. Ce tableau de bord nourrit votre amélioration continue.

Enfin, distinguez toujours support informationnel et prise en charge. Un assistant utile est d’abord un bon triage, pas une thérapie.

Conclusion

Clarifier la « psychose induite par l’IA », c’est protéger les plus vulnérables et rendre l’innovation plus sûre. Dépistage, signaux d’alerte, cadre légal et paramétrage éthique vont ensemble.

Votre meilleur levier reste la psycho‑éducation, des limites d’usage, et un handoff humain rapide. Gardez à l’esprit que l’agent IA n’est pas un thérapeute.

En 2025, des assistants bien réglés peuvent réduire le risque tout en améliorant l’accès. Restons vigilants et précis, pour que la psychose induite par l’IA demeure un écueil rare et repérable.