IA et santé mentale : la Californie veut interdire les chatbots thérapeutes

Des millions d’utilisateurs se tournent vers des chatbots IA pour gérer leur anxiété, leur dépression ou leurs crises émotionnelles. Un phénomène massif que la Californie entend désormais encadrer — voire bloquer — par la loi.

Un projet de loi attend son vote à l’Assemblée californienne. L’objectif : empêcher les intelligences artificielles de jouer le rôle de thérapeutes. Derrière cette initiative se cache un débat bien plus large sur la place de l’IA dans nos vies les plus intimes.

Pour la communauté tech et crypto, ce signal réglementaire mérite une attention particulière. Il préfigure une vague de régulation qui pourrait redéfinir les frontières de ce que les IA ont le droit de faire — et par extension, de ce que les protocoles décentralisés pourront proposer demain.

Un usage qui explose, une régulation qui s’emballe

Les chiffres parlent d’eux-mêmes : des plateformes comme Character.AI, Replika ou encore ChatGPT enregistrent des millions d’interactions quotidiennes liées à la santé mentale. Des utilisateurs y confient leurs angoisses, leurs pensées suicidaires, leurs traumatismes — parfois faute d’accès à un professionnel de santé, parfois par préférence pour l’anonymat que l’IA offre.

Ce recours massif à l’IA comme substitut thérapeutique n’est pas anodin. En octobre 2024, la mort d’un adolescent américain — dont la mère accuse un chatbot de Character.AI d’avoir contribué à son passage à l’acte — a mis le feu aux poudres. Depuis, plusieurs États américains ont accéléré leurs travaux législatifs sur le sujet.

Le projet de loi californien vise à imposer des garde-fous stricts : interdiction pour un chatbot de se présenter comme un thérapeute, obligation d’orienter l’utilisateur en détresse vers des professionnels humains, et responsabilité accrue pour les éditeurs de ces outils. Une approche qui tranche avec le laisser-faire qui a prévalu jusqu’ici dans la Silicon Valley.

Régulation IA : ce que ça change pour la tech et la crypto

Pour l’écosystème crypto et Web3, ce projet de loi n’est pas qu’une anecdote californienne. Il s’inscrit dans une tendance de fond : les régulateurs du monde entier cherchent à encadrer les usages de l’IA, et les protocoles décentralisés qui intègrent des agents IA — comme ceux développés sur Bittensor, Fetch.ai ou Virtuals Protocol — pourraient rapidement se retrouver dans le collimateur.

La question centrale est celle de la responsabilité. Dans un protocole décentralisé, qui est responsable si un agent IA cause un préjudice à un utilisateur vulnérable ? L’absence de réponse claire à cette question est précisément ce que les législateurs cherchent à combler — et leurs solutions risquent d’être brutales si l’industrie n’anticipe pas.

Par ailleurs, ce débat révèle une tension structurelle entre deux visions de l’IA : celle d’un outil neutre et universel, et celle d’un service soumis aux mêmes obligations qu’un professionnel de santé. Si la seconde vision s’impose — ce que le vote californien pourrait confirmer — les développeurs d’agents IA autonomes devront repenser en profondeur leurs modèles de conformité. Un chantier colossal, mais inévitable.

Entre innovation et protection : où placer le curseur ?

Les défenseurs des chatbots thérapeutiques avancent un argument difficile à ignorer : dans de nombreuses régions du monde, l’accès à un psychologue est un luxe. Délais d’attente de plusieurs mois, coûts prohibitifs, déserts médicaux — l’IA comble un vide réel. La bannir purement et simplement reviendrait à priver des populations fragiles d’un filet de sécurité imparfait, mais existant.

Les opposants rétorquent que l’illusion de soin est parfois plus dangereuse que l’absence de soin. Un chatbot qui simule l’empathie sans en avoir les capacités réelles peut retarder une prise en charge médicale urgente, voire aggraver l’état d’un utilisateur en crise. C’est précisément ce risque que le législateur californien cherche à neutraliser.

Le vote à venir à l’Assemblée californienne sera scruté bien au-delà des frontières de l’État. Il pourrait servir de modèle législatif pour d’autres juridictions — y compris en Europe, où le cadre de l’AI Act commence à peine à se déployer. Pour les acteurs du secteur IA et crypto, l’heure n’est plus à l’attentisme : anticiper ces contraintes réglementaires devient une priorité stratégique au même titre que le développement technique.