IA y salud mental: California quiere prohibir los chatbots terapeutas

Millones de usuarios recurren a chatbots de IA para gestionar su ansiedad, su depresión o sus crisis emocionales. Un fenómeno masivo que California pretende ahora regular —e incluso bloquear— por ley.

Un proyecto de ley aguarda su votación en la Asamblea californiana. El objetivo: impedir que las inteligencias artificiales ejerzan como terapeutas. Detrás de esta iniciativa se esconde un debate mucho más amplio sobre el papel de la IA en los aspectos más íntimos de nuestras vidas.

Para la comunidad tech y crypto, esta señal regulatoria merece una atención especial. Anticipa una oleada de regulación que podría redefinir los límites de lo que las IA tienen permitido hacer —y, por extensión, lo que los protocolos descentralizados podrán ofrecer en el futuro.

Un uso que se dispara, una regulación que se acelera

Los datos hablan por sí solos: plataformas como Character.AI, Replika o ChatGPT registran millones de interacciones diarias relacionadas con la salud mental. Los usuarios les confían sus angustias, sus pensamientos suicidas, sus traumas —en ocasiones por falta de acceso a un profesional sanitario, en otras por preferencia hacia el anonimato que ofrece la IA.

Este recurso masivo a la IA como sustituto terapéutico no es baladí. En octubre de 2024, la muerte de un adolescente estadounidense —cuya madre acusa a un chatbot de Character.AI de haber contribuido a su suicidio— encendió todas las alarmas. Desde entonces, varios estados americanos han acelerado sus trabajos legislativos sobre el asunto.

El proyecto de ley californiano pretende imponer salvaguardas estrictas: prohibición para un chatbot de presentarse como terapeuta, obligación de derivar al usuario en crisis hacia profesionales humanos, y mayor responsabilidad para los desarrolladores de estas herramientas. Un enfoque que contrasta con el laissez-faire que ha prevalecido hasta ahora en Silicon Valley.

Regulación de la IA: qué cambia para la tech y la crypto

Para el ecosistema crypto y Web3, este proyecto de ley no es una mera anécdota californiana. Se inscribe en una tendencia de fondo: los reguladores de todo el mundo buscan encuadrar los usos de la IA, y los protocolos descentralizados que integran agentes de IA —como los desarrollados sobre Bittensor, Fetch.ai o Virtuals Protocol— podrían encontrarse rápidamente en el punto de mira.

La cuestión central es la de la responsabilidad. En un protocolo descentralizado, ¿quién responde si un agente de IA causa un perjuicio a un usuario vulnerable? La ausencia de una respuesta clara a esta pregunta es precisamente lo que los legisladores buscan subsanar —y sus soluciones podrían ser drásticas si la industria no se anticipa.

Además, este debate pone de manifiesto una tensión estructural entre dos visiones de la IA: la de una herramienta neutra y universal, y la de un servicio sujeto a las mismas obligaciones que un profesional sanitario. Si se impone la segunda visión —algo que el voto californiano podría confirmar—, los desarrolladores de agentes de IA autónomos tendrán que replantear en profundidad sus modelos de cumplimiento normativo. Un reto colosal, pero inevitable.

Entre innovación y protección: ¿dónde trazar el límite?

Los defensores de los chatbots terapéuticos esgrimen un argumento difícil de ignorar: en muchas regiones del mundo, acceder a un psicólogo es un lujo. Listas de espera de varios meses, costes prohibitivos, desiertos sanitarios —la IA cubre un vacío real. Prohibirla sin más equivaldría a privar a poblaciones vulnerables de una red de seguridad imperfecta, pero existente.

Los detractores replican que la ilusión de atención puede ser a veces más peligrosa que la ausencia de atención. Un chatbot que simula empatía sin tener las capacidades reales para ello puede retrasar una atención médica urgente, o incluso agravar el estado de un usuario en crisis. Es precisamente ese riesgo el que el legislador californiano busca neutralizar.

La próxima votación en la Asamblea californiana será seguida de cerca mucho más allá de las fronteras del estado. Podría servir de modelo legislativo para otras jurisdicciones —incluida Europa, donde el marco del AI Act apenas comienza a desplegarse. Para los actores del sector de la IA y la crypto, ya no es momento de esperar: anticiparse a estas restricciones regulatorias se convierte en una prioridad estratégica al mismo nivel que el desarrollo técnico.