IA e saúde mental: a Califórnia quer proibir os chatbots terapeutas

Milhões de utilizadores recorrem a chatbots de IA para gerir a sua ansiedade, depressão ou crises emocionais. Um fenómeno massivo que a Califórnia pretende agora regulamentar — ou mesmo bloquear — por via legislativa.

Um projeto de lei aguarda votação na Assembleia californiana. O objetivo: impedir as inteligências artificiais de desempenharem o papel de terapeutas. Por detrás desta iniciativa esconde-se um debate muito mais amplo sobre o lugar da IA nas nossas vidas mais íntimas.

Para a comunidade tech e crypto, este sinal regulatório merece atenção redobrada. Prefigura uma vaga de regulação que poderá redefinir os limites do que as IA têm direito de fazer — e, por extensão, do que os protocolos descentralizados poderão oferecer no futuro.

Um uso que explode, uma regulação que acelera

Os números falam por si: plataformas como Character.AI, Replika ou o ChatGPT registam milhões de interações diárias relacionadas com a saúde mental. Os utilizadores partilham as suas angústias, pensamentos suicidas e traumas — por vezes por falta de acesso a um profissional de saúde, outras vezes por preferência pelo anonimato que a IA proporciona.

Este recurso massivo à IA como substituto terapêutico não é inócuo. Em outubro de 2024, a morte de um adolescente americano — cuja mãe acusa um chatbot da Character.AI de ter contribuído para o seu ato — atiçou o debate. Desde então, vários estados americanos aceleraram os seus trabalhos legislativos sobre o tema.

O projeto de lei californiano visa impor salvaguardas estritas: proibição de um chatbot se apresentar como terapeuta, obrigação de encaminhar o utilizador em sofrimento para profissionais humanos, e maior responsabilização para os editores destas ferramentas. Uma abordagem que contrasta com o laissez-faire que prevaleceu até agora no seio da Silicon Valley.

Regulação da IA: o que muda para a tech e a crypto

Para o ecossistema crypto e Web3, este projeto de lei não é apenas um episódio californiano. Insere-se numa tendência estrutural: os reguladores de todo o mundo procuram enquadrar os usos da IA, e os protocolos descentralizados que integram agentes de IA — como os desenvolvidos sobre a Bittensor, Fetch.ai ou o Virtuals Protocol — poderão rapidamente tornar-se alvos privilegiados.

A questão central é a da responsabilidade. Num protocolo descentralizado, quem é responsável se um agente de IA causar danos a um utilizador vulnerável? A ausência de uma resposta clara a esta questão é precisamente o que os legisladores procuram colmatar — e as suas soluções arriscam ser brutais se a indústria não se antecipar.

Por outro lado, este debate revela uma tensão estrutural entre duas visões da IA: a de uma ferramenta neutra e universal, e a de um serviço sujeito às mesmas obrigações que um profissional de saúde. Se a segunda visão prevalecer — o que o voto californiano poderá confirmar — os programadores de agentes de IA autónomos terão de repensar profundamente os seus modelos de conformidade. Um desafio colossal, mas inevitável.

Entre inovação e proteção: onde traçar a linha?

Os defensores dos chatbots terapêuticos avançam um argumento difícil de ignorar: em muitas regiões do mundo, o acesso a um psicólogo é um luxo. Listas de espera de vários meses, custos proibitivos, desertos médicos — a IA preenche um vazio real. Proibi-la pura e simplesmente equivaleria a privar populações vulneráveis de uma rede de segurança imperfeita, mas existente.

Os opositores retorquem que a ilusão de cuidado é por vezes mais perigosa do que a ausência de cuidado. Um chatbot que simula empatia sem ter as capacidades reais para tal pode atrasar uma intervenção médica urgente, ou mesmo agravar o estado de um utilizador em crise. É precisamente este risco que o legislador californiano procura neutralizar.

A votação na Assembleia californiana será acompanhada muito além das fronteiras do estado. Poderá servir de modelo legislativo para outras jurisdições — incluindo na Europa, onde o quadro do AI Act começa agora a ser implementado. Para os atores do setor de IA e crypto, o tempo da expectativa acabou: antecipar estas restrições regulatórias torna-se uma prioridade estratégica tão importante quanto o próprio desenvolvimento técnico.