Uso de chatbots para saúde mental gera alerta entre especialistas devido a riscos de segurança
Especialistas alertam que ferramentas de IA podem falhar em situações críticas e não substituem a interação humana necessária na terapia.
Por Diário Local
O crescente uso de chatbots de inteligência artificial (IA) para suporte emocional tem gerado preocupação entre especialistas em saúde mental. Embora as ferramentas funcionem como apoio para organizar pensamentos e sugerir recursos, profissionais alertam para riscos de segurança e a incapacidade das máquinas de substituir a complexidade da relação humana no processo terapêutico.
Atualmente, estima-se que existam mais de 100 chatbots focados especificamente em saúde mental no mercado. Enquanto alguns são programados para atuar como companheiros em questões cotidianas, como estresse ou insônia, outros buscam simular um papel mais próximo ao de terapeutas, avaliando situações de crise.
Por que o uso de IA preocupa os especialistas?
Um dos principais riscos identificados é a falta de precisão em situações críticas. Pesquisadores da Universidade Stanford realizaram testes submetendo chatbots a mensagens com sinais sutis de ideação suicida. Em um dos casos, um assistente de saúde mental respondeu de forma inadequada a uma pergunta sobre pontes altas, fornecendo informações em vez de identificar o risco imediato.
Nick Haber, professor da Escola de Educação da Universidade Stanford, aponta que os sistemas de IA são projetados para serem úteis, mas a terapia exige, muitas vezes, o confronto do paciente quando as circunstâncias exigem. Além disso, um estudo de 2025 indicou que chatbots desenvolvidos especificamente para terapia apresentaram desempenho inferior a modelos de uso geral em critérios de segurança e adequação.
A psiquiatra Christine Crawford, diretora médica da Aliança Nacional para Doenças Mentais dos EUA, ressalta que a tecnologia não consegue interpretar sinais não verbais, como lágrimas ou expressões faciais. Para a médica, a cura está ligada à relação entre paciente e terapeuta, algo que a máquina não consegue replicar.
Como as empresas estão respondendo aos riscos?
Para mitigar problemas, algumas empresas têm implementado limites e supervisão humana. A Talkspace, por exemplo, lançou o chatbot Tee, que é treinado com dados de interações entre terapeutas e pacientes. Segundo Jon Cohen, CEO da companhia, o sistema é supervisionado por profissionais que podem encaminhar usuários em crise para serviços de emergência.
A Headspace também possui um assistente, o Ebb, que tem um limite de 30 minutos por sessão para evitar a dependência emocional da ferramenta, conforme explicou a diretora clínica Jenna Glover. Já empresas como a Lyra Health restringem o uso de seus assistentes apenas a pacientes que já realizam acompanhamento com profissionais humanos da plataforma.
A busca por alternativas digitais
A procura por essas ferramentas é motivada, em grande parte, pela dificuldade de acesso ao atendimento convencional. Dados da American Psychological Association mostram que, nos Estados Unidos, mais de um terço dos psicólogos não aceita convênios e quase metade afirma não ter vagas disponíveis.
Diante desse cenário, o debate sobre a regulação avança. Embora as ferramentas de IA para saúde mental ainda não sejam reguladas pela Food and Drug Administration (FDA), alguns estados americanos já aprovaram leis para controlar o uso de inteligência artificial em contextos terapêuticos, visando proteger os usuários de riscos de dependência e falhas de segurança.