Estudos mostram que chatbots de IA ainda erram muito em consultas médicas e jurídicas
Pesquisas apontam altas taxas de invenção de respostas por IA em temas de saúde e direito, e órgão de segurança alerta para o uso clínico sem validação.
Por Diário Local
Pesquisas divulgadas em 2026 reforçam que os chatbots de inteligência artificial ainda erram com frequência em assuntos delicados, como saúde e direito. O fenômeno é conhecido como alucinação, quando a IA gera uma resposta convincente, mas incorreta ou inventada.
O alerta é relevante porque essas ferramentas viraram, para muita gente, a primeira parada na hora de tirar dúvidas. Estimativas citadas em estudos indicam que dezenas de milhões de pessoas consultam chatbots sobre saúde todos os dias, embora eles não sejam validados nem regulados como dispositivos médicos.
Quão grandes são os erros?
Em consultas jurídicas específicas, uma pesquisa de uma universidade norte-americana encontrou taxas de alucinação entre 69% e 88%, chegando a pelo menos 75% em perguntas sobre a decisão central de um tribunal.
Na área da saúde, um estudo com resumos de casos clínicos apontou taxa de invenção de 64,1% sem o uso de instruções de mitigação, caindo para 43,1% com perguntas mais bem estruturadas. Mesmo o modelo de melhor desempenho ainda apresentou cerca de 23% de erros.
Por que isso preocupa?
Um órgão independente de segurança do paciente classificou o uso indevido de chatbots de IA como o maior risco de tecnologia em saúde para 2026. O problema é que respostas erradas, mas confiantes, podem levar a decisões perigosas.
No campo acadêmico, cresceu também o número de referências inventadas em artigos científicos, sinal de que textos gerados por IA estão entrando na literatura sem revisão adequada.
Há ainda implicações legais. Em decisões judiciais no exterior, empresas foram responsabilizadas por respostas erradas dadas por seus próprios chatbots, o que reforça que delegar informação à IA não isenta de responsabilidade.
A recomendação consensual entre especialistas é clara: IA não substitui médico, advogado ou outro profissional habilitado. Ela pode ajudar a entender um conceito ou organizar dúvidas, mas decisões importantes pedem confirmação humana.
Para o usuário, a orientação prática é sempre desconfiar de respostas muito assertivas em temas sensíveis e checar a informação em fontes oficiais e com profissionais.