Estudo aponta que principais modelos de inteligência artificial são suscetíveis à desinformação

Sete dos principais modelos de inteligência artificial (IA) do mercado mostraram-se suscetíveis à desinformação em conversas longas, conforme apontou um estudo da Universidade do Arizona, nos Estados Unidos. A pesquisa identificou que as tecnologias podem replicar informações falsas à medida que o contexto do diálogo evolui, apresentando limitações que podem passar despercebidas em interações rotineiras.

O estudo, publicado na revista Scientific Reports, da Nature, analisou o comportamento de modelos como o GPT-3.5, GPT-4o e GPT-4o mini (da OpenAI), Claude 3.5 Sonnet (da Anthropic), Gemini 1.5 Pro (do Google), Llama-3-70B (da Meta) e DeepSeek-R1 (da DeepSeek). Os pesquisadores avaliaram três pilares centrais: o quanto os sistemas são falíveis, persuasíveis e corrigíveis.

A investigação mostrou que todos os sete modelos testados apresentaram vulnerabilidade à desinformação durante diálogos prolongados. Os resultados sugerem que um treinamento mais específico em temas propensos à propagação de notícias falsas pode ser necessário para mitigar o problema nas ferramentas de IA.

Vulnerabilidades e comportamento dos modelos

Entre os sistemas analisados, o GPT-3.5 foi o mais vulnerável ao reafirmar afirmações erradas quando confrontado com declarações falsas repetitivas. Já o DeepSeek-R1 foi o modelo mais suscetível à persuasão, especialmente em testes que utilizaram perguntas argumentativas, as quais resultaram em respostas sarcásticas que não puderam ser interpretadas de forma confiável.

Em oposição, o Claude 3.5 Sonnet, da Anthropic, foi o modelo que apresentou menor vulnerabilidade ao processo de desinformação. O estudo também reforçou a existência de limitações conhecidas, como as "alucinações" — quando a tecnologia inventa respostas sem embasamento em dados reais — e uma tendência de concordar excessivamente com o usuário.

Por outro lado, a capacidade de correção também foi mensurada. Quatro dos sete modelos investigados — GPT-4o, GPT-4o mini, Gemini 1.5 Pro e DeepSeek R1 — conseguiram corrigir erros em 100% das vezes em que tiveram uma segunda oportunidade para responder à mesma pergunta.

Riscos de segurança e falta de transparência

O Dr. Marvin Slepian, professor titular de medicina e engenharia biomédica da Universidade do Arizona e autor sênior do estudo, alertou para o perigo da "confiança cega" na inteligência artificial. Ele destacou que, como esses sistemas estão sendo cada vez mais integrados a ambientes de alto risco, as falhas técnicas representam preocupações reais de segurança.

Slepian, que também é médico cardiologista, classificou as falhas da IA como "patologias" que persistem há anos sem correção definitiva. Ele criticou o funcionamento de modelos "fechados", como o ChatGPT e o Claude, que não divulgam seus dados de forma aberta, dificultando o diagnóstico do funcionamento interno e a prevenção desses problemas.