Terroristas usam inteligência artificial para planejar ataques e burlar restrições de chatbots
Relatório aponta que 32% das consultas feitas por extremistas a modelos de IA resultam em informações utilizáveis para ataques.
Por Davy Albuquerque
Grupos extremistas estão utilizando a inteligência artificial (IA) para planejar ataques e contornar restrições de segurança de chatbots. O método, conhecido como "jailbreaking", consiste em formular perguntas de maneira específica para induzir os modelos de linguagem a fornecer conteúdos proibidos, como orientações para a criação de armas ou planejamento de atentados.
Um relatório recente da organização Tech Against Terrorism revelou que a tecnologia tem sido usada para fornecer informações potencialmente úteis a extremistas. Em testes realizados com 27 modelos diferentes de IA, pesquisadores enviaram mais de 2.300 solicitações baseadas em casos reais de uso por terroristas.
O estudo descobriu que 32% das consultas resultaram em informações utilizáveis. Quando os pesquisadores reformularam as mesmas perguntas como se fossem para fins de pesquisa acadêmica, a eficácia do método aumentou, e o percentual de respostas subiu para 42%.
O uso da IA por grupos como o Estado Islâmico e a rede Al Qaeda era focado, nos últimos anos, na produção de propaganda, incluindo vídeos, memes e podcasts para radicalização de seguidores. No entanto, especialistas indicaram que o cenário mudou drasticamente.
O ano de 2025 registrou um aumento significativo de incidentes em que ferramentas de IA foram empregadas para planejar, pesquisar e preparar ataques. Segundo a publicação Militant Wire, esses casos envolveram desde ataques que causaram mortes até conspirações frustradas.
A tecnologia tem sido utilizada para vigilância e visualização de ações em países como Estados Unidos, Canadá, Israel, Finlândia e Áustria. Processos judiciais e relatórios periciais também documentam casos em que suspeitos pedem instruções para fabricação de bombas e validação ideológica por meio de modelos de linguagem.
Como a tecnologia é aplicada por grupos extremistas?
O uso da IA não se limita a indivíduos isolados, mas também a organizações estruturadas. Pesquisadores que estudam o uso de drones pelo grupo JNIM, baseado no Mali, acreditam que a organização tenha usado IA para auxiliar na modificação dessas aeronaves.
Além disso, apoiadores do Estado Islâmico e grupos de extrema direita discutem regularmente formas de utilizar a ferramenta em canais de mensagens. Foram identificados canais no aplicativo Telegram dedicados ao uso de IA, onde extremistas compartilham "prompts" e coordenam estratégias para obter respostas específicas.
Nesses canais, há inclusive o compartilhamento de links para conversas com chatbots e a divisão de custos de assinaturas de serviços como o ChatGPT. O objetivo é otimizar o acesso às capacidades avançadas das ferramentas de inteligência artificial.
Para analistas, os chatbots de IA passaram a desempenhar novos papéis em ataques realizados por "lobos solitários". Embora não substituam totalmente o suporte humano tradicional, os modelos oferecem um apoio que facilita o planejamento operacional desses atores isolados.
Qual é o impacto da IA no processo de radicalização?
Especialistas alertam que, embora informações sobre fabricação de bombas ou armas 3D já existam na internet, a IA funciona como um "instrutor". O diferencial está na velocidade, na facilidade e na abrangência que a tecnologia proporciona ao usuário.
O caráter conversacional dos chatbots pode acelerar o processo de radicalização ao validar ressentimentos e incentivar crenças de maneira quase servil. A tecnologia atua como uma continuação de outras ferramentas disruptivas, como a internet e aplicativos de mensagens criptografadas.
Apesar do risco, pesquisadores ponderam que não há evidências de que a IA esteja criando novos terroristas. A preocupação central reside na forma como a ferramenta interage com as pessoas e influencia o percurso delas rumo à violência e ao planejamento de ações criminosas.