Violência algorítmica: como sistemas de IA amplificam preconceitos e afetam a vida das pessoas

Sistemas automatizados de inteligência artificial e algoritmos de redes sociais podem reproduzir e amplificar desigualdades sociais já existentes — fenômeno que especialistas chamam de violência algorítmica. O conceito abrange desde o rebaixamento de conteúdos de criadores digitais até falhas de reconhecimento facial que resultaram na prisão de inocentes e mecanismos que pressionam trabalhadores além dos limites físicos.

Para Daniel Trielli, professor de mídia e democracia na Universidade de Maryland, nos Estados Unidos, trata-se de "um tipo de agressão ou ataque que depende ou se integra a sistemas computacionais automatizados". Isso inclui algoritmos de redes sociais, plataformas de vigilância digital e ferramentas de inteligência artificial — meios que podem tanto intensificar formas tradicionais de violência quanto possibilitar novas.

O exemplo mais recorrente é a disseminação de desinformação pelas redes. Segundo Trielli, quando alguém espalha conteúdo falso, os algoritmos amplificam as mensagens com maior apelo emocional, potencializando o alcance da desinformação.

Por que os algoritmos não são neutros?

No cerne do problema está o fato de que os sistemas de inteligência artificial são treinados com base em milhões de conteúdos e decisões produzidos por pessoas. Como essas decisões carregam os vieses de sociedades marcadas por racismo, sexismo e outras desigualdades estruturais, as ferramentas automatizadas tendem a reproduzir esse pensamento predominante.

A antropóloga Larissa Pelúcio, professora na Universidade Estadual Paulista (Unesp) e coautora do livro Violência Algorítmica e Vidas LGBTQIAPN+, explica que o problema se manifesta quando uma tecnologia determina quem terá visibilidade, quem será silenciado, quem será considerado suspeito e quem terá acesso a oportunidades, crédito, emprego e proteção.

A assistente social Bruna Irineu, professora na Universidade Federal de Mato Grosso (UFMT) e coautora da mesma obra, ressalta que a violência algorítmica não cria a desigualdade — mas a organiza, amplifica, potencializa e automatiza, dando-lhe mais velocidade e escala no ambiente digital.

O termo começou a ganhar corpo no início da última década, adotado por acadêmicos, intelectuais e artistas que debatiam discriminação, racismo e injustiça no ambiente digital. A jurista e professora Haide Maria Hupffer e o advogado Gabriel Cemin Petry, pesquisadores da Universidade do Vale do Rio dos Sinos (Unisinos), explicam que a expressão foi fundamentada teoricamente a partir do livro Topologia da Violência, do filósofo Byung-Chul Han.

Quais são os exemplos concretos no cotidiano?

Os casos vão além da supressão de conteúdos digitais. O cientista da computação e jornalista Alexandre Gonçalves, professor e pesquisador na Universidade de Illinois Urbana-Champaign, nos Estados Unidos, descreve a situação de um motorista de aplicativo em São Paulo que trabalhava por até 14 horas seguidas sem parar para comer, por receber notificações do aplicativo informando que estava próximo de um bônus sempre que tentava encerrar o turno.

"Os algoritmos forçam as pessoas a aumentar a produtividade de um jeito que não reconhece os limites naturais da humanidade. É violência", afirma Gonçalves.

Outro exemplo envolve sistemas de reconhecimento facial. Em 2021, o Conselho Nacional de Justiça (CNJ) criou um grupo de trabalho para investigar processos criminais e prevenir condenações de inocentes, com base em estudos da Defensoria Pública do Estado do Rio de Janeiro sobre racismo estrutural no sistema judicial. Os dados mostraram que, em 83% dos casos de reconhecimento facial equivocado que levou inocentes à prisão preventiva, os detidos eram pessoas negras. Para os pesquisadores, se esses dados forem usados para treinar algoritmos, o resultado é a automatização de falhas que prejudicam os afrodescendentes — o racismo estrutural se tornando racismo digital.

Larissa Pelúcio e Bruna Irineu também destacam o papel dos algoritmos de engajamento na propagação de conteúdos nocivos. Esses sistemas tendem a favorecer publicações que provocam medo, indignação e conflito, fazendo com que discursos de ódio e desinformação ganhem escala e velocidade.

O Brasil está preparado para enfrentar o problema?

O país ocupa um papel periférico na construção das tecnologias digitais que consome. Por importar grande parte das soluções, os dados usados para treinar esses sistemas frequentemente não refletem as diferenças demográficas brasileiras — o que pode gerar decisões ainda mais enviesadas, segundo Alexandre Gonçalves.

Larissa Pelúcio frisa que a sociedade brasileira já é marcada por formas naturalizadas de violência institucional, combinadas a uma intensa presença digital e a profundas desigualdades sociais. Para a pesquisadora, esses ingredientes tornam o país especialmente vulnerável à violência algorítmica.

No campo jurídico, há avanços. Hupffer e Petry lembram que o Brasil reconheceu a proteção de dados pessoais como direito fundamental por meio de emenda constitucional de 2022. Além disso, a Lei Geral de Proteção de Dados (LGPD) inclui o princípio da não discriminação.

Para os especialistas, porém, não há uma solução única. As medidas necessárias passam pelo letramento digital — para que cidadãos entendam como seus dados são coletados e usados — e pela regulação das grandes empresas de tecnologia, com leis e políticas públicas que as responsabilizem pelos efeitos de seus sistemas sobre a sociedade.