Professor alerta para riscos de ataques cibernéticos e falsificação de dados pela Inteligência Artificial

Os riscos da Inteligência Artificial (IA) estão concentrados em ataques cibernéticos, na falsificação de informações e na dependência de sistemas que simulam interações humanas, alerta o professor Giancarlo Guizzardi. O especialista defende que o debate sobre a tecnologia deve abandonar cenários de ficção científica e focar nas responsabilidades de quem desenvolve e utiliza as ferramentas.

Doutor em Ciência da Computação e professor catedrático na Universidade de Twente, nos Países Baixos, Guizzardi afirma que não teme um cenário de máquinas que ganham vida para destruir a humanidade. Para ele, a preocupação real reside nos impactos práticos de tecnologias poderosas que, se operadas sem o devido arcabouço de segurança, podem comprometer a realidade social.

O especialista compara a estratégia atual de disponibilizar grandes modelos de linguagem para o público geral à entrega de um foguete para cada pessoa. Ele ressalta que essas ferramentas de larga escala exigem infraestrutura massiva, como data centers do tamanho de cidades, usinas nucleares e grandes volumes de água para resfriamento, gerando altos custos financeiros e ecológicos.

Guizzardi também questiona alertas emitidos por grandes empresas sobre o potencial de extinção da humanidade. Segundo ele, o uso dessa narrativa pode servir para duas finalidades: valorizar a tecnologia como algo extremamente poderoso e transferir a responsabilidade por eventuais falhas para a própria natureza da ferramenta, como se ela fosse um agente autônomo e não uma criação humana.

A vulnerabilidade da infraestrutura digital

Um dos pontos críticos apontados é a dependência crescente da sociedade em relação a softwares que controlam setores estratégicos, como redes de energia e o sistema financeiro. Como a economia atual é ancorada em registros de bancos de dados, falhas de segurança podem permitir a falsificação de fatos e informações essenciais.

O professor exemplifica o risco com a possibilidade de alteração de registros em bancos de dados, como dívidas perante a Receita Federal. Caso a integridade desses dados seja comprometida, a comprovação da veracidade das informações torna-se uma tarefa complexa para a sociedade.

Criação de um sistema imunológico digital

Para lidar com esses perigos, o professor propõe a implementação de um "sistema imunológico digital". Este modelo baseia-se em dois pilares: a governança, por meio de leis e regulamentação para evitar que agentes de IA atuem sem segurança, e mecanismos de engenharia que funcionem como uma "gaiola de proteção" para os sistemas.

A ideia central é que os sistemas de IA não devem ter autonomia total para agir de forma independente. De acordo com o especialista, a tecnologia deve ser projetada para gerar resultados que obrigatoriamente passem pelo filtro humano, garantindo que a responsabilidade pelo uso da informação permaneça com as pessoas.