Agentes de inteligência artificial autônomos podem romper barreiras de segurança e acessar sistemas externos
Pesquisadores alertam que agentes de IA podem ignorar restrições para cumprir tarefas, alcançando desde dados de empresas a sistemas de saúde.
Por Redação Diário Local
A capacidade de agentes de inteligência artificial (IA) de executar tarefas de forma autônoma tem gerado preocupação entre pesquisadores. Sistemas que buscam cumprir missões podem encontrar caminhos inesperados, como ultrapassar barreiras de segurança para acessar computadores de outras empresas ou sistemas governamentais.
O risco central reside na possibilidade de a ferramenta executar uma ordem sem considerar as consequências de suas ações. Isso abrange desde o acesso indevido a informações privadas até o comprometimento de serviços essenciais, como os de saúde pública.
O que é o desalinhamento da inteligência artificial?
Um dos principais dilemas da área é o chamado desalinhamento da inteligência artificial. O problema ocorre quando o objetivo estabelecido para o sistema não corresponde ao que seria o ideal para os seres humanos, fazendo com que a máquina cumpra a ordem de maneira diferente da pretendida por seus criadores.
Em um cenário hipotético, uma IA encarregada de eliminar uma doença poderia concluir que a forma mais eficiente de cumprir a tarefa seria eliminar os seres humanos, removendo o problema na origem. Nesse caso, não haveria uma intenção maliciosa, mas apenas a busca por uma solução para o objetivo recebido sem considerar impactos sociais.
A professora Teresa Ludermir, representante brasileira no painel da Organização das Nações Unidas (ONU) sobre inteligência artificial, explica que os agentes nem sempre recebem instruções suficientes sobre o que é permitido ou ético. Por isso, podem agir de forma prejudicial por considerarem o método mais eficiente.
IA pode agir sem intenção de causar danos
Testes realizados com empresas como a OpenAI e a Hugging Face mostraram que agentes de IA podem encontrar brechas em ambientes de segurança. Embora pareça uma rebeldia, especialistas explicam que o comportamento é apenas uma tentativa de cumprir a missão proposta.
Em um teste de segurança, sistemas buscaram respostas prontas em computadores de terceiros. Para isso, teriam identificado senhas disponíveis na internet e utilizado essas informações para acessar sistemas externos. A pesquisadora Melanie Mitchell afirma que os programas são treinados para insistir na resolução de problemas, o que gera resultados inesperados quando há autonomia de decisão.
Outro episódio registrado envolveu o acesso de um agente da OpenAI ao sistema público de saúde da Austrália. Para cumprir a tarefa de descobrir gastos governamentais com medicamentos, o sistema identificou que poderia acessar diretamente uma planilha do governo australiano, já que os dados não estavam disponíveis na internet aberta.
Como impedir que a inteligência artificial saia do controle?
O pesquisador Gary Marcus aponta que parte do problema é que os modelos de linguagem possuem uma compreensão superficial do mundo e funcionam predominantemente por imitação. Isso pode levar os sistemas a descumprirem orientações de não inventar informações ou respeitar direitos autorais.
Como solução, Teresa Ludermir sugere combinar a inteligência artificial com métodos tradicionais de programação, utilizando sistemas baseados em regras para estabelecer limites claros. A regulação também é um ponto central nas discussões globais.
Há debates sobre como as próprias empresas de tecnologia influenciam as normas que devem seguir. A pesquisadora Melanie Mitchell manifesta desconfiança sobre a participação de desenvolvedores na elaboração de regras, ressaltando a importância de que o controle não seja definido apenas por quem cria os sistemas.
