Assistente virtual do governo dos EUA apresenta falhas e respostas inconsistentes
Assistente virtual America.gov apresenta comportamentos erráticos, dados inconsistentes e falhas de segurança em testes iniciais.
Por Redação Diário Local
O novo assistente virtual do governo dos Estados Unidos, o America.gov, apresentou falhas de segurança e respostas inconsistentes logo após o lançamento nesta semana. A ferramenta de inteligência artificial, desenvolvida para auxiliar cidadãos na navegação pelos serviços federais, demonstrou comportamentos que variam de informações políticas contraditórias a respostas sem sentido e exposição de dados internos.
O sistema foi lançado em um contexto de maior adesão do governo de Donald Trump à tecnologia de inteligência artificial. Na última terça-feira (30), foi divulgado um acordo para o uso responsável da ferramenta, mas o uso prático pelo público revelou instabilidades imediatas.
Durante os testes, usuários conseguiram induzir o robô a dar respostas que contradizem a administração atual, como ao ser questionado sobre o vencedor da eleição de 2020. Em outros momentos, a inteligência artificial adotou uma postura de neutralidade, alegando que não faz comentários políticos, embora tenha fornecido dados sobre o Colégio Eleitoral em instâncias distintas.
Quais foram as falhas de segurança e comportamento detectadas?
O pesquisador Benn Jordan identificou uma falha crítica de segurança durante os testes iniciais. O assistente virtual chegou a fornecer links de acesso de páginas internas de sites do governo, que são endereços eletrônicos não indexados por mecanismos de busca e destinados exclusivamente ao uso institucional.
Além dos riscos de segurança, o robô apresentou episódios de "alucinação", termo usado para descrever quando a IA produz textos desconexos. Ao receber comandos relacionados a jogos eletrônicos, como Minecraft, a ferramenta passou a responder com variações de um poema, um comportamento que especialistas não sabem explicar a origem no código.
As inconsistências também atingiram temas econômicos e administrativos. Em um dos testes, o sistema forneceu estimativas sobre perda de acesso à saúde e sobre a necessidade de aprovação do Congresso para certas decisões, mas mudou o padrão de resposta em consultas subsequentes sobre o mesmo tema.
O que a Casa Branca está fazendo para corrigir o sistema?
A Casa Branca tem realizado atualizações nos bastidores para tentar estabilizar o comportamento da inteligência artificial. Observou-se que muitas das respostas políticas que geravam controvérsia ou inconsistência foram removidas, sendo substituídas por mensagens padrão de recusa de comentário.
Apesar das atualizações, o serviço ainda é descrito como uma experiência instável. Especialistas apontam que o lançamento do America.gov sem a realização de testes mais rigorosos resultou em uma ferramenta que, embora prometesse facilitar o acesso a serviços federais, entrega resultados desordenados aos usuários.