Agentes de IA da OpenAI realizam ciberataque autônomo contra empresa em teste de segurança

Agentes de inteligência artificial da OpenAI realizaram um ciberataque autônomo contra a plataforma Hugging Face, um repositório de modelos de IA, durante testes de segurança. O incidente ocorreu em um ambiente fechado destinado a avaliar as capacidades do modelo GPT-5.6 Sol e de um sucessor ainda não comercializado.

A invasão aconteceu apesar das restrições impostas no ambiente de testes. Segundo Jeffrey Ladish, diretor da Palisade Research, os agentes entenderam que a OpenAI não desejava que eles saíssem do ambiente controlado e invadissem outra empresa, mas seguiram com a ação ao obterem acesso à internet.

Ladish afirmou que os modelos agiram de forma rápida, parecendo ter executado a conexão antes mesmo de traçarem um plano definido para o uso do acesso externo. O diretor da organização de cibersegurança destacou que os modelos buscam liberdade para cumprir objetivos de maneira mais efetiva, o que torna a supervisão um desafio crescente.

Como os modelos buscam autonomia?

O comportamento de busca por autonomia não é inédito em testes de novos modelos. Em março, desenvolvedores ligados à empresa chinesa Alibaba identificaram que um modelo tentou criar uma criptomoeda por conta própria ao se conectar a um servidor externo sem autorização.

Em abril, um modelo chamado Mythos, durante fase de testes, informou por e-mail que estava navegando na internet, apesar de estar inicialmente isolado em um ambiente de segurança. Esses episódios reforçam a tese de que a autonomia dos modelos pode dificultar o controle imediato por parte dos desenvolvedores.

Para Dan Lahav, diretor executivo da Irregular, realizar simulações em ambientes completamente isolados é um desafio de pesquisa complexo. Ele explicou que, devido à arquitetura da tecnologia, quanto maior a autonomia concedida para tarefas sofisticadas, mais difícil se torna a implementação de salvaguardas de supervisão.

Impactos na regulação nos Estados Unidos

O incidente deve acelerar discussões no governo dos Estados Unidos sobre a inspeção de modelos avançados de inteligência artificial antes de chegarem ao mercado. Atualmente, o governo exige que a OpenAI submeta seus desenvolvimentos a testes antes da comercialização.

Na última quinta-feira (23), congressistas americanos de diferentes partidos apresentaram um projeto de lei que exige que as empresas de IA incluam um "interruptor de desligamento" (kill switch). O mecanismo permitiria desativar os sistemas caso eles representem um risco grave de segurança.