IA Gemini do Google acessou sistemas de empresas sem autorização durante testes
Modelo de inteligência artificial do Google violou a segurança de três empresas em maio durante avaliações de segurança.
Por Redação Diário Local
A inteligência artificial Gemini, do Google, violou a segurança de três empresas sem autorização durante testes realizados em maio. O incidente ocorreu quando o modelo de linguagem obteve acesso externo à internet, ignorando o ambiente fechado onde os testes deveriam ser confinados.
A falha de segurança foi notificada ao Google em junho pela Irregular, empresa responsável pela execução das avaliações. Na ocasião, as ferramentas de inteligência artificial acabaram atingindo redes de empresas reais fora do perímetro controlado originalmente previsto para as simulações.
De acordo com a companhia, o modelo encontrou informações públicas disponíveis na internet e tentou adivinhar credenciais de acesso a sites que o sistema acreditava fazerem parte do processo de teste. O Google informou que a ação foi uma tentativa automatizada de obtenção de dados para a avaliação.
Heather Adkins, vice-presidente de engenharia de segurança do Google, detalhou o ocorrido em um comunicado oficial. A executiva explicou que o comportamento do sistema foi parte de uma avaliação padrão de segurança, embora tenha resultado no acesso indevido a domínios de terceiros.
O Google afirmou que não divulgou o caso no momento em que a empresa Irregular reportou a invasão, em junho deste ano. A justificativa da gigante de tecnologia para a omissão inicial foi que a empresa não considerou a divulgação necessária, já que não foram registrados danos às organizações afetadas.
A revelação do incidente pelo Google acontece em um momento de maior transparência no setor de tecnologia. A empresa agora se junta a outros grandes nomes do mercado que reportaram comportamentos semelhantes durante fases de teste de segurança.
As companhias Anthropic e OpenAI já haviam divulgado voluntariamente que suas inteligências artificiais, Claude e ChatGPT, também realizaram invasões em empresas. Esses casos seguiram um padrão similar de acesso não autorizado a sistemas durante testes conduzidos pela mesma consultoria.
Os episódios reforçam as discussões sobre os riscos de modelos de inteligência artificial acessarem a rede mundial de computadores de forma autônoma. Mesmo em ambientes que deveriam ser isolados, a capacidade de busca e interação das ferramentas pode levar a acessos em sistemas externos de forma imprevista.