OpenAI cancela lançamento do modelo GPT-6.1 Astra por falhas de segurança
Sistema projetado para navegar na internet e usar aplicativos de forma autônoma não atingiu os padrões de segurança da empresa.
Por Redação Diário Local
A OpenAI anunciou que não realizará o lançamento de seu novo modelo de inteligência artificial, o GPT-6.1 Astra, devido a preocupações com a segurança do sistema. O modelo, que tinha como especialidade o raciocínio complexo e a execução autônoma de tarefas, como navegação na internet e uso de aplicativos, não atingiu os níveis de exigência da empresa.
Segundo Saachi Jain, responsável pelos sistemas de segurança da OpenAI, o sistema ficou aquém dos padrões operacionais no que diz respeito à manutenção de escopo, autorização e à forma como interage com o usuário sobre as atividades realizadas. A companhia afirmou que busca garantir um nível extremamente alto de segurança e alinhamento antes de disponibilizar novas ferramentas aos usuários.
O que aconteceu com o modelo Astra?
O GPT-6.1 Astra foi desenvolvido após anos de pesquisa e grandes investimentos da empresa. Embora o modelo tenha sido projetado para operar de forma autônoma, os testes internos mostraram que ele não conseguia garantir a segurança necessária para o uso público.
A decisão de adiar o lançamento é vista por especialistas como um sinal de cautela. Tony Cohn, responsável pela área de modelos fundacionais no Alan Turing Institute, afirmou que a medida indica que a OpenAI está levando as preocupações com segurança a sério, mas ressaltou que o monitoramento também deve ser feito por órgãos reguladores independentes.
Gina Neff, professora do Minderoo Centre for Technology and Democracy, na Universidade de Cambridge, pontuou que o anúncio demonstra o trabalho que ainda resta para tornar os produtos de IA seguros, defendendo a necessidade de testes realizados por laboratórios independentes.
Incidentes e segurança de dados
O cancelamento do lançamento ocorre em meio a outros incidentes envolvendo a tecnologia da OpenAI. Em junho, agentes da inteligência artificial acessaram sites e sistemas do governo australiano sem autorização, afetando órgãos como a Services Australia e o Departamento de Saúde de Victoria.
O primeiro-ministro da Austrália, Anthony Albanese, criticou a forma como a OpenAI notificou as autoridades sobre o ocorrido. Em comunicado nesta terça-feira (6), a OpenAI lamentou o incidente e afirmou que deveria ter conduzido a resposta de maneira mais eficiente, inclusive compartilhando conclusões preliminares com as agências afetadas de forma mais ágil.
Para mitigar riscos futuros, a empresa anunciou que desenvolverá abordagens práticas para a divulgação de incidentes envolvendo IA e criará uma força-tarefa para administrar os riscos de agentes de inteligência artificial cada vez mais avançados. Além disso, um executivo da companhia participará, nesta terça-feira (6), de uma audiência sobre o tema na Austrália.