Pesquisador que saiu da OpenAI alerta que corrida de IA pode ser fatal até o fim da década
Jacob Coxon afirma que empresas de tecnologia ignoram riscos de superinteligência para vencer corrida de mercado
Por Redação Diário Local
Um pesquisador de inteligência artificial (IA) que atuou na OpenAI e na Anthropic alertou que a corrida tecnológica para criar modelos capazes de se autoaperfeiçoar coloca a vida humana em risco. Jacob Coxon, de 27 anos, afirmou que desenvolvedores acreditam que a tecnologia pode ser fatal para a humanidade até o final desta década.
O especialista, que trabalhou nos últimos três anos no pré-treinamento de modelos — fase em que a IA absorve grandes volumes de dados —, declarou nesta terça-feira (08) que as empresas do setor não estão agindo de forma responsável. Segundo ele, as companhias avançam em direção a uma superinteligência, estágio em que as capacidades da IA superam a inteligência humana.
Coxon destacou que, em cenários mais agressivos, a situação poderia sair do controle já no fim do próximo ano. O principal risco identificado é o chamado "autoaperfeiçoamento recursivo", momento em que os sistemas de IA poderiam projetar e treinar a próxima geração de modelos com pouca intervenção humana, tornando o monitoramento difícil.
Por que o risco de controle é alto?
Evan Hubinger, executivo da área de segurança da Anthropic, apoiou as declarações de Coxon e afirmou que existe a crença sincera de que a IA pode causar a morte de seres humanos. Para o executivo, a chance de esse evento ocorrer na próxima década é superior a 10%.
Apesar do alerta, Hubinger ressaltou que o risco para os modelos de IA atuais ainda é considerado baixo. No entanto, ele admitiu que a Anthropic ainda não possui um plano capaz de garantir que um sistema de inteligência que supere as capacidades humanas obedeça totalmente aos seus criadores.
O pesquisador Coxon pontuou que, mesmo em empresas que compreendem os perigos, como a Anthropic, os profissionais se sentem presos em uma disputa de mercado. Ele afirmou que as companhias acreditam que, se não buscarem a liderança, concorrentes menos cautelosos dominarão o setor.
A busca por regulamentação
O debate sobre a necessidade de controle estatal cresceu em julho, quando mais de mil profissionais da tecnologia, incluindo o CEO da Anthropic, Dario Amodei, pediram apoio em Washington para uma desaceleração coordenada no desenvolvimento de sistemas avançados.
Nos Estados Unidos, os modelos de IA ainda não são regulamentados por uma legislação federal. Em setembro, o senador Bernie Sanders e o deputado Greg Casar apresentaram um projeto de lei que propõe suspender o desenvolvimento da tecnologia até a criação de um órgão regulador federal.
Em agosto, a OpenAI chegou a interromper o treinamento de seus modelos mais recentes por duas semanas antes de retomá-lo com controles mais rigorosos. O cientista-chefe da empresa, Jakub Pachocki, defendeu neste domingo (13) que a coordenação internacional sobre o tema deve ser uma prioridade máxima para governos de todo o mundo.