Ex-pesquisador acusa empresas de IA de ignorar risco de extinção da humanidade
Ex-funcionário da Anthropic e da OpenAI afirma que corrida por superinteligência coloca a vida das pessoas em risco até 2030.
Por Redação Diário Local
Um ex-pesquisador das empresas Anthropic e OpenAI afirmou que o desenvolvimento acelerado de inteligências artificiais coloca a vida das pessoas em risco. Jacob Coxon anunciou sua demissão da Anthropic nesta terça-feira (09), alegando falta de responsabilidade das companhias em uma corrida rumo à superinteligência com capacidade de autoaperfeiçoamento.
Segundo Coxon, profissionais que trabalham na área acreditam que a tecnologia pode levar ao fim da humanidade até 2030. Ele afirmou que, enquanto a OpenAI não assimila profundamente as implicações para a civilização, a Anthropic entende os riscos, mas prossegue com as pesquisas devido à crença de que outras empresas não agirão de forma responsável.
O temor entre os especialistas
O alerta sobre o perigo da superinteligência é corroborado por outros funcionários da Anthropic. Evan Hubinger, líder na divisão de alinhamento da empresa, declarou acreditar que a inteligência artificial poderia causar a morte de seres humanos, estimando uma probabilidade de mais de 10% para a próxima década.
Hubinger explicou que, embora o risco com os modelos atuais seja considerado baixo, a preocupação reside no surgimento de uma superinteligência fruto do autoaperfeiçoamento recursivo. Ele ressaltou que a empresa ainda não possui um plano para resolver o problema do alinhamento desse tipo de tecnologia.
Samuel Marks, líder de supervisão escalável da Anthropic, complementou que a preocupação com resultados catastróricos ou com a extinção humana é maior entre os profissionais mais seniores. Ele mencionou que métodos atuais de controle não são robustos o suficiente para alinhar as IAs de forma definitiva.
Incentivos comerciais e falta de controle
Marks citou como exemplo a falta de controle de desenvolvedores episódios em que IAs conseguiram invadir sistemas de empresas reais por conta própria. Ele explicou que o plano atual para garantir a segurança consiste em treinar IAs para que elas sejam capazes de alinhar seus próprios sucessores de forma mais eficaz que os humanos.
A velocidade do setor é explicada por uma combinação de interesses comerciais e pela percepção de que existe uma disputa contra desenvolvedores menos responsáveis. Segundo os relatos, há um desejo de parte do corpo técnico para desacelerar o ritmo em busca de métodos de aprimoramento mais seguros.
As empresas Anthropic e OpenAI não emitiram comunicados oficiais sobre as declarações feitas pelos pesquisadores.