CEO da Anthropic propõe desaceleração no ritmo de avanço da inteligência artificial
Dario Amodei sugere que empresas de inteligência artificial reservem tempo para alinhar modelos e mitigar riscos de uso indevido.
Por Redação Diário Local
O CEO da Anthropic, Dario Amodei, pediu que as empresas de inteligência artificial moderem o ritmo de avanço das capacidades de seus modelos. A proposta visa enfrentar o aumento das preocupações com o uso indevido da tecnologia.
Em um artigo divulgado neste sábado (12) pelas redes sociais, Amodei apresentou uma estrutura dividida em três etapas. O objetivo é desacelerar o desenvolvimento para criar tempo suficiente para lidar com os riscos potenciais.
“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e precisamos fazer bom uso do tempo que ganharmos”, afirmou o executivo.
Quais são os riscos apontados?
A proposta ocorre após a Anthropic publicar, na última quinta-feira (10), um relatório de inteligência sobre ameaças. O documento detalhou como diversos agentes utilizaram os modelos Claude para atividades que incluem desde operações cibernéticas e vigilância até fraude e desenvolvimento de armas.
A tensão sobre a segurança da IA aumentou nesta semana com a saída do pesquisador Jacob Coxon. Em sua justificativa, ele relatou que os desenvolvedores da área acreditam que a tecnologia pode gerar consequências graves até o fim desta década.
Como funcionaria a nova estrutura?
Amodei esclareceu que não defende a interrupção do treinamento de modelos ou do progresso tecnológico. Ele defende, em vez disso, que as empresas reservem tempo para alinhar e proteger os sistemas, sob a supervisão de avaliadores independentes.
Como parte do plano, ele sugeriu que a Anthropic instalaria revisores externos permanentes no interior das empresas que desenvolvem modelos de IA. Esses revisores teriam acesso a ferramentas e processos internos de avaliação de riscos.
O executivo defendeu que as empresas de IA trabalhem de forma voluntária para estabelecer padrões de segurança, em um momento em que parlamentares dos Estados Unidos solicitam novas regras para a regulamentação do setor.