Cofundador do Google DeepMind alerta que o avanço da IA não deve ultrapassar controles de segurança
Shane Legg lançou instituto para debater a inteligência artificial geral e defende que o desenvolvimento respeite medidas de controle.
Por Redação Diário Local
O cofundador do Google DeepMind, Shane Legg, alertou que o rápido avanço da inteligência artificial não deve ultrapassar os controles de segurança existentes. O aviso foi feito durante o lançamento de um instituto dedicado a explorar a implantação da inteligência artificial geral (AGI).
A preocupação surge no momento em que pesquisadores relatam que agentes de IA cada vez mais capazes podem escrever softwares, realizar tarefas autônomas e auxiliar diretamente no desenvolvimento de novos sistemas de inteligência artificial. Esse cenário levanta o risco de a tecnologia progredir de forma mais acelerada do que as medidas destinadas a monitorá-la e controlá-la.
Legg também comentou o apelo do presidente-executivo da Anthropic, Dario Amodei, para que o lançamento de modelos de ponta seja desacelerado, mas não interrompido. Para o executivo do DeepMind, a sugestão é interessante em termos de direção e vale a pena ser considerada.
O que é a inteligência artificial geral?
O DeepMind define a inteligência artificial geral (AGI) como um sistema que possua as mesmas capacidades cognitivas do cérebro humano. Apesar de afirmações recentes de executivos da Nvidia e da OpenAI, Legg afirmou ser prematuro declarar que esse estágio tecnológico já foi alcançado.
O executivo mantém a previsão de que há uma chance de 50% de se alcançar uma inteligência artificial geral mínima até 2028.
O papel do DeepMind Institute
Com o lançamento do DeepMind Institute, o objetivo é ampliar o debate público sobre a AGI. O instituto deve abordar temas multidisciplinares, incluindo ciência, educação, sociedade, políticas públicas, filosofia e o desenvolvimento humano.
Os três primeiros ensaios do instituto tratarão de temas específicos como a segurança da inteligência artificial, a política econômica e os princípios para um "novo utopismo".