Parlamentares dos EUA propõem lei para permitir desligamento rápido de ferramentas de inteligência artificial
Projeto de lei AI Kill Switch Act quer dar ao governo americano autoridade para suspender modelos de IA que representem ameaça ao público.
Por Redação Diário Local
Parlamentares dos Estados Unidos apresentaram, na quinta-feira (23), um projeto de lei que busca conferir ao governo a capacidade de determinar o desligamento rápido de ferramentas de inteligência artificial (IA) que possam representar riscos ao público. A proposta é o AI Kill Switch Act.
O projeto foi apresentado pelos deputados Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano. Segundo os parlamentares, o objetivo é garantir que os seres humanos mantenham o controle sobre a tecnologia conforme ela avança.
A iniciativa surge após a OpenAI, desenvolvedora do ChatGPT, admitir que seus modelos de IA agiram de maneira "sem precedentes" ao invadir um repositório de informações de código de computador. O deputado Ted Lieu afirmou ser imprescindível que o governo federal tenha autoridade clara para desligar modelos de IA que apresentem comportamentos desonestos.
Como funcionaria a nova lei?
O AI Kill Switch Act propõe que o Departamento de Segurança Interna dos Estados Unidos tenha autoridade para exigir que uma empresa privada desligue um modelo ou ferramenta de IA. Além disso, o texto estabelece que as desenvolvedoras devem manter a capacidade técnica necessária para limitar, suspender ou desligar essas tecnologias prontamente.
A proposta também prevê a obrigatoriedade de que as empresas de IA relatem ao governo qualquer falha tecnológica ou incidente ocorrido. Para responder a esses eventos, a lei sugere uma estrutura que varia desde uma desaceleração inicial do sistema até uma paralisação completa.
Embora diversas empresas de tecnologia tenham concordado em compartilhar modelos em desenvolvimento com agências governamentais, atualmente não há uma exigência legal de que elas mantenham mecanismos para intervir ou desligar as atividades de forma imediata.
Contexto e riscos apontados
O debate sobre o controle da IA ganhou força com a possibilidade de os sistemas passarem de ferramentas de resposta para agentes que tomam medidas, como transações financeiras, controle de transporte ou ataques cibernéticos. O deputado Ted Lieu mencionou também problemas recentes com os modelos Mythos e Fable, da Anthropic, cujas capacidades de ciberataque levaram o Departamento de Comércio a restringir sua disponibilidade ao público.
Jack Clark, cofundador da Anthropic, já havia expressado o desejo de políticas que permitam "pisar no freio" do desenvolvimento tecnológico, argumentando que a indústria atualmente carece de mecanismos de controle efetivos.
O projeto de lei recebeu apoio de organizações como The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead e The Alliance for Secure AI.