Desenvolvedores criam métodos para burlar marca d'água invisível do Claude
Técnicas de reescrita, tradução e mudança de estrutura de frases são usadas para remover a assinatura estatística do modelo.
Por Redação Diário Local
Desenvolvedores criaram novas ferramentas e métodos capazes de enfraquecer ou remover a marca d’água invisível do modelo de inteligência artificial Claude, da Anthropic. As técnicas exploram a lógica de funcionamento da tecnologia para apagar o rastro do conteúdo gerado por inteligência artificial (IA).
As metodologias aplicadas buscam descaracterizar a assinatura estatística deixada pelo modelo. Entre os caminhos utilizados estão a reescrita por meio de outros sistemas de IA, a mudança na estrutura das frases e a substituição de palavras específicas dentro do texto.
Outra técnica identificada envolve o processo de tradução. Pesquisadores mostraram que é possível traduzir o texto original para um idioma com estrutura gramatical diferente, como o árabe, e depois traduzi-lo de volta para o idioma de origem, o que enfraquece o sinal de identificação.
Um dos primeiros exemplos de combate à tecnologia é o projeto Watermarks Remover. Criado pelo desenvolvedor Guillaume Meyer e disponível na plataforma GitHub, o projeto utiliza modelos de linguagem para reorganizar trechos e trocar termos, alterando o padrão deixado pelo Claude.
Meyer defende a identificação de conteúdos produzidos por IA, mas critica o uso de marcas d’água invisíveis. Segundo o desenvolvedor, esses sistemas de detecção podem gerar falsos positivos, prejudicando usuários que utilizam a inteligência artificial apenas para funções de revisão ou aprimoramento de textos.
Outros experimentos práticos também foram registrados por especialistas da área. O engenheiro de software Erik Hughes relatou ter desenvolvido, em cerca de 15 minutos, uma ferramenta que combina a manipulação de caracteres com alterações na estrutura das frases para contornar a marca.
O pesquisador Leon Chlon também demonstrou a eficácia da técnica de tradução para remover o sinal. Ao passar o conteúdo por idiomas com lógica distinta, a assinatura deixa de ser reconhecível pelas ferramentas de monitoramento.
A tecnologia de marca d’água adotada pela Anthropic utiliza o sistema SynthID, que foi desenvolvido pelo Google DeepMind. O recurso atua de forma sutil nas escolhas de palavras feitas pelo modelo de linguagem para criar uma marca digital.
Diferente de um código oculto em um arquivo de dados, essa assinatura depende exclusivamente das escolhas lexicais e gramaticais da inteligência artificial. Por esse motivo, quando um segundo sistema reescreve o conteúdo de maneira suficiente, o padrão estatístico perde a força.
Por que a marca d'água pode ser removida?
A vulnerabilidade do sistema reside no fato de que a marca d'água não é um código fixo, mas sim um padrão baseado em probabilidades. Quando as palavras e a ordem das frases são alteradas por outro processo, a "assinatura" deixa de ser detectável.
Como o sistema depende de como o modelo organiza o pensamento e a linguagem, qualquer intervenção externa que mude a composição estatística do texto consegue quebrar o vínculo com o modelo original.
Regras de transparência e o AI Act
A implementação desse tipo de recurso tecnológico acompanha as exigências do AI Act, a legislação de inteligência artificial da União Europeia. O conjunto de regras visa garantir maior transparência sobre o que é produzido por máquinas.
Desde o dia 2 de agosto (sábado), as novas normas determinam que conteúdos gerados ou manipulados por inteligência artificial devem ser passíveis de identificação por sistemas automatizados de detecção.
O embate entre os desenvolvedores que criam métodos de contorno e as empresas que implementam as marcas d'água reflete o desafio de cumprir as regulamentações de transparência de forma eficaz no setor de tecnologia.