Ferramenta da Meta falha em identificar imagens de IA após edições de recorte
Análise mostra que 55% das imagens criadas pelo modelo Muse Image deixaram de ser reconhecidas pela ferramenta da Meta após serem recortadas.
Por Diário Local
Uma ferramenta da Meta criada para detectar imagens geradas por inteligência artificial (IA) apresentou falhas ao tentar identificar conteúdos após edições de recorte. Em uma análise com 40 imagens do modelo Muse Image, o sistema deixou de reconhecer 55% das fotos quando elas foram reduzidas para cerca de um terço ou metade do tamanho original.
O recurso foi desenvolvido para ajudar usuários a verificarem se um conteúdo visual foi produzido por inteligência artificial da companhia. A tecnologia utiliza um sistema de marca d'água invisível, chamado Content Seal, que é incorporado às imagens produzidas pelo modelo Muse Image.
A Meta informou que a ferramenta ainda está em fase de pré-visualização. Segundo a empresa, a marca d'água foi projetada para resistir a edições comuns, mas o sinal de identificação pode ser perdido quando a imagem passa por recortes mais severos.
A dificuldade de identificação de imagens editadas levanta preocupações sobre a detecção de deepfakes na internet, especialmente em períodos eleitorais intensos. A limitação técnica mostra que manipulações simples podem comprometer a eficácia dos sistemas de verificação atuais.
Empresas como Google e OpenAI também já alertaram que suas tecnologias de detecção não são capazes de identificar todas as formas de manipulação de imagens. O cenário de desafios para a segurança digital é compartilhado entre os principais players do setor de IA.
O professor Siwei Lyu, de ciência da computação da Universidade Estadual de Nova York em Buffalo, explicou que qualquer modificação que remova ou enfraqueça o sinal pode reduzir a eficácia do método. Ele citou recortes, redimensionamento e compressão intensa como fatores que prejudicam as marcas d'água.
Em março, o Conselho de Supervisão da Meta — órgão independente que faz recomendações para a plataforma — pediu que a empresa ampliasse os esforços para combater a proliferação de conteúdo enganoso gerado por IA. O grupo defendeu o investimento em ferramentas de detecção mais robustas.
A pesquisadora Sarah Barrington, da Universidade da Califórnia em Berkeley (UC Berkeley), afirmou que a tecnologia de marca d'água é promissora, apesar de não ser totalmente infalível. Para a especialista, mesmo que o mecanismo detecte apenas 90% dos casos, o sistema já representa um avanço significativo em relação à falta de identificação.