Autoridades de Nova York derrubam sites que produziam deepfakes ilegais de celebridades
Investigação aponta que plataformas lucravam com a venda e o compartilhamento de vídeos manipulados de mulheres famosas.
Por Redação Diário Local
Autoridades de Nova York derrubaram sites que eram utilizados para a criação de deepfakes ilegais de mulheres famosas. As plataformas operavam na produção de vídeos manipulados por meio de inteligência artificial utilizando a imagem de celebridades de forma criminosa.
De acordo com as investigações, os domínios lucravam com a comercialização e o compartilhamento dos conteúdos falsos. O modelo de negócio consistia na venda de montagens que simulavam situações envolvendo as figuras públicas para obter ganhos financeiros.
As plataformas utilizavam o suporte da tecnologia de inteligência artificial para gerar vídeos que buscam um visual altamente realista. Esse recurso era empregado para alimentar um mercado ilegal de manipulação de imagem.
A ação das autoridades em Nova York visou interromper a atividade das páginas e combater a exploração comercial dessas montagens digitais. A medida foca na repressão ao uso indevido da imagem de terceiros para fins ilícitos.
Como funcionava o modelo de negócio?
A investigação apontou que os sites não apenas hospedavam o conteúdo, mas estruturavam o acesso e o compartilhamento das deepfakes como uma atividade rentável. O lucro vinha diretamente da venda desses arquivos manipulados.
O uso de algoritmos avançados permitia que as plataformas mantivessem um fluxo constante de novos materiais. Isso facilitava a manutenção da atividade criminosa através de montagens que tentavam replicar a realidade das vítimas.
A derrubada dos endereços eletrônicos busca desarticular a cadeia de distribuição desses vídeos. O objetivo é mitigar o impacto causado pela produção em massa de inteligência artificial aplicada à difamação de celebridades.
O caso reforça o debate sobre os limites do uso da inteligência artificial no ambiente digital. As autoridades seguem monitorando as ramificações do uso dessas tecnologias para a criação de conteúdos que ferem a dignidade de pessoas públicas.