TikTok testa sistema para identificar contas que usam inteligência artificial para criar spam
Rede social quer combater uso indevido de IA para proteger criadores originais e fortalecer segurança de conteúdos.
Por Diário Local
O TikTok anunciou, nesta sexta-feira (10), o fortalecimento de seus mecanismos de segurança e ferramentas para ajudar usuários a identificarem conteúdos gerados por inteligência artificial (IA). A iniciativa busca combater o uso indevido da tecnologia, especialmente na criação de spam em larga escala.
A medida visa proteger criadores autênticos, que podem ter seu alcance prejudicado pela disseminação de materiais automáticos. Segundo a companhia, o uso indevido da IA pode ofuscar o trabalho de produtores de conteúdo originais na plataforma.
Entre as novidades, o TikTok implementará padrões técnicos que adicionam metadados criptografados a imagens, vídeos e áudios. O recurso, chamado de “selo de procedência”, permitirá verificar a autoria, a data de criação e todas as ferramentas de edição utilizadas em cada arquivo.
A plataforma também anunciou novos recursos educacionais e aumentará os investimentos no fundo de letramento em IA. O objetivo é capacitar os usuários para lidar com as constantes evoluções dessa tecnologia.
Quais temas serão monitorados?
Nas próximas semanas, o TikTok testará sistemas de detecção aprimorados para identificar contas dedicadas ao spam gerado por IA. O foco inicial serão temas sensíveis que podem representar riscos à confiança ou ao bem-estar do público.
Os assuntos monitorados prioritariamente incluem política e atualidades, aconselhamento financeiro e conteúdos voltados à saúde. A ideia é mitigar o impacto de informações falsas ou automatizadas nessas áreas.
A rede social reforçou que já monitora esse tipo de prática e utiliza tecnologia para remover publicações inadequadas. Apenas no primeiro trimestre deste ano, a companhia removeu mais de 86 milhões de contas falsas.
Até o momento, o TikTok já classificou mais de 3 bilhões de vídeos como AIGC (conteúdo gerado por inteligência artificial). A identificação é feita por meio de uma combinação de credenciais de conteúdo, ferramentas de identificação de criadores e tecnologia de marca d’água invisível.