Pesquisadores da Maldita.es, organização sem fins lucrativos de segurança online, revelam que vídeos de crianças geradas por IA com conteúdo sexualmente sugestivo têm acumulado milhões de curtidas no TikTok.
Mesmo com regras rígidas da plataforma, contas publicam vídeos de meninas geradas por computador usando roupas justas, lingeries ou uniformes escolares, muitas vezes com links para pornografia infantil, segundo a CNN.
Contas e conteúdos sob investigação
O estudo identificou mais de uma dúzia de contas publicando vídeos sexualizados de meninas geradas por IA, com centenas de milhares de seguidores no total.
Isso não tem nuances. Ninguém que seja uma pessoa real acharia isso aceitável ou não exigiria remoção.
Carlos Hernández-Echevarría, diretor assistente da Maldita.es, à CNN.
Algumas contas usaram o recurso “AI Alive” do TikTok para animar imagens estáticas, enquanto outros vídeos foram criados com ferramentas externas de IA. Muitos comentários incluíam links para chats privados no Telegram, oferecendo material ilegal para compra.
Entenda o que está acontecendo:
- Vídeos mostravam meninas em roupas sugestivas ou poses provocativas
- Comentários direcionavam usuários a sites externos de pornografia infantil
- Preços do conteúdo variavam entre 50 e 150 euros (R$ 270 a R$ 810)
- Contas acumulavam dezenas de milhares de seguidores e milhões de curtidas
TikTok e moderação de conteúdo
O TikTok afirma ter política de tolerância zero contra abuso ou exploração sexual de jovens, incluindo conteúdos gerados por IA. Entre abril e junho de 2025, a plataforma removeu mais de 189 milhões de vídeos e baniu mais de 108 milhões de contas.
Mesmo assim, o relatório da Maldita.es revelou que, após denúncias de 15 contas e 60 vídeos, 46 vídeos foram considerados fora das violações e permaneceram na plataforma, enquanto 14 foram removidos ou restringidos. Após recurso, mais três vídeos foram removidos.
“Não há absolutamente nenhuma possibilidade de um ser humano ver isso e não entender o que está acontecendo. Os comentários são extremamente grosseiros”, disse Hernández-Echevarría.
Pressão crescente por segurança online
O relatório surge em meio à pressão global sobre plataformas digitais para proteger usuários jovens. Recentes leis na Austrália, por exemplo, proibiram menores de 16 anos de acessar redes sociais.
Leia mais:
- Ursinho de pelúcia com IA que podia dar dicas sexuais para crianças é retirado do mercado
- TikTok é acusado de expor crianças a conteúdo pornográfico
- Do Brasil à Europa: como governos querem reforçar segurança para crianças nas redes
Estudos anteriores, como o da Global Witness publicado em outubro, apontaram que o TikTok sugeria termos altamente sexualizados para usuários de 13 anos no “modo restrito”, incentivando buscas problemáticas. A empresa afirmou ter removido conteúdos irregulares e melhorado seus recursos de sugestão de pesquisa.
O post Pesquisadores alertam sobre conteúdo sexualizado de menores no TikTok apareceu primeiro em Olhar Digital.