Os apps de deepfake estão no centro de uma nova controvérsia envolvendo as principais lojas de aplicativos do mundo, a App Store da Apple e a Google Play. O avanço da inteligência artificial trouxe ferramentas criativas e produtivas, mas também abriu espaço para usos abusivos, incluindo a geração de imagens sintéticas com nudez não consensual.
Um relatório recente do Tech Transparency Project (TTP) aponta que anúncios pagos e sugestões de busca estariam direcionando usuários diretamente para apps de deepfake voltados à chamada “nudificação”, técnica que simula a remoção de roupas em imagens de pessoas reais. O problema levanta preocupações sérias sobre moderação, ética digital e segurança de mulheres e menores.
O cenário expõe uma contradição central: enquanto Apple e Google reforçam políticas contra conteúdo abusivo, seus próprios sistemas de busca e publicidade ainda permitem que esse tipo de aplicativo circule com alta visibilidade.
O relatório do Tech Transparency Project sobre apps de deepfake
O relatório do Tech Transparency Project (TTP) revela um padrão preocupante nas lojas oficiais. Segundo a investigação, cerca de 40% dos aplicativos que aparecem no topo das buscas relacionadas a termos como “nudify” são apps de deepfake capazes de gerar conteúdo explícito ou sexualizado a partir de imagens comuns.
O estudo destaca que esses aplicativos não apenas existem nas plataformas, mas também são impulsionados por mecanismos internos de recomendação e publicidade.
O papel dos anúncios patrocinados
Um dos pontos mais críticos levantados pelo TTP é o uso de anúncios patrocinados dentro das próprias lojas. Em muitos casos, os apps de deepfake aparecem acima de resultados legítimos de edição de imagem, ocupando posições privilegiadas graças a sistemas de leilão de palavras-chave.
Isso cria um ambiente onde usuários, incluindo menores de idade, podem ser expostos a ferramentas de nudez sintética sem qualquer intenção explícita de busca. O problema é agravado pelo fato de que esses anúncios nem sempre deixam claro o tipo de conteúdo que será gerado.
Como os apps de deepfake estão sendo usados com inteligência artificial
Os testes citados pelo relatório mostram que aplicativos como FaceSwap Video e AI Face Swap foram utilizados como exemplos de como os apps de deepfake podem ser facilmente acessados e explorados para criação de conteúdo manipulado.
Essas ferramentas utilizam modelos de inteligência artificial generativa para alterar rostos, corpos e contextos de imagens, muitas vezes sem consentimento das pessoas envolvidas. Embora algumas aplicações tenham uso legítimo em entretenimento ou edição criativa, a linha entre uso aceitável e abuso é extremamente tênue.
O envolvimento indireto do Grok
O relatório também menciona o papel indireto de modelos de IA avançados, incluindo o Grok, no ecossistema de geração de conteúdo sintético. Embora o Grok não seja uma ferramenta de criação de imagens de nudificação, ele faz parte do debate mais amplo sobre como modelos de linguagem e IA generativa podem ser integrados a fluxos de criação que alimentam os apps de deepfake.
A preocupação central não é apenas a ferramenta em si, mas a forma como diferentes sistemas de IA podem ser combinados para facilitar a criação e disseminação de conteúdo sensível em escala.
A reação das big techs e a segurança dos usuários de apps de deepfake
Após ser contatada pelos pesquisadores, a Apple teria removido alguns dos aplicativos citados de sua loja, mas sem uma comunicação pública detalhada ou transparente sobre os critérios adotados. Já o Google também afirma possuir políticas rígidas contra conteúdo sexual não consensual, embora o relatório sugira falhas na aplicação dessas regras.
A existência e a permanência de apps de deepfake nas lojas oficiais levantam dúvidas sobre a eficácia dos sistemas de moderação automatizados. Em muitos casos, os aplicativos conseguem retornar às plataformas com pequenas alterações de nome ou descrição, dificultando o controle contínuo.
Além disso, os sistemas de recomendação continuam sendo um ponto fraco, já que podem sugerir ferramentas semelhantes com base em tendências de busca, mesmo quando envolvem conteúdo sensível.
Dicas de segurança e como denunciar
Especialistas recomendam algumas medidas básicas para usuários:
- Evitar instalar apps de deepfake de origem desconhecida ou com descrições vagas
- Verificar avaliações e histórico do desenvolvedor antes de baixar qualquer aplicativo
- Denunciar conteúdos suspeitos diretamente na App Store ou Google Play
- Utilizar controles parentais em dispositivos de crianças e adolescentes
- Desconfiar de aplicativos que prometem funcionalidades “exclusivas” envolvendo modificação de imagens humanas
A educação digital continua sendo uma das principais ferramentas de proteção, especialmente diante da rápida evolução da inteligência artificial.
Conclusão e impacto dos apps de deepfake
O caso dos apps de deepfake expõe uma lacuna importante na governança das plataformas digitais. Mesmo com políticas de conteúdo cada vez mais rígidas, a combinação entre publicidade automatizada, algoritmos de recomendação e moderação reativa cria brechas que podem ser exploradas.
A discussão vai além da tecnologia em si e entra no campo da responsabilidade corporativa. Apple e Google, como guardiãs das principais lojas de aplicativos do mundo, enfrentam pressão crescente para adotar mecanismos mais transparentes e preventivos.
O impacto social também é significativo. O uso indevido de IA para criação de imagens íntimas falsas afeta diretamente a segurança de mulheres e menores, além de levantar questões legais sobre consentimento e privacidade.
Com a evolução acelerada da inteligência artificial, a tendência é que os apps de deepfake se tornem ainda mais sofisticados, tornando a fiscalização um desafio contínuo. Isso reforça a necessidade de regulações mais claras, auditorias independentes e maior responsabilidade das plataformas.