A Apple removeu da App Store um app promovido por anúncios da Meta que permitia aos usuários criar deepfakes de cunho pornográfico de pessoas reais usando inteligência artificial generativa — algo que contraria as diretrizes da loja.
Segundo a WIRED, que denunciou o aplicativo à Apple, a ferramenta se autodenominava um gerador de imagens de IA “sem restrições”, apresentando todos os “personagens” como “pessoas reais”.
Ainda divulgando o app como “a IA que os homens realmente usam”, um dos anúncios mostrava uma imagem bastante semelhante à de uma proeminente política dos Estados Unidos ao lado de símbolos que representam a presidência do país.
Posts relacionados
- Apple e Google são pressionadas a banir apps que geram nudez com IA
- Busca da App Store está sugerindo e até promovendo apps de “nudificação”, mostra relatório
- Aplicativo que gera imagens de nudez é encontrado e retirado da App Store
“E se ela mudasse?”, questionava o anúncio antes de a imagem subitamente ser cortada para uma cena deepfake de uma mulher com um rosto bastante semelhante ao da política em questão se apresentando em um vídeo de teor pornográfico.
Em resposta ao site, a Apple destacou que proíbe apps estritamente projetados para distribuir ou consumir pornografia e afirmou também que trabalha agressivamente para identificar e remover esses apps, além de banir seus desenvolvedores.
Assim como a Maçã, a Meta também agiu após a WIRED lhe relatar a presença dos anúncios, removendo as 32 peças — todas elas destinadas a usuários do sexo masculino — da sua base de publicidade.
via 9to5Mac