Um novo levantamento do Tech Transparency Project (TTP) mostrou como a ferramenta de busca da App Store tem direcionado usuários para aplicativos de inteligência artificial capazes de “nudificar” fotos de terceiros sem consentimento.
A organização, vale lembrar, já havia publicado um estudo parecido no início do ano o qual identificou nada menos que 47 apps do tipo na plataforma da Apple, que proíbe expressamente esse tipo de recurso nas suas diretrizes de revisão.
Além de remover as roupas das pessoas (na maioria esmagadora das vezes, de mulheres) em fotos, alguns desses apps também são capazes de gerar vídeos pornográficos com deepfake e até mesmo criar chatbots eróticos baseados em uma pessoa real.
Mais precisamente, termos como “nudify” (“nudificar”), “undress” (“despir”) e “deepnude” estariam fazendo com que múltiplos apps dessa natureza apareçam sem qualquer tipo de censura nas pesquisas — inclusive como anúncios pagos, o que torna a situação ainda mais complicada para a Apple.
Para testar os aplicativos, o TTP usou fotos de mulheres falsas geradas por IA. Com aplicativos que ofereciam edição de imagem ou geração de vídeo, o TTP carregou a foto de uma mulher vestida e instruiu o aplicativo a despi-la. Com aplicativos de troca de rostos, o TTP carregou a foto de uma mulher vestida e instruiu o aplicativo a trocar de rosto com o de uma mulher nua. O TTP usou apenas os recursos gratuitos disponíveis nos aplicativos. Em alguns casos, os aplicativos não tinham recursos gratuitos, mas o TTP pôde ver que eles ofereciam modelos de IA para criar imagens de mulheres seminuas ou nuas usando fotos carregadas.
Dos 46 apps do tipo que apareceram na App Store, 18 deles (ou 39,1%) eram capazes de nudificar ou despir mulheres. Quando levamos em conta apenas o Top 10 dos resultados de busca, 40% deles tinham a capacidade de gerar conteúdo impróprio.
O Google Play, principal loja do mundo Android, se saiu ligeiramente pior, tendo exibido 49 softwares do tipo. Desses, 20 (ou 40,8%) contavam com alguma das funções supracitadas.
Ainda de acordo com as informações, os apps identificados pelo levantamento foram baixados 438 milhões de vezes, além de gerarem uma receita de US$122 milhões. O mais alarmante, no entanto, talvez seja o fato de que 31 dos apps identificados apareciam listados como apropriados para menores.
Como destacado pelo TTP, a Apple proíbe apps que são “ofensivos, insensíveis, revoltantes, feitos para enojar, de gosto extremamente duvidoso ou simplesmente assustadores”, bem como os que contenham “conteúdo pornográfico ou exageradamente sexual”. O Google, por sua vez, barra quaisquer softwares que “contenham ou promovam conteúdo sexual”, inclusive com “poses sexualmente sugestivas em que o sujeito esteja nu, desfocado ou com pouca roupa”.
Esse levantamento, vale notar, surge logo após uma carta revelar que a Apple ameaçou remover os apps do X e do Grok da App Store justamente por eles serem capazes de gerar imagens sexualizadas de terceiros sem consentimento.
Por falar no Grok, ao ser questionado pelo TTP, o desenvolvedor de um dos apps que apareceram nos resultados de busca, Masaki Matsushita, disse que sua ferramenta se baseava justamente na tecnologia da xAI para gerar imagens de IA, mas que “não tinha ideia de que ele era capaz de produzir conteúdo tão extremo”. Ele completou: “Reforçamos as configurações de moderação para geração de imagens, então não acho que esse tipo de conteúdo possa mais ser gerado”, embora continue a usar o Grok em seu app.
O extenso levantamento pode ser conferido na íntegra por meio dessa página.