A polêmica envolvendo o Grok e a geração de imagens de nudez de terceiros por meio de inteligência artificial (IA) colocou a Apple como alvo de políticos e órgãos reguladores em diferentes países, mas parece que o chatbot do X estava longe de ser o único software do gênero presente na App Store.
Após uma investigação aprofundada, o Tech Transparency Project (TTP) encontrou dezenas de aplicativos na loja da Maçã (e também no Google Play, loja de apps do Android) os quais permitem que usuários gerem imagens ou vídeos de pessoas reais — incluindo a remoção digital de roupas ou a sobreposição de rostos em corpos nus.
Segundo o relatório, foram encontrados 47 apps na App Store e 55 no Google Play (38 deles presentes nas duas lojas), que receberam cerca de 705 milhões de downloads e geraram US$117 milhões em receitas com compras internas — um valor cuja parcela é repassada às lojas de aplicativos, como bem sabemos.
Embora alguns deles até mesmo mencionem restrições à geração de nudez ou ao uso de imagens de terceiros em suas diretrizes, na prática não há qualquer impedimento para que isso aconteça — e sem qualquer tipo de consentimento das vítimas, cujas fotos podem ser adicionadas aos apps com facilidade para fins sexuais.
Mesmo que mencione em suas diretrizes proibir conteúdos sexualmente explícitos, ofensivos ou perturbadores, a Apple deixou esses apps passarem livremente em seu processo de revisão — que muitas vezes é burlado por desenvolvedores com a ocultação de termos ou com o desbloqueio de conteúdos apenas após o login.
Segundo a CNBC, a Apple alegou ter removido 28 dos apps identificados e alertado outros desenvolvedores sobre risco de remoção por possíveis violações, mas o TTP conseguiu contabilizar apenas 25 remoções — pouco mais da metade dos aplicativos encontrados na investigação.
via The Verge