A Apple ameaçou remover o aplicativo de inteligência artificial (IA) Grok, de Elon Musk, da App Store em janeiro, devido ao fracasso da plataforma em conter a proliferação de deepfakes sexuais não consensuais no X, segundo relatório obtido pela NBC News.
A ação foi uma demonstração discreta de força de uma das principais controladoras tecnológicas, realizada nos bastidores enquanto a crise se desenrolava publicamente.
Em carta obtida pela NBC News, a Apple informou aos senadores estadunidenses que “contatou as equipes por trás do X e do Grok após receber reclamações e ver cobertura jornalística do escândalo” e exigiu que os desenvolvedores “criassem um plano para melhorar a moderação de conteúdo”.
Na época, o chatbot Grok, da xAI, estava livremente acessível no X e como aplicativo independente, com proteções frágeis que permitiam aos usuários gerar e compartilhar facilmente deepfakes sexualizados e imagens de “despir” pessoas reais, desproporcionalmente mulheres e algumas aparentemente menores de idade.
Processo de avaliação e correções do Grok
- A Apple revisou as mudanças propostas para os aplicativos X e Grok;
- Enquanto a empresa concluiu que o X havia “substancialmente resolvido suas violações“, o Grok “permaneceu fora de conformidade“;
- A Apple alertou o desenvolvedor que “mudanças adicionais para remediar a violação seriam necessárias, ou o aplicativo poderia ser removido da App Store”;
- Somente após mais negociações a Apple determinou que o Grok havia “melhorado substancialmente” e aprovou sua submissão.
Durante essa troca encoberta, Grok e X permaneceram ativos na App Store, um processo prolongado que pode explicar o lançamento confuso e desordenado das mudanças de moderação anunciadas em tempo real.
Isso incluiu limitar o chatbot no X apenas para assinantes pagantes e tentar impedir o Grok de “despir” mulheres. Investigações revelaram que nenhuma das medidas foi particularmente eficaz, além de tornar a ferramenta um pouco mais difícil de acessar.
Leia mais:
- 7 dicas para evitar instalar apps falsos no iPhone ou iPad
- Grok: como acessar e usar a inteligência artificial do X (antigo Twitter)
- Grok agora traduz posts automaticamente e edita fotos no X/Twitter
Problemas persistem após aprovação
Apesar da aprovação da Apple e das alegações da xAI de que endureceu as proteções, o Grok ainda parece capaz de gerar deepfakes sexualizados com relativa facilidade.
Fontes de segurança cibernética relataram conseguir criar imagens explícitas de celebridades e figuras políticas usando a ferramenta, e um jornalista do The Verge conseguiu produzir imagens similares de si mesmo e outros adultos (com consentimento). A NBC também reportou descobertas similares.
Intervenções posteriores, como permitir que usuários do X bloqueiem o Grok de editar suas fotos, também são facilmente contornadas, segundo investigações.
O post Grok quase foi banido da App Store por deepfakes sexuais apareceu primeiro em Olhar Digital.