Um grupo de senadores dos Estados Unidos enviou hoje uma carta [PDF] para os CEOs 1 da Apple (Tim Cook) e do Google (Sundar Pichai) convocando-os a remover os aplicativos do X e do Grok das suas respectivas lojas. O pedido vem após as plataformas do bilionário Elon Musk se envolverem em um escândalo relacionado à geração não consensual de imagens sexualizadas de mulheres e até crianças.
Essa polêmica, para quem está por fora do assunto, ganhou o noticiário nos últimos dias após alguns usuários começarem a marcar o @grok em respostas no X, solicitando que o chatbot reimaginasse imagens publicadas na rede social, atribuindo-lhes um tom sexual — o que tem inundado a plataforma com deepfakes de pessoas reais e imagens de pornografia infantil.
A carta, assinada por Ron Wyden, Ed Markey e Ben Ray Luján (todos do Partido Democrata), argumenta que esses apps têm sido empregados na geração de imagens ilegais a despeito das diretrizes da App Store e do Google Play, que proíbem explicitamente esse tipo de conteúdo. Ela também pede que os apps sejam mantidos fora do ar “enquanto aguardam uma investigação completa”.
[…] Nos últimos dias, usuários do X têm usado a ferramenta de IA Grok do aplicativo para gerar imagens sexuais não consensuais de cidadãos reais em larga escala. Essa tendência inclui a modificação de imagens pelo Grok para retratar mulheres sendo abusadas sexualmente, humilhadas, feridas e até mesmo mortas. Em alguns casos, o Grok teria criado imagens sexualizadas de crianças — o tipo de conteúdo mais hediondo imaginável […]
Após a repercussão dessa “trend”, a xAI (empresa que mantém e desenvolve o Grok) tornou a habilidade de gerar imagens com o Grok a partir de respostas no X exclusiva para assinantes do plano Premium. Ela também disse que tomaria medidas “contra conteúdo ilegal no X, incluindo material de abuso sexual infantil, removendo-o, suspendendo contas permanentemente e trabalhando com governos locais e autoridades policiais, conforme necessário”.
No entanto, como apurado pelo The Verge, usuários gratuitos ainda podem gerar imagens sexualmente sugestivas por meio do site do Grok ou da aba dedicada ao chatbot no X. A rede social também conta com atalhos (tanto no iOS/Android quanto na web) que permitem editar, com a ajuda do Grok, qualquer imagem postada na plataforma em uma interface separada.
De acordo com uma pesquisa da AI Forensics compartilhada pela CNN Brasil, entre as mais de 50.000 solicitações de usuários ao Grok registradas entre 25 de dezembro e 1º de janeiro, foi encontrada “uma alta prevalência de termos como ‘dela’, ‘colocar/remover’, ‘biquíni’ e ‘roupa'”. Além disso, mais da metade das imagens geradas “continham indivíduos com roupas mínimas, como roupas íntimas ou biquínis, dos quais 81% eram indivíduos que se apresentavam como mulheres”.
Os senadores também aproveitaram a ocasião para cutucar a Apple e o Google, que removeram sem muita cerimônia [1, 2] — e a pedido do governo Trump — apps feitos para ajudar imigrantes a evitar abordagens de agentes do Serviço de Imigração e Alfândega (Immigration and Customs Enforcement, ou ICE):
[…] Ao contrário do conteúdo repugnante gerado pelo Grok, esses aplicativos não criavam nem hospedavam conteúdo prejudicial ou ilegal. Mesmo assim, baseando-se unicamente nas alegações do governo de que representavam um risco para os agentes de imigração, vocês os removeram das lojas de aplicativos.Esperamos que demonstrem um nível semelhante de responsabilidade e tomem medidas rápidas para remover os aplicativos X e Grok das lojas de aplicativos […]
Os senadores encerraram a carta pedindo para que Cook e Pichai enviem respostas por escrito até 23 de janeiro. Por enquanto, nem a Apple e nem o Google chegaram a se pronunciar sobre toda essa polêmica.
via 9to5Mac