Ferramenta gratuita da rede social X tem sido usada para criar imagens íntimas falsas Países estão pressionando o Grok, IA do bilionário Elon Musk, após diversos casos de usuários do X que estão usando o chatbot para gerar imagens falsas sexualizadas de mulheres e crianças, sem consentimento. O Reino Unido, por exemplo, abriu uma investigação contra a plataforma nesta segunda-feira (12), enquanto a Indonésia e a Malásia proibiram o uso do chatbot. A Índia, por sua vez, pediu explicações ao X e exigiu mais proteções na plataforma contra esses casos. Em 2 de janeiro, autoridades francesas denunciaram ao regulador de mídia do país imagens que mostravam menores usando “roupas mínimas”. Na ocasião, o Grok admitiu "falhas nos mecanismos de proteção" e disse que melhorias estavam sendo implementadas para evitar esse tipo de ocorrência. LEIA MAIS Idec pede que Brasil suspenda o Grok por violar direitos de crianças e mulheres 'Me sinto suja', diz brasileira vítima de foto editada de biquíni pelo Grok Rede Social X limita uso da inteligência artificial Grok para edição de imagens Na última semana, o g1 relatou o caso de uma brasileira que teve uma foto de biquíni manipulada. “Sentimento horrível”, disse a vítima após ser informada pela reportagem sobre a existência da imagem. Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de "trend" tanto no Brasil quanto em outros países. No Brasil, a prática ganhou repercussão quando a jornalista Julie Yukari denunciou à polícia que teve fotos manipuladas pela mesma ferramenta, no último dia 2. Nesta segunda, o Instituto de Defesa de Consumidores (Idec) pediu ao governo brasileiro que suspenda o Grok no país. O X restringiu o Grok a usuários pagantes na semana passada. A empresa afirmou ainda que remove todo conteúdo ilegal da plataforma e suspende permanentemente as contas envolvidas. “Qualquer pessoa que use ou provoque o Grok a produzir conteúdo ilegal sofrerá as mesmas consequências que se fizesse o upload de conteúdo ilegal”, disse. Investigação no Reino Unido A investigação contra o Grok no Reino Unido foi aberta pelo órgão regulador de mídia do país, a Ofcom, e tem o objetivo de determinar se as deepfakes geradas pelo chatbot violaram o dever da plataforma de proteger as pessoas contra conteúdos ilegais. Segundo o órgão, as imagens sexualizadas de crianças podem se enquadrar como "material de abuso sexual infantil”. O regulador está sob pressão para agir depois que o primeiro-ministro Keir Starmer declarou que as imagens produzidas pelo Grok eram “repugnantes” e “ilegais”. Segundo Starmer, o X precisa “assumir o controle” do Grok. Ele disse na quinta-feira (8) que a Ofcom tem total apoio do governo para adotar medidas contra a plataforma, informou a agência de notícias Reuters. No Reino Unido, é ilegal criar ou compartilhar imagens íntimas sem consentimento ou material de abuso sexual infantil, incluindo imagens sexuais geradas por inteligência artificial. Além disso, as plataformas de tecnologia devem impedir que usuários britânicos tenham acesso a conteúdo ilegal e removê-lo assim que tomarem conhecimento de sua existência. A Ofcom afirmou que, nos casos mais graves de descumprimento, pode pedir a um tribunal que determine que “provedores de pagamento ou anunciantes retirem seus serviços de uma plataforma” ou que provedores de internet bloqueiem o acesso a um site no Reino Unido. O X não respondeu imediatamente a um pedido de comentário da Reuters sobre a investigação da Ofcom. A Indonésia foi o primeiro país a suspender o Grok, no sábado (10). A decisão foi seguida pela Malásia, que determinou a proibição nesta segunda-feira (12). Grok, inteligência artificial criada por Elon Musk REUTERS/Dado Ruvic/Illustration