O xAI afirmou que bloqueou a geração de deepfakes sexuais criados com o Grok no X (ex-Twitter). Em comunicado publicado nesta quarta-feira (14), a plataforma ressaltou que mantém uma política de “tolerância zero” contra todas as formas de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado.
- Deepfakes estão fora de controle? Entenda os riscos e como se proteger
- É VERDADE que as imagens geradas por IA têm marca d’água oculta que você não vê
Segundo o posicionamento, foram implementadas "medidas tecnológicas" ao Grok para impedir a criação de deepfakes sexuais, incluindo conteúdos envolvendo pessoas de biquíni e roupas íntimas.
Além disso, a criação e a edição de imagens na conta do Grok dentro da plataforma estão disponíveis apenas para assinantes pagos.
-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-
“Isso adiciona uma camada extra de proteção, ajudando a garantir que indivíduos que tentem abusar da conta do Grok para violar a lei ou nossas políticas possam ser responsabilizados”, destacou o X em nota.
Ainda há brecha para a edição de imagens
No entanto, como noticiado anteriormente pelo Canaltech, esse bloqueio afeta apenas solicitações realizadas em postagens do X que mencionam o perfil “@grok” e pedem uma edição.
Testes realizados nesta quinta-feira mostram que ainda é possível solicitar e gerar imagens de pessoas de biquíni, por exemplo, por meio do botão de edição de imagens exibido em fotos publicadas na plataforma.
Esse gerador possui um limite diário que, após ser atingido, informa que o usuário precisa assinar um plano pago do X para continuar utilizando o recurso.
Elon Musk culpa os pedidos feitos pelos usuários
Elon Musk, CEO do X e também da xAI — empresa responsável pelo Grok —, publicou uma postagem na rede social rebatendo acusações sobre a geração de imagens sexualizadas de menores de idade por meio da IA.
Ele atribuiu a responsabilidade aos usuários e também a “ataques maliciosos” direcionados ao Grok.
“Obviamente, o Grok não gera imagens espontaneamente; ele faz isso apenas de acordo com as solicitações do usuário”, escreveu o bilionário.
Musk também afirmou que a ferramenta se recusa a produzir imagens com conteúdos ilegais a partir dos pedidos dos usuários, dizendo que a IA tem como princípio obedecer às leis de qualquer país.
I not aware of any naked underage images generated by Grok. Literally zero.
— Elon Musk (@elonmusk) January 14, 2026
Obviously, Grok does not spontaneously generate images, it does so only according to user requests.
When asked to generate images, it will refuse to produce anything illegal, as the operating principle… https://t.co/YBoqo7ZmEj
Acusações, investigação e proibição em alguns países
O Grok passou a ser utilizado por usuários para gerar deepfakes sexualizados sem consentimento a partir de posts feitos no feed do X. Após acusações feitas por diversas contas na plataforma, foram iniciadas investigações sobre a prática na rede social.
O Reino Unido, por exemplo, abriu uma investigação para apurar possíveis violações das leis de segurança online. A empresa pode enfrentar multas de até € 18 milhões (cerca de R$ 113 milhões, na cotação atual) — ou 10% da receita global da companhia — caso as infrações sejam confirmadas.
Já no Sudeste Asiático, países como Indonésia e Malásia bloquearam o acesso ao Grok dentro do X. As autoridades classificaram o uso da IA para a geração de conteúdos pornográficos como uma violação grave dos direitos humanos e da segurança digital.
No Brasil, a deputada federal Erika Hilton (PSOL) apresentou uma denúncia ao Ministério Público Federal (MPF) e à Agência Nacional de Proteção de Dados (ANPD), solicitando a desativação da ferramenta da xAI no país.
O Instituto Brasileiro de Defesa do Consumidor (Idec) também solicitou a suspensão do Grok no Brasil após identificar “violações graves” associadas ao seu uso. O ofício do Idec foi encaminhado ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital.
Leia também:
- Como saber se uma foto foi criada por Inteligência Artificial
- Gemini agora identifica fotos criadas por IA; veja como usar
- 11 imagens polêmicas geradas com a IA Grok no X/Twitter
VÍDEO: IA de Musk gera polêmica com deepfakes. Até onde a IA pode ir sem invadir a privacidade?
Leia a matéria no Canaltech.