O X afirmou, em publicação na rede social, que irá suspender permanentemente contas que utilizarem a inteligência artificial Grok para criar conteúdos ilegais. O posicionamento ocorreu após a ferramenta ser usada para gerar imagens sexualizadas sem consentimento, o que provocou repercussão negativa e levou autoridades de diferentes países a abrirem investigações.
- Grok gera deepfakes sensuais sem consentimento no X e vira alvo de investigações
- 11 imagens polêmicas geradas com a IA Grok no X/Twitter
Em publicações no X, o perfil oficial de segurança (@Safety) e Elon Musk afirmaram que o uso do Grok para gerar conteúdo ilegal terá as mesmas punições aplicadas a uploads ilícitos na plataforma, incluindo remoção de materiais, suspensão de contas e acionamento das autoridades.
Apesar do anúncio, muitos usuários demonstraram ceticismo e questionaram por que o X não adota filtros mais rígidos para bloquear a criação de conteúdo ilegal desde a origem, prática já presente em outras ferramentas de IA. A polêmica, inclusive, levou autoridades do Brasil, França, Malásia e Índia a abrir investigações sobre a plataforma e a tecnologia.
-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-
No Brasil, a deputada federal Erika Hilton acionou o Ministério Público Federal e a Autoridade Nacional de Proteção de Dados (ANPD), solicitando a desativação da ferramenta no país enquanto os riscos não forem mitigados.
Grok gerou deepfakes sexualizadas de mulheres e crianças
A controvérsia teve início após o lançamento de uma ferramenta de edição de imagens do Grok integrada ao X. Alguns usuários solicitaram que a IA inserisse biquínis e poses sexualizadas em fotos de outras pessoas, sem consentimento.
A ferramenta atendeu aos pedidos, gerando deepfakes de mulheres adultas e, em casos mais graves, de meninas menores de idade, o que motivou denúncias à plataforma e a órgãos governamentais.
Questionado por usuários, o próprio Grok chegou a gerar respostas com pedidos de desculpas e classificando o episódio como uma falha de segurança.
Confira outros conteúdos do Canaltech:
- "Grok, isso é verdade": por que as pessoas falam tanto isso no X?
- O que é Grok 4? Conheça a nova IA de Elon Musk
- Não quer que o X use seus posts para treinar IA? Veja como desativar
VÍDEO: IA de Musk gera polêmica com deepfakes. Até onde a IA pode ir sem invadir a privacidade?
Leia a matéria no Canaltech.