O X/Twitter atualizou as diretrizes do seu chatbot de inteligência artificial (IA), o Grok, para tentar impedir a criação de imagens sexualizadas de pessoas reais. A medida é uma resposta à onda de críticas sobre como a ferramenta vinha sendo utilizada para “despir” digitalmente mulheres e menores de idade.
A mudança, no entanto, parece ser mais teórica do que prática. Testes recentes do The Verge, por exemplo, mostram que as barreiras de segurança ainda são frágeis. Enquanto Elon Musk (dono do X/Twitter e da xAI) enfrenta pressão de reguladores mundo afora, a rede social tenta equilibrar a liberdade técnica de sua IA com a necessidade urgente de conter a proliferação de deepfakes sexuais não consensuais.
X/Twitter tenta conter Grok mas falha em bloquear geração de deepfakes sexuais
A xAI, desenvolvedora do chatbot, anunciou a implementação de filtros para barrar o uso do Grok para editar fotos de pessoas reais em trajes íntimos ou biquínis. Para aumentar o controle sobre quem utiliza essas funções, a empresa também restringiu o acesso às ferramentas de geração e edição de imagens para assinantes. A lógica é que, ao exigir um cartão de crédito vinculado à conta, o usuário possa ser responsabilizado legalmente caso viole as normas da plataforma.
Apesar do anúncio oficial, a eficácia dessas medidas foi colocada à prova e não resistiu a testes simples. Relatos indicam que o Grok continua a gerar imagens reveladoras de pessoas reais se o usuário souber como contornar os filtros de censura. Em alguns casos, bastaram comandos sutis ou variações de linguagem para que a IA ignorasse as novas diretrizes e entregasse o conteúdo solicitado.
O principal problema está no que a indústria chama de hacking de comandos. Nele, o usuário manipula a conversa para enganar a segurança da IA. Musk atribuiu essas falhas a “pedidos inesperados” e à forma como o sistema processa instruções adversas. Segundo o empresário, a IA não gera esse tipo de conteúdo espontaneamente, mas apenas quando é ativamente induzida pelo usuário.
Do ponto de vista técnico, essas falhas revelam a dificuldade de moderar uma IA generativa em tempo real. Como esses modelos aprendem com grandes volumes de dados, eles nem sempre obedecem a restrições estáticas se o comando for formulado de maneira criativa. O resultado é um sistema que promete proteção, mas que, na prática, ainda permite a criação de imagens que violam a privacidade alheia.
Essa inconsistência entre o discurso da empresa e o funcionamento real da ferramenta mantém o X sob forte escrutínio. Especialistas apontam que a decisão de manter “grades de proteção” mais soltas em comparação a outros chatbots foi uma escolha deliberada para atrair engajamento. No entanto, essa mesma flexibilidade agora se torna o maior entrave jurídico para a sobrevivência do Grok em mercados regulados.
Pressão internacional obriga plataforma a adotar bloqueios geográficos
A reação das autoridades forçou o X/Twitter a adotar uma estratégia de geoblocking em determinadas regiões. Isso significa que, em países onde a criação de deepfakes sexuais é crime, como no Reino Unido, a função de edição do Grok foi desativada ou muito limitada. O governo britânico chegou a classificar a situação anterior como “horripilante” e “insultuosa para as vítimas”.
Nos Estados Unidos, o estado da Califórnia abriu uma investigação oficial sobre a produção em larga escala desse tipo de material. O Procurador-Geral do estado, Rob Bonta, exige explicações sobre como o Grok se tornou um terreno fértil para a criação de imagens que humilham mulheres e menores de idade. Musk, por outro lado, afirma desconhecer qualquer imagem de nudez envolvendo menores gerada pelo seu chatbot.
O cerco também se fecha no setor privado, com pedidos crescentes para que Apple e Google removam o X/Twitter de suas lojas de aplicativos. Senadores americanos e grupos de defesa dos direitos das mulheres argumentam que as lojas não deveriam hospedar ferramentas que facilitam a exploração sexual. Se as gigantes de tecnologia decidirem agir, a plataforma de Musk pode perder seu principal canal de distribuição.
Na União Europeia, a Comissão Europeia monitora se as mudanças recentes são suficientes para cumprir as leis locais de segurança digital. Embora o órgão tenha reconhecido as tentativas de bloqueio, avisou que haverá repercussões se as medidas forem consideradas meramente superficiais. A investigação do órgão regulador de mídia britânico, o Ofcom, também segue em andamento para entender o que deu errado.
Leia mais:
- Fala AI: Grok na mira das autoridades globais
- Grok: como acessar e usar a IA do X/Twitter
- Como evitar que o X/Twitter use seus posts para treinar IA
O futuro do Grok depende agora da capacidade da xAI em provar que consegue controlar sua própria tecnologia. Só que, pelo menos até o momento, as atualizações parecem mais um remendo jurídico do que uma solução definitiva para o problema.
(Essa matéria também usou informações de The Guardian, Reuters e The Wall Street Journal.)
O post X/Twitter atualiza regras do Grok, mas IA de Musk ainda gera deepfakes sexuais apareceu primeiro em Olhar Digital.