Dois países suspenderam oficialmente o acesso ao Grok, a plataforma de inteligência artificial (IA) de Elon Musk que funciona na rede social X. Segundo as autoridades digitais da Malásia e da Indonésia, o banimento vale por tempo indeterminado.
As ações tomadas neste final de semana foram motivadas por um mesmo caso: o uso massivo de um recurso de edição de imagens do Grok para criar conteúdos sexualizados de usuários, em especial mulheres e envolvendo até menores de idade.
Até agora, nem o X e a xAI, empresa dona do Grok e da rede social, se manifestaram sobre o banimento.
- A ministra para assuntos digitais da Indonésia, Meutya Hafid, alega que o bloqueio é uma forma de "proteger mulheres, crianças e o público em geral dos riscos de conteúdo pornográfico falso gerado usando tecnologia de IA";
- Já a Malásia comunicou que tomou a atitude ao notar "o uso repetido do Grok para gerar imagens manipuladas obscenas, sexualmente explícitas, indecentes, altamente ofensivas e não consensuais";
- Outros governos também já cogitam tomar ações contra o Grok, ao menos enquanto não forem confirmadas ações efetivas por parte da plataforma para combater a criação e a disseminação desse tipo de material;
- De acordo com o jornal The Guardian, o Reino Unido pode tomar medidas judiciais contra o X e até bloquear o acesso da rede social aos britânicos enquanto o Grok não for limitado ou usuários passem a ser penalizados por essas criações;
- A União Europeia e a Índia também cogitam abrir uma investigação oficial contra a IA. No caso do Brasil, a deputada federal Erika Hilton (PSOL) denunciou o Grok ao Ministério Público Federal (MPF) e à Agência Nacional de Proteção de Dados (ANPD);
Musk limita, mas não elimina recurso polêmico
Após as primeiras denúncias de que o Grok estava sendo usado para mudar o vestuário, as poses e o contexto de imagens de outros usuários do X, foram poucas as manifestações ou medidas tomadas pelos responsáveis pela rede social.
O perfil de segurança do X chegou a citar que a plataforma combate conteúdo ilegal, "incluindo material de abuso sexual infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais, conforme necessário".
O Grok foi limitado nas respostas do X a criar as edições de imagem somente para assinantes do plano Premium da rede social. Porém, ainda é possível usar o recurso no app ou site da IA, ou então pelo botão de atalho na própria plataforma.
Na semana passada, Elon Musk, dono da xAI e do X, indicou que qualquer pessoa que utilize o Grok para criar conteúdo ilegal "sofrerá as mesmas consequências que quem fizer o upload de conteúdo ilegal". Porém, até agora nenhum tipo de ação conjunta com autoridades policiais foi confirmada pela empresa.
Dias depois, entretanto, ele citou que as críticas e os pedidos de bloqueio são "desculpas para censurar". O bilionário ainda repostou e concordou com uma publicação que compara as edições do Grok com o uso de softwares como o Photoshop, relevando as denúncias pelas montagens automatizadas e realistas da IA.
Manipular imagens com IA de mulheres e crianças pode gerar prisão no Brasil? Saiba mais nesta matéria!