O Instituto Brasileiro de Defesa do Consumidor (Idec) solicitou, nesta segunda-feira (12), a suspensão do Grok no Brasil devido ao uso da ferramenta para a criação de deepfakes sexuais. O órgão afirma ter identificado “violações graves” associadas ao uso da IA integrada ao X (antigo Twitter).
- Grok alega restringir geração de imagens e deepfakes, mas ainda há brecha
- Como saber se uma foto foi criada por Inteligência Artificial
O ofício do Idec foi encaminhado ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital. O texto destaca que o recurso da plataforma infringe dispositivos do Código de Defesa do Consumidor (CDC) ao não oferecer níveis de segurança adequados para proteger usuários de danos potenciais.
O instituto também aponta que o uso do Grok viola parâmetros estabelecidos por legislações como a Lei Geral de Proteção de Dados (LGPD), o Marco Civil da Internet, o Estatuto da Criança e do Adolescente (ECA) e o recém-aprovado ECA Digital.
-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-
“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, pontua o Idec.
Reação internacional aos deepfakes no Grok
O uso da ferramenta de IA para criar deepfakes sexualmente explícitos já gerou reações em diferentes regiões do mundo. No Sudeste Asiático, Indonésia e Malásia bloquearam o acesso ao chatbot integrado ao X.
Autoridades de ambos os países classificaram o uso da IA para produzir conteúdos pornográficos falsificados como uma violação grave dos direitos humanos e da segurança digital.
Já no Reino Unido, foi aberta uma investigação contra o X, a fim de apurar possíveis violações de leis de segurança online. Caso as irregularidades sejam confirmadas, a empresa pode enfrentar multas de até € 18 milhões (cerca de R$ 113 milhões na cotação atual) ou 10% da receita global da companhia.
Leia também:
- Deepfakes estão fora de controle? Entenda os riscos e como se proteger
- Gemini agora identifica fotos criadas por IA; veja como usar
- É VERDADE que as imagens geradas por IA têm marca d’água oculta que você não vê
VÍDEO: Dicas para não cair em deepfakes #Shorts
Leia a matéria no Canaltech.