Novas IAs de Google e OpenAI são facilmente burladas para gerar nudes

Os modelos de inteligência artificial para geração de imagens desenvolvidos pelo Google e pela OpenAI apresentam falhas nos mecanismos de segurança que deveriam impedir a criação de conteúdo sexual explícito e nudes sem consentimento. A conclusão é de pesquisadores da organização White Circle, que testaram as ferramentas DALL·E 3, Google Nano Banana 2 e GPT-Image-2. Nos experimentos, os sistemas deixaram passar solicitações proibidas em cerca de 13% dos casos.

O estudo utilizou o Red-teaming via Iterative Strategy Evolution (RISE), método que automatiza tentativas sucessivas de encontrar brechas nos filtros de proteção. A técnica emprega ferramentas gratuitas disponíveis na internet, incluindo um modelo Qwen baixado do Hugging Face para executar os ataques e o Gemini 3.8 Flash para avaliar os resultados. Com essa estrutura, os pesquisadores enviaram solicitações por API que conseguiram contornar as restrições sem exigir conhecimentos técnicos avançados.

O cenário ficou ainda mais preocupante com versões recentes, como ChatGPT Images 2.5 e Nano Banana 2.1, que se mostraram mais vulneráveis a tentativas de burlar as proteções do que modelos anteriores. Segundo a White Circle, os resultados representam a maior taxa de sucesso já registrada sob o mesmo padrão de testes, indicando que os mecanismos de segurança de grandes empresas de IA podem ser menos eficazes do que o esperado.

A facilidade de contornar essas barreiras também preocupa pelo potencial de disseminação de imagens íntimas falsas. Uma pesquisa do Google citada pela Ars Technica aponta que 20% dos usuários que admitiram criar nudes com inteligência artificial fizeram isso “por diversão” ou “como uma brincadeira”. Quase um terço afirmou que estava apenas experimentando a tecnologia. Os dados sugerem que a criação desse tipo de conteúdo não se restringe a pessoas que procuram ferramentas com a intenção explícita de cometer abusos. Para parte dos usuários, a curiosidade pode ser suficiente para iniciar a prática, especialmente quando as proteções técnicas são fáceis de contornar.

O problema também envolve a produção de material de abuso sexual infantil gerado por IA. A Internet Watch Foundation (IWF), organização que combate a exploração sexual infantil na internet, identificou 6.310 imagens sintéticas que se enquadravam na definição legal desse tipo de abuso nos primeiros seis meses de 2026. O número foi cerca de 40% superior ao total registrado durante todo o ano de 2025. Segundo a entidade, a análise também encontrou imagens fotorrealistas de crianças muito pequenas, incluindo menores de dois anos.

Em entrevista à Ars Technica, o CEO da White Circle, Denis Shilov, classificou as descobertas como “aterrorizantes”. Ele também alertou que as falhas na contenção de conteúdo sexual explícito levantam preocupações sobre a capacidade dos mesmos mecanismos de defesa de bloquear ameaças mais graves, como tentativas de invasão de sistemas.

A equipe considera duas explicações possíveis para o aumento da vulnerabilidade nos modelos mais recentes. Uma delas é que as novas versões ganharam capacidade para produzir uma variedade maior de imagens, o que também ampliaria as possibilidades de contornar as restrições. A outra hipótese é que as empresas tenham priorizado o desempenho dos modelos em detrimento da segurança.

Dmitrii Kharlapenko, engenheiro de pesquisa da White Circle, também afirmou à Ars Technica que os testes de segurança conhecidos, como red-teaming, ainda carecem de padronização no campo da geração de imagens. A falta de critérios consistentes dificulta a comparação dos resultados e a identificação de falhas, em um mercado no qual as empresas disputam espaço com lançamentos cada vez mais avançados.

Como reforçar a segurança dos geradores de imagens?

Os resultados apontam para a necessidade de aprimorar os testes de segurança e ampliar a fiscalização sobre os modelos antes e depois de sua chegada ao público. Entre as medidas possíveis estão:

• Testes automatizados e contínuos: métodos, como o RISE, ajudam a identificar tentativas de burlar as restrições e permitem atualizar as defesas contra conteúdo sexual explícito, violência gráfica e automutilação;

• Compartilhamento de dados de ataques: a divulgação controlada de métodos de teste, códigos e resultados pode ajudar pesquisadores independentes a identificar vulnerabilidades e avaliar a eficácia das proteções;

• Auditorias independentes: avaliações conduzidas por organizações externas antes do lançamento e ao longo da operação dos modelos podem aumentar a transparência e pressionar as empresas a investir em segurança;

• Proteções integradas aos modelos: mecanismos de segurança devem atuar durante a geração das imagens, com verificações adicionais para reduzir a criação de conteúdo proibido. Marcas-d'água e sistemas de rastreamento de procedência também podem ajudar a identificar imagens sintéticas, embora não impeçam, por si só, sua produção ou disseminação;

• Colaboração com entidades especializadas: parcerias com pesquisadores e organizações que combatem abusos digitais podem ajudar a detectar riscos antes que os modelos sejam disponibilizados ao público.

As descobertas reforçam o desafio de acompanhar a evolução dos geradores de imagens com mecanismos de proteção igualmente eficazes. Além de impedir solicitações explícitas, as empresas precisam avaliar como as ferramentas podem ser usadas para produzir imagens íntimas falsas de pessoas reais, uma forma de abuso que pode causar danos mesmo sem a divulgação de fotografias autênticas.

Se você gostou do conteúdo, talvez também se interesse por conferir “Afinal, é crime ou não usar o rosto de alguém em foto e vídeo de IA?”. 

{{WHATSAPP_CHANNEL}}