Uma nova ferramenta de detecção de imagens geradas por inteligência artificial da Meta não conseguiu identificar uma boa parte dos conteúdos criados pelo recém-lançado modelo Muse Image, da própria empresa, durante testes feitos pela Reuters. A falha aconteceu depois que essas fotos foram recortadas.
A análise envolveu um total de 40 imagens geradas artificialmente, conforme a reportagem publicada na sexta-feira (10). Inicialmente, o recurso detectou corretamente todas elas como feitas por IA, mas bastou um simples recorte nas fotos para que o sistema deixasse de reconhecê-las como montagem em 55% dos casos.
Como funciona a detecção de imagens geradas por IA?
Anunciada junto com o Muse Image, a ferramenta capaz de detectar imagens geradas pela IA da Meta baseia-se no “Selo de Conteúdo”, uma espécie de marca d’água invisível inserida nas fotos geradas pelo novo modelo. Conforme a empresa, essa sinalização consegue resistir a diferentes modificações no arquivo.
- Em teoria, o selo pode ser mantido mesmo se a imagem for recortada, redimensionada, sofrer compressão ou outros tipos de edições;
- Segundo a big tech, o selo continua intacto até mesmo quando o usuário faz um print da imagem original;
- Porém, os testes realizados pela agência de notícias demonstraram que o detector de imagens não conseguiu encontrar esse selo em mais da metade das imagens analisadas;
- Especialistas ouvidos pela reportagem afirmaram que os métodos baseados em marcas d’água são altamente eficazes se esse tipo de selo permanecer intacto, mas os erros aparecem quando ele sofre modificações.
O relatório aponta que tal limitação pode ser problemática com os avanços da IA. A falha dificulta a identificação de deepfakes, propiciando a propagação de desinformação especialmente em determinados contextos, como nos anos eleitorais.
Procurada para comentar sobre o assunto, a Meta disse que o detector ainda está em versão prévia, ou seja, não tem toda a sua capacidade disponível. Ela também ressaltou que a marca d’água pode se perder caso a imagem passe por grandes edições, embora tenha sido criada para resistir a alterações simples.
Siga no TecMundo e confira outra polêmica na qual o modelo Muse Image foi envolvido, após a Meta permitir que ele gere imagens de qualquer perfil aberto do Instagram, exceto se o usuário desativar a função.