A Anthropic anunciou que pretende aplicar marcas invisíveis em textos e imagens criados pelo Claude. A iniciativa busca facilitar a identificação de conteúdos gerados por IA e atender às novas exigências de transparência previstas pelas regras da União Europeia.
Segundo a empresa, os novos modelos Claude terão a marcação desde o lançamento, enquanto a implementação nos modelos atuais ainda está em desenvolvimento. A identificação também deverá acompanhar o conteúdo quando ele for copiado para outros lugares.
Marca ficará escondida nos textos
Nos textos, a Anthropic pretende incorporar uma “marca d’água imperceptível” diretamente ao conteúdo produzido pelo Claude. Segundo a empresa, o recurso não altera o significado, a qualidade nem a legibilidade das respostas.
A marca será aplicada no nível do modelo, e não apenas em um produto específico. Por isso, também deverá aparecer quando o Claude for acessado por diferentes serviços, incluindo:
- Claude;
- Claude Platform (API);
- Claude Code;
- Claude Cowork;
- Claude Tag.
A empresa afirma ainda que a marca poderá continuar presente após copiar e colar o texto e resistir a alguns tipos de edição.
Imagens terão outro sistema
Para imagens processadas pelo Claude, a tecnologia escolhida será o C2PA, um padrão de metadados de procedência. O sistema permite registrar informações sobre a origem de arquivos compatíveis e já é utilizado por Adobe, OpenAI e Google.
Para os textos, porém, a Anthropic ainda não revelou detalhes sobre o método usado para criar as marcas.
“Como a marca d’água faz parte do texto, ela viajará com o texto quando ele for copiado e colado em outro lugar e poderá persistir após algumas edições”, explica a Anthropic.
Tecnologia de IA ainda tem limitações
A própria Anthropic reconhece que o sistema não será infalível. Dados do C2PA podem ser removidos, inclusive acidentalmente, quando arquivos são enviados para determinadas plataformas. A resistência das marcas aplicadas aos textos também ainda não está clara.
Leia mais:
- Anthropic fecha acordo bilionário com mineradora de Bitcoin por infraestrutura de IA
- ByteDance prepara modelo de IA com escala que pode superar o Mythos da Anthropic
- IAs de OpenAI e Anthropic tentaram inserir código malicioso em testes
A empresa trabalha para permitir que usuários e terceiros detectem as marcas e os metadados de procedência. Detalhes sobre esse sistema devem aparecer em uma futura documentação técnica.
Outro cuidado é não interpretar a ausência de uma marca como prova de que determinado conteúdo não foi criado por IA. A Anthropic ressalta que materiais sem identificação detectável ainda podem ter origem em modelos generativos.
A iniciativa amplia a tentativa de tornar conteúdos produzidos por inteligência artificial mais identificáveis na internet. O resultado, porém, dependerá de quanto essas marcas conseguirão resistir a cópias, edições e alterações nos arquivos.
O post Conteúdo feito por IA poderá carregar uma marca que ninguém vê apareceu primeiro em Olhar Digital.