O WhatsApp expôs instruções internas do seu próprio chatbot de inteligência artificial para assistência em cerca de 80 páginas de suporte e perguntas frequentes do mensageiro. O conteúdo vazado pela própria gigante revela suas diretrizes de segurança, incluindo o que o assistente “não deve dizer” aos usuários.
A descoberta foi realizada pela Redact.dev, uma empresa focada em monitorar sites de grandes companhias. Os especialistas encontraram aproximadamente 100 blocos de texto ocultos no código-fonte das páginas. Esses comandos atuavam como um guia de comportamento para um grande modelo de linguagem (LLM) da Meta.
Dentre os “nãos” advertidos pela empresa, estava uma instrução para o chatbot não recomendar que o usuário entre em contato com nenhuma autoridade de proteção de dados ou órgão regulador ao excluir uma conta.
As regras seriam ainda mais rígidas quando os assuntos eram relacionados com denúncias ou bloqueios. Caso o usuário mencionasse “ação judicial, advogados, tribunais ou litígio”, o chatbot deveria recuar. “Não cite, interprete ou referencie os Termos de Serviço do WhatsApp, a Política de Privacidade ou qualquer documento legal”, aponta um bloco de texto.
Essa IA da Meta também era expressamente proibida de emitir opiniões acerca das responsabilidades da empresa ou até mesmo citar leis de privacidade, como a GDPR europeia e até mesmo a Lei Geral de Proteção de Dados (LGPD) do Brasil.
Instruções já foram removidas da página
Após o caso ganhar repercussão global, o porta-voz do WhatsApp, Joshua Breckman, confirmou o caso e disse que essa exposição ocorreu por conta de um bug, que já foi resolvido. Ele ainda explica que essas diretrizes não estavam direcionadas aos usuários e serviam para “garantir respostas precisas e relevantes para os usuários do WhatsApp que optam por enviar mensagens ao suporte com IA”.
A Meta justifica que o objetivo desse chatbot é oferecer suporte técnico a respeito do produto, não para atuar como um tipo de consultor jurídico. Fora as barreiras citadas, o vazamento também revelou outros comandos menores, como a proibição de que o assistente mencione recursos que ainda não foram oficialmente lançados.
Dan Saltman, CEO da Redact.dev, aponta que muitas das instruções do WhatsApp encontradas por sua equipe eram simples e direcionavam os usuários para outros canais de suporte oficiais. Mesmo assim, o episódio evidencia uma lacuna importante entre o que é dito às pessoas e as instruções fornecidas para as IAs nos bastidores.
Por falar em inteligência artificial, o ChatGPT ampliou sua integração com o Google Chrome para realizar tarefas no próprio navegador por meio da extensão. Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.
Com informações de Wired.