Vídeos de caráter privado ou até da vida íntima de usuários estão sendo capturados pelos óculos inteligentes da Meta e são vistos por funcionários humanos. Essa é uma das conclusões de uma reportagem investigativa dos jornais suecos Svenska Dagbladet e Göteborgs-Posten sobre os dispositivos. A Meta afirma que os Termos de Serviço e as Políticas de Privacidade da Meta AI preveem essa revisão.
De acordo com a matéria, os clipes capturados quando o usuário faz gravações por conta própria ou interage com a Meta AI são enviados dos servidores da companhia para empresas terceirizadas que ficam em outros países. Uma delas é a Sama, que fica no Quênia e têm grandes escritórios com filas de funcionários que passam o dia analisando clipes na tela do computador.
No serviço, esses moderadores humanos são responsáveis por assistir a todo o conteúdo e ajudar no treinamento da inteligência artificial (IA) do produto, a partir de um auxílio na identificação de objetos em tela. Várias plataformas fazem isso, apesar de não ser algo divulgado por dar a entender que, na verdade, o sistema não seria tão autônomo assim.
O principal problema? Talvez o usuário nem sequer saiba que, naquele momento, algum conteúdo estava sendo capturado pelos óculos inteligentes — e muito menos que esse material viajaria o mundo para ser assistido por uma pessoa.
O que é gravado pelos óculos inteligentes?
A reportagem ouviu funcionários dessas companhias, que permaneceram anônimos para manter o emprego. Eles relataram várias situações constrangedoras envolvendo a revisão do material e reconhecem que o usuário dificilmente gostaria de ter aquele conteúdo visto por alguém.
- Alguns dos clipes visualizados incluem pessoas usando o banheiro, nuas, trocando de roupa ou até mantendo relações sexuais;
- Em outros casos, os óculos gravam documentos como registros médicos e até dados de cartões de crédito;
- Como o trabalho envolve também revisar as interações com a Meta AI, eles podem entrar em contato com perguntas sobre crimes;
- Além disso, a tecnologia de anonimização, que deveria borrar ou desfocar o rosto das pessoas envolvidas, nem sempre funciona como deveria e várias delas acabam totalmente visíveis.
Os óculos da Meta gravam vídeos somente mediante pedido do usuário, então é possível que algumas dessas gravações mais íntimas tenham sido por ativações acidentais ou feitas de propósito. Porém, a Meta AI também precisa usar a câmera para o reconhecimento de objetos e outras interações — e, nesses casos, os dados são processados pela infraestrutura da Meta.
A denúncia pode trazer problemas para a companhia em especial nos países da União Europeia, que têm leis de privacidade de dados mais rígidas. Até o momento, porém, não há declarações oficiais de autoridades sobre o assunto.
"Você fica pensando que, se eles soubessem sobre a quantidade dessa coleção de dados, ninguém ousaria usar os óculos", disse um dos moderadores humanos entrevistados.
O que diz a Meta
Os jornais suecos enviaram várias perguntas sobre a gravação de clipes pela Meta AI, a moderação humana e o envio de conteúdos privados para servidores de outros países, mas a empresa não respondeu todos os questionamentos.
Em resposta, uma porta-voz da companhia disse apenas que, quando as funções em tempo real de IA ao estão sendo usadas, "nós processamos essas mídias de acordo com a Termos de Serviço e as Políticas de Privacidade da Meta AI".
Nos termos de uso, consta que "em alguns casos, a Meta vai revisar suas interações com IAs, incluindo o conteúdo das suas conversas com ou mensagens para IAs, e essa revisão pode ser automatizada ou manual (humana)".
As políticas ainda sugerem que a pessoa não compartilhe algo "que você não queira que as IAs usem ou retenham, como informações sobre tópicos sensíveis".
Em breve, os óculos da Meta ainda podem ganhar a função de reconhecimento facial. Saiba mais por aqui sobre esse possível recurso.