O TikTok está desativando um recurso de inteligência artificial que estava em teste e gerou erros grosseiros. O sistema descrevia vídeos de forma equivocada, associando pessoas e situações a objetos e cenas que não tinham relação com o conteúdo exibido. A informação foi confirmada por um porta-voz da empresa ao Business Insider.
- TikTok testa recurso de IA que está assustando criadores
- Sabia que os funcionários do TikTok podem ler suas mensagens privadas no app?
O recurso, chamado de "AI overviews", funcionava como um resumo gerado automaticamente para contextualizar o que aparecia nos vídeos, com a proposta de indicar conteúdos e produtos semelhantes ao que estava na tela e explicar o que estava acontecendo na cena.
O problema é que, em vários casos, o sistema produziu descrições sem qualquer relação com as imagens.
-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-
O Business Insider listou alguns dos erros mais absurdos registrados. Um vídeo simples da influenciadora Charli D'Amelio, sentada em frente a uma parede branca e falando diretamente para a câmera, foi descrito pela IA como "uma coleção de mirtilos variados com diferentes coberturas".
Um vídeo da cantora Shakira divulgando uma música nova virou "uma sequência repetitiva de formas azuis distintas aparecendo e se movendo pela tela". Um clipe de um adestrador explicando por que cães mexem as patas após fazer suas necessidades foi classificado como "uma exibição cativante de arte em origami intrincado, meticulosamente dobrado a partir de uma única folha".
Recurso limitado e reformulado
O recurso estava disponível para um grupo restrito de usuários nos Estados Unidos e em alguns outros mercados, segundo o porta-voz, que o descreveu como um experimento.
O TikTok não informou quais modelos de IA foram usados para alimentar o sistema, apenas que ele podia recorrer tanto a tecnologias próprias quanto a produtos de terceiros, conforme uma descrição exibida dentro do aplicativo.
Após as reclamações dos usuários, o recurso foi reformulado. A versão atual se limita a identificar produtos que aparecem nos vídeos, sem tentar descrever o conteúdo completo da cena.
Os erros registrados lembram episódios semelhantes vividos por outras empresas. Em 2024, o Google lançou seu próprio "AI Overviews" e o sistema afirmou, com confiança, que um cachorro havia jogado na NHL — a principal liga de hóquei no gelo dos Estados Unidos. Em outro caso citado pelo Business Insider, a ferramenta sugeriu adicionar cola à pizza para evitar que o queijo escorregasse.
Um estudo recente da empresa de IA Oumi, indicou que o AI Overviews do Google acerta em cerca de 90% das consultas atualmente, dado que mostra evolução, mas também evidencia que alucinações ainda fazem parte do dia a dia dessas ferramentas.
Leia a matéria no Canaltech.