O Reddit revelou o segredo usado pela empresa para combater a avalanche de conteúdos gerados por IA: a própria inteligência artificial. De acordo com a plataforma, as técnicas de automação ajudaram a reduzir a quantidade de spam e votos falsos por lá.
Dados divulgados pela rede social revelam que mais de 23 milhões de visualizações de spam são bloqueadas diariamente antes mesmo de chegarem ao alcance dos humanos. Cerca de 25 mil posts de spam são identificados todos os dias, enquanto a exposição a conteúdo indesejado reduziu em 20% entre os primeiros três meses do ano.
Os bots de IA afetam até os votos, que fazem parte da dinâmica para destacar os melhores posts e comentários na plataforma — a rede derrubou cerca de 2 milhões de votos artificiais por dia nos últimos três meses.
-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-
IA para combater IA
Parece contraditório, mas a IA é a maior arma do Reddit contra a IA. A plataforma desenvolveu sistemas automatizados com a tecnologia para identificar possíveis sinais de contas de spam e agir rapidamente.
Após detectar os indícios, a plataforma usa LLMs para reconhecer os padrões coordenados de comportamentos falsos que podem passar despercebidos por outros sistemas de moderação e derruba os perfis.
Reddit contra o “slop”
O Reddit trava uma batalha há anos contra a ascensão da IA generativa e foca em ser uma plataforma voltada para humanos. Nos primeiros meses de sucesso do ChatGPT, o app restringiu o acesso aos LLMs que extraíam informações para treinamento, mas depois flexibilizou as medidas.
No começo do ano, o CEO da empresa, Steve Huffman anunciou um sistema de verificação de contas para conter o avanço de bots. Huffman entende que existem “bons bots”, mas focou em combater spam ou contas criadas para simular humanos.
Leia a matéria no Canaltech.