A Meta anunciou a adoção de novas ferramentas de IA para combater as redes de exploração infantil em suas redes sociais, como o Facebook e o Instagram. Anunciada nesta quarta-feira (07), a medida mira reduzir uma tática de veicular anúncios aparentemente inofensivos, que redirecionam usuários para materiais e sites fora dessas plataformas.
O pacote de segurança da Meta usa grandes modelos de linguagem (LLMs) treinados especificamente para identificar a prática de signposting. Esse termo é usado para descrever quando um anúncio é apenas uma fachada para atividades ilícitas, conectadas a plataformas ou sites externos.
Agora, o sistema avaliará não somente as imagens dessas propagandas, mas também o destino final do link embutido a elas. Além dos LLMs, a Meta implementou varreduras adicionais de publicidade feitas por IA e um agent de red-teaming. Na prática, esses recursos funcionam ao testar por conta própria as defesas da empresa para encontrar vulnerabilidades antes que elas possam ser exploradas por atores maliciosos.
Meta já removeu milhões de conteúdos de exploração sexual
Dados divulgados pela própria Big Tech indicam que entre janeiro e junho de 2026, foram removidos mais de 33,2 milhões de conteúdos de exploração sexual infantil nessas plataformas ao redor do globo. Cerca de 97% desse material foi identificado de maneira proativa pelos algoritmos das redes sociais, sem a necessidade de denúncias.
Um dos principais alvos dos criminosos foi a Índia, e por conta disso a Meta resolveu apertar o cerco no país. Somente no primeiro trimestre, mais de 5 milhões de conteúdos foram derrubados, com uma taxa de detecção proativa dos algoritmos de 98%. Como o volume de casos foi muito alto, a Meta fechou uma parceria com o Portal Nacional de Denúncias de Crimes Cibernéticos da Índia (I4C).
Cruzamento de dados
Para facilitar a detecção de conteúdos infantis ilícitos, a Meta salienta que seus algoritmos de IA trabalham em conjunto com sistemas como o PhotoDNA. Essa é uma tecnologia que usa cruzamento de imagens para detectar assinaturas digitais de arquivos já catalogados como ilegais. Esse tipo de recurso é constantemente utilizado para combater a pedofilia online.
Ao juntar a tecnologia com LLMs, os links maliciosos são encontrados e bloqueados pela empresa, então o sistema procura a plataforma e deleta publicações, comentários e anúncios antigos que contenham o mesmo tipo de assinatura.
Por fim, a companhia também explica que possui times de investigação formados por ex-agentes do FBI, responsáveis por analisar o comportamento das contas. O objetivo da Meta é não apenas banir contas isoladas, mas derrubar esquemas coordenados integralmente.
Apesar disso, o TecMundo já mostrou que leva apenas cinco minutos para o Instagram mostrar conteúdos pornográficos a uma conta nova no Reels. Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.