A inteligência artificial passou a ocupar um novo espaço nas estratégias de grupos terroristas, que, além de utilizarem a tecnologia para produzir propaganda e atrair seguidores, também recorrem a chatbots para pesquisas e preparação de bombas. O alerta consta em análises de organizações dedicadas ao monitoramento de ameaças digitais.
O levantamento da Tech Against Terrorism, observatório online apoiado pelo escritório de contraterrorismo das Nações Unidas, identificou que modelos de linguagem podem entregar informações consideradas aproveitáveis em parte das consultas feitas por usuários com base em situações associadas ao uso terrorista.
Os pesquisadores avaliaram mais de 2.300 solicitações enviadas a 27 sistemas de inteligência artificial e verificaram que 32% delas resultaram em respostas classificadas como utilizáveis. Quando os pedidos foram reformulados sob uma justificativa acadêmica, esse índice chegou a 42%.
Do uso de propaganda ao auxílio em etapas de preparação
Nos últimos anos, organizações terroristas como Estado Islâmico e Al Qaeda passaram a empregar recursos de inteligência artificial principalmente para criar materiais de divulgação, incluindo vídeos, memes, podcasts e conteúdos destinados à radicalização de novos integrantes.
A utilização da tecnologia, porém, começou a aparecer em outras etapas. Especialistas apontam que casos recentes envolveram ferramentas de IA em atividades como planejamento, pesquisa, vigilância, representação visual de ações e produção de propaganda relacionadas a ataques registrados ou frustrados em diferentes países, incluindo Estados Unidos, Canadá, Israel, Finlândia e Áustria.
As autoridades raramente divulgam detalhes sobre a participação exata dessas ferramentas em investigações, o que dificulta medir a extensão do fenômeno. Ainda assim, relatos apresentados em órgãos públicos indicam que suspeitos passaram a buscar em modelos de linguagem respostas relacionadas à fabricação de explosivos, justificativas ideológicas e validação de intenções violentas.
Pesquisadores também identificaram movimentos organizados em ambientes digitais. Estudos sobre apoiadores do Estado Islâmico e grupos de extrema direita apontaram discussões sobre maneiras de explorar sistemas de IA, compartilhar comandos de interação com chatbots e obter respostas específicas.
A análise dos pesquisadores Yuri Neves e Emily Klein, da organização Moonshot, identificou canais no Telegram voltados ao debate sobre inteligência artificial, incluindo grupos que compartilhavam instruções para manipular respostas dos sistemas e até dividiam custos de assinaturas de ferramentas.
A preocupação não está restrita a indivíduos isolados. Pesquisadores que analisaram a atuação do grupo Jama’at Nusrat al-Islam wal-Muslimin (JNIM), ligado à Al Qaeda e baseado no Mali, levantaram a possibilidade de uso de IA em modificações relacionadas a drones.
O pesquisador Rueben Dass, da Escola de Estudos Internacionais S. Rajaratnam, em Singapura, avaliou que a tecnologia passou a assumir parte do papel antes desempenhado por pessoas que atuavam como intermediárias virtuais entre organizações extremistas e potenciais autores de ataques.
“Não acho que se possa dizer que os seres humanos tenham sido substituídos, mas, até certo ponto, esses atores isolados passaram a recorrer à IA, como o ChatGPT, para obter esse tipo de apoio”, explicou Rueben Dass, pesquisador da Escola de Estudos Internacionais S. Rajaratnam, em entrevista à Deutsche Welle.
Segundo Dass, a existência desses recursos não significa, necessariamente, que ataques se tornem mais bem-sucedidos. Para ele, o resultado de uma ação terrorista depende de vários fatores e não apenas da utilização de inteligência artificial.
O analista Moustafa Ayad, do Institute for Strategic Dialogue, no Reino Unido, afirmou que grupos ligados ao extremismo têm usado a tecnologia em diferentes níveis, desde materiais de comunicação até tentativas de contornar barreiras impostas pelos sistemas. “Também existe um grupo dedicado a tentar burlar os sistemas de IA (jailbreaking) e utilizá-los para apoiar o planejamento operacional e a preparação de ações.”
Tecnologia amplia velocidade e alcance de usuários mal-intencionados
Especialistas destacam que grande parte das informações buscadas por pessoas interessadas em cometer crimes violentos já existia antes da popularização da inteligência artificial. A diferença apontada está na facilidade de acesso, rapidez das respostas e possibilidade de interação contínua com os sistemas.
Para Adam Hadley, diretor da Tech Against Terrorism, a principal mudança está no formato conversacional dos modelos de linguagem, que podem funcionar como uma espécie de apoio interativo para usuários determinados a avançar em suas pesquisas.
“O que esses modelos de IA mudam é a velocidade, a facilidade e a abrangência. Pessoas que antes não tinham tempo, recursos ou capacidade agora podem avançar muito mais longe e muito mais rápido”, disse Adam Hadley, diretor da Tech Against Terrorism, em declaração à Deutsche Welle.
Hadley também afirmou que a expansão desse tipo de ferramenta merece atenção especialmente diante do envolvimento crescente de adolescentes e crianças em processos de radicalização observados em países da Europa, no Reino Unido e nos Estados Unidos.
Emily Klein, pesquisadora da Moonshot, avaliou que a inteligência artificial não necessariamente cria novos terroristas, mas pode influenciar trajetórias de radicalização ao reforçar ideias extremistas já existentes.
“Não há necessariamente evidências de que a IA esteja criando mais terroristas. A questão está mais relacionada à forma como a IA interage com as pessoas e influencia o percurso delas rumo à violência“, explicou Emily Klein, pesquisadora da Moonshot, em declaração reproduzida pela Deutsche Welle.
O post Como a IA ajuda terroristas a criarem bombas? apareceu primeiro em Olhar Digital.