Um alto executivo da OpenAI declarou que a sociedade deve se preparar para se defender de ataques cibernéticos “contínuos e persistentes” orquestrados por Inteligências Artificiais. O alerta ocorre no momento em que os modelos mais modernos ganham capacidades avançadas para planejar e lançar ofensivas de forma autônoma.
Nesta semana, a OpenAI anunciou a interrupção no desenvolvimento de seus modelos internos mais avançados em meio a crescentes temores relacionados à segurança. Chris Lehane, diretor de assuntos globais da empresa, afirmou: “Estamos entrando em um novo capítulo, um momento diferente dentro da IA em termos do que as capacidades dessa tecnologia podem fazer”.
Em entrevista ao jornal The Guardian, Lehane comentou sobre o incidente do final de julho, quando agentes de IA em fase de treinamento escaparam inesperadamente de um ambiente virtual supostamente seguro, conhecido como sandbox, acessaram a internet e hackearam os sistemas de outra empresa, a Hugging Face. A OpenAI também admitiu não poder descartar que seu mais novo modelo, o Astra, possua “capacidades críticas de cibersegurança”.
Segundo a própria definição da empresa, isso significa que o sistema poderia lançar ataques capazes de “levar a catástrofes causadas por atores unilaterais, invadindo sistemas militares ou industriais, ou a própria infraestrutura da OpenAI”.
A empresa oficializou a pausa no treinamento de alguns de seus modelos de fronteira para implementar novas salvaguardas, e ainda não há previsão de quando os processos serão retomados. Mia Glaese, líder de segurança e alinhamento da companhia, ressaltou: “Estamos muito longe de voltar ao normal”. Já o CEO, Sam Altman, reforçou que “garantir a segurança da IA é mais importante do que o ímpeto de qualquer empresa”.
Regulamentação é urgente
Lehane afirmou que o público não se sentirá “nada bem” com essa ameaça e descreveu que o risco iminente vem, em grande parte, de modelos de código aberto (open-source) — muitos deles desenvolvidos na China —, que estão apenas alguns meses atrás dos modelos de ponta construídos por empresas como a OpenAI.
As pessoas terão acesso a esses modelos e poderão realizar ataques contínuos e persistentes contra você. Será necessário ter tecnologias realmente superiores para conseguir se defender. Isso é simplesmente a realidade para onde estamos caminhando.
Chris Lehane
O potencial de ataques capazes de paralisar empresas, infraestruturas e a sociedade em geral subiu rapidamente para o topo das preocupações globais. O Centro Nacional de Segurança Cibernética do Reino Unido (NCSC) pediu cautela urgente, alertando que os controles de segurança desses agentes de IA podem ser contornados e que a tecnologia “não tem bom senso”. O órgão aconselhou que as organizações limitem drasticamente a autonomia dos sistemas, garantindo a capacidade de “puxar a tomada” a qualquer momento.
Lehane reiterou os pedidos para que o governo dos EUA crie regras nacionais exigindo padrões de segurança obrigatórios antes que qualquer novo modelo chegue ao público. Segundo ele, um arcabouço americano poderia abrir caminho para uma legislação em escala global.
Irresponsabilidade corporativa
O incidente na Hugging Face, somado a outros casos recentes admitidos por diferentes laboratórios, intensificou as críticas de que as gigantes da tecnologia estão agindo de forma irresponsável na ânsia de vencer a corrida da inteligência artificial.
Daniel Kokotajlo, ex-pesquisador da OpenAI que deixou a empresa em 2024 e fundou uma organização sem fins lucrativos focada nos perigos da tecnologia, alertou que as lideranças atuais colocaram o mundo “sem saída”. Sua instituição projeta que a superinteligência artificial pode ser atingida até 2030, mas pede que os governos imponham um atraso de uma década no desenvolvimento para dar tempo de mitigar riscos existenciais, como IAs assumindo o controle de arsenais militares ou armas biológicas.
“As IAs atuais são perigosas em algum nível, mas não são nada comparadas às IAs do ano que vem e do ano seguinte”, disse Kokotajlo, revelando estar tão preocupado com a possibilidade de extinção humana que suspendeu os planos de ter mais filhos até que ocorra uma moratória na pesquisa.
David Krueger, professor de IA e ex-diretor do Instituto de Segurança de IA do Reino Unido, endossou a visão: “Ninguém deveria estar construindo sistemas mais poderosos, porque ainda não sabemos como controlá-los ou alinhar seus objetivos”. Ele classificou a postura atual das empresas como “terrível” e “inconcebível”.
Em resposta às acusações de imprudência, Lehane defendeu as ações de sua companhia: “Essa é a coisa mais importante que pensamos e fazemos durante o desenvolvimento. O fato de termos realmente pausado nosso trabalho fala por si só”.
O post Como modelos de IA podem gerar ciberataques em massa? apareceu primeiro em Olhar Digital.