À medida que as empresas aceleram a automação, a cibersegurança pode enfrentar um novo desafio: controlar redes corporativas nas quais agentes de inteligência artificial (IA) conversam entre si e tomam decisões sem supervisão direta. Para evitar que erros sejam executados em cadeia, especialistas defendem que cada agente seja tratado como uma “identidade não humana”. Na prática, isso significa dar a cada algoritmo credenciais próprias, permissões mínimas de acesso e rastreabilidade total sobre o que ele faz nos sistemas da companhia.
No entanto, a verdadeira garantia contra falhas em grande escala exige um “botão de emergência” eficiente – o chamado kill switch, no jargão. Em entrevista ao Olhar Digital, a especialista em cibersegurança e COO da IAM Brasil, Nathalia Carmo, explica que esse mecanismo serve para “desligar a IA da tomada”. Mas não só isso. Ele precisa atuar na camada onde as ordens são cumpridas. Na prática, isso significa, por exemplo: bloquear APIs, revogar credenciais e cortar conexões em tempo real assim que o monitoramento detectar um comportamento atípico na rede.
Como as empresas devem rastrear agentes em rede para conter o ‘efeito manada’ da IAEssa urgência no controle surge porque o ambiente corporativo moderno deixou de lidar com IAs isoladas. Hoje, centenas de sistemas conversam entre si, usam dados da empresa e executam tarefas de forma encadeada. Por isso, monitorar apenas o software central tornou-se insuficiente para conter riscos nos sistemas das companhias.
Para fechar as portas contra brechas, a saída técnica é atribuir regras e permissões a cada programa autônomo. “A empresa precisa conseguir responder, em tempo real: qual agente iniciou determinada ação, com quais outros agentes ele interagiu, quais dados acessou, que ferramenta ou API utilizou e, principalmente, qual identidade efetivamente autorizou aquela execução”, explica a especialista.
A necessidade desse tipo de vigilância ficou evidente num estudo publicado na revista Science Advances recentemente. Os pesquisadores demonstraram que, quando centenas ou milhares de robôs de IA interagem em rede, eles passam a seguir a maioria. E entram em consenso sozinhos. Na prática corporativa, esse “efeito manada” autônomo significa que uma decisão errada pode se espalhar por toda a infraestrutura da empresa em questão de segundos.
Para evitar que essa reação em cadeia vire um desastre, os controles de cibersegurança precisam monitorar o comportamento do ecossistema inteiro em tempo real. Isso exige usar ferramentas de telemetria para identificar anomalias, como um aumento repentino nas chamadas de APIs ou o disparo sincronizado de operações entre vários robôs. A ideia é flagrar a mudança de padrão no grupo antes que a decisão incorreta seja concluída.
Por fim, a prevenção exige entender que uma rede de algoritmos pode gerar ações coletivas sem que um único agente seja o culpado direto. Para Nathalia Carmo, a solução é dar liberdade para o algoritmo analisar cenários, mas impor travas na hora de aplicar as mudanças. “Em outras palavras, podemos permitir que agentes tenham autonomia para decidir dentro de determinados limites, mas eles nunca deveriam ter autonomia irrestrita para executar”, explica a executiva.
Quer entender a pesquisa sobre o “efeito manada” entre agentes de IA? Confira esta matéria do Olhar Digital.
O post O ‘botão de emergência’ que empresas vão precisar para segurar IAs apareceu primeiro em Olhar Digital.