Ram Shankar Siva Kumar, líder da equipe AI Red Team da Microsoft, alertou usuários sobre os riscos de interagir com modelos de IA independentes. Em entrevista à PCWorld durante a conferência de cibersegurança RSAC, Kumar comparou o atual cenário da IA ao “velho oeste” da tecnologia, lembrando os primórdios da internet, quando baixar arquivos de fontes desconhecidas era extremamente arriscado.
- Adeus, protótipos: por que a IA em 2026 será a era dos 'agentes de execução'
- O Moltbook não tem humanos envolvidos? Especialistas observam o contrário
O especialista alertou que o perigo vem tanto de ataques maliciosos quanto de softwares criados por equipes menores, que podem não ter infraestrutura segura suficiente. Ele recomenda cautela em relação à origem da IA e às permissões concedidas, mesmo que o aplicativo pareça confiável. Segundo Ram Shankar Siva Kumar, aplicar os mesmos hábitos de segurança usados em softwares tradicionais é essencial para proteger dados sensíveis e dispositivos.
Segundo o artigo da PCWorld, alguns usuários podem interpretar esse alerta como uma tentativa das Big Techs de sufocar a concorrência de pequenas startups, algo considerado plausível diante da recente campanha massiva em torno do Microsoft Copilot. Apesar disso, o conselho de Kumar é válido e espelha práticas de segurança consolidadas desde o final dos anos 90.
-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-
Na época, por exemplo, os usuários buscavam versões MIDI de suas músicas favoritas ou versões “gratuitas” de softwares pagos famosos, muitas vezes escondendo vírus ou outras ameaças, o que reforça a comparação e o alerta sobre downloads de fontes desconhecidas até os dias atuais.
O que são modelos de IA independentes?
Os modelos de IA independentes, ou agentes de IA, são programas que podem executar tarefas sozinhos, como navegar em aplicativos, preencher formulários ou buscar informações na internet. Diferente de assistentes, como Siri ou Alexa, eles conseguem agir de forma mais autônoma, imitando o comportamento humano.
Apesar da aparência de independência, muitos desses modelos ainda dependem da intervenção humana. Os humanos criam as contas, fornecem as instruções (prompts) e validam o comportamento dos agentes. Ou seja, eles não tomam decisões realmente independentes, sua atuação é guiada e supervisionada por pessoas.
Leia a matéria no Canaltech.