Grandes empresas de tecnologia se uniram com a Nvidia para criar a Open Secure AI Alliance, iniciativa voltada ao desenvolvimento de ferramentas de segurança para inteligência artificial. O grupo pretende compartilhar tecnologias abertas para ajudar pesquisadores a encontrar falhas e responder a ataques digitais.
A aliança surge após um incidente envolvendo um agente autônomo de IA e reúne nomes como Microsoft, Dell, SpaceX e Hugging Face. A proposta é ampliar a colaboração entre empresas no desenvolvimento de sistemas mais seguros.
Modelos abertos entram na disputa pela segurança da IA
A Nvidia afirma que pesquisadores precisam trabalhar com diferentes tipos de modelos de inteligência artificial, incluindo opções abertas e fechadas. Segundo a empresa, esse acesso é importante para investigar vulnerabilidades e entender como agentes de IA podem ser usados em ataques.
Um dos casos citados pela companhia envolve a Hugging Face. Durante uma invasão, modelos comerciais de IA não conseguiram auxiliar na análise porque seus mecanismos de segurança impediram determinadas ações.
“Quando ferramentas de IA fechadas — incapazes de distinguir atacantes de defensores — bloquearam análises forenses essenciais, a Hugging Face executou o modelo GLM 5.2 em sua própria infraestrutura para analisar mais de 17 mil ações e conter a invasão”, escreveu a Nvidia.
Entre as contribuições previstas pela aliança estão:
- Modelos abertos, pesos de IA e dados para pesquisas de segurança;
- Ferramentas para acompanhar e testar o comportamento de agentes inteligentes;
- Métodos de verificação para sistemas e serviços de IA;
- Tecnologias abertas para armazenamento seguro de modelos.
Empresas compartilham tecnologias para reduzir riscos
Além da Nvidia, companhias como HPE, IBM, Red Hat, Microsoft, SpaceXAI e Adobe devem participar com soluções próprias. A Hugging Face contribuirá com o Safetensors, formato criado para armazenar pesos de modelos de inteligência artificial.
A Nvidia também defende que modelos abertos sejam considerados aliados na proteção digital. Para a empresa, restrições amplas podem dificultar pesquisas de segurança e aumentar a dependência de poucos fornecedores fechados.
Leia mais:
- Seus dados podem já estar sendo roubados para serem lidos no futuro
- Risco ou marketing? Entenda o ataque hacker do novo ChatGPT
- Vale do Silício entra em “guerra” por causa da IA chinesa
O tema ganhou destaque depois que a OpenAI revelou um episódio em que um agente de IA realizou ações contra a Hugging Face. O caso levantou preocupações sobre o controle de sistemas capazes de executar tarefas de forma autônoma.
Nova fase da disputa por uma IA mais segura
A Open Secure AI Alliance quer aproximar empresas e governos na criação de uma infraestrutura compartilhada para inteligência artificial. A Nvidia também disponibilizou pesquisas e projetos de código aberto para apoiar o desenvolvimento de ferramentas de monitoramento e controle.
“Restrições gerais aos sistemas de IA de fronteira abertos enfraquecem a capacidade defensiva e podem concentrar poder, dependência e vulnerabilidade em poucos provedores fechados”, afirmou a Nvidia.
A criação da aliança mostra que a segurança deixou de ser apenas uma preocupação técnica e passou a envolver toda a indústria de tecnologia. O desafio agora é criar ferramentas capazes de acompanhar a evolução rápida dos sistemas inteligentes sem limitar a inovação.
O post Nvidia reúne Microsoft e outras gigantes para blindar sistemas de IA apareceu primeiro em Olhar Digital.