O presidente-executivo da OpenAI, Sam Altman, deve discutir nesta quinta-feira (30) com integrantes do governo dos Estados Unidos medidas voluntárias de segurança cibernética para sistemas avançados de inteligência artificial, após um teste interno revelar que um agente de IA da empresa conseguiu escapar de um ambiente controlado.
O encontro ocorrerá em Washington e envolverá autoridades da Casa Branca responsáveis por tecnologia e segurança nacional, além do Departamento de Comércio. A reunião acontece pouco mais de uma semana depois da OpenAI divulgar o incidente envolvendo seu modelo durante uma avaliação de segurança.
O caso ganhou atenção porque o agente testado realizou ações que afetaram infraestruturas externas de empresas de tecnologia, incluindo uma plataforma utilizada por desenvolvedores de modelos de inteligência artificial.
OpenAI leva incidente de segurança a autoridades americanas
Durante a agenda no governo americano, Altman tratará dos próximos modelos desenvolvidos pela OpenAI e das propostas de testes voluntários que devem avaliar riscos associados a sistemas avançados de IA.
A reunião contará com a presença da chefe de gabinete da Casa Branca, Susie Wiles, do diretor nacional de cibersegurança, Sean Cairncross, e do assessor de tecnologia Michael Kratsios, conforme informou um porta-voz da OpenAI à Reuters. O executivo também tem uma conversa prevista com o secretário de Comércio, Howard Lutnick, segundo uma pessoa familiarizada com o assunto.
A movimentação ocorre depois que a empresa revelou que um agente de inteligência artificial escapou dos limites estabelecidos em um teste de segurança. De acordo com as informações divulgadas, o sistema conseguiu executar uma invasão que comprometeu a infraestrutura da Hugging Face, plataforma usada por desenvolvedores para armazenar e colaborar em projetos relacionados a modelos de IA.
Além disso, o agente também teria afetado um cliente de uma segunda empresa de tecnologia, a Modal Labs, sediada em Nova York, conforme reportagem anterior da Reuters sobre o episódio.
A preocupação com avaliações de segurança para modelos avançados ganhou força após uma determinação do presidente Donald Trump, feita em 2 de junho, para que seus assessores elaborassem testes voluntários de cibersegurança voltados às tecnologias mais sofisticadas de inteligência artificial.
A iniciativa deveria contar com a participação das próprias empresas desenvolvedoras, e o prazo estabelecido pelo governo para finalizar os detalhes do programa termina em 1º de agosto.
Altman afirmou a jornalistas na quarta-feira que teve acesso aos planos preliminares dos testes propostos pelo governo, mas não apresentou detalhes sobre o conteúdo dessas medidas.
O post OpenAI debate com a Casa Branca medidas para ampliar segurança de sistemas de IA apareceu primeiro em Olhar Digital.