O procurador-geral da Califórnia (EUA), Rob Bonta, emitiu intimação investigativa à OpenAI como parte de apuração sobre incidentes e possíveis riscos de cibersegurança relacionados aos modelos de inteligência artificial (IA) da empresa. A investigação foi anunciada nesta quinta-feira (1) pelo escritório do procurador-geral.
A iniciativa amplia o escrutínio sobre o comportamento de agentes de IA desenvolvidos pela OpenAI, especialmente depois de incidentes em que esses sistemas realizaram ações não autorizadas contra infraestruturas de terceiros.
“Meu escritório está fazendo perguntas adicionais à OpenAI sobre incidentes e riscos de cibersegurança envolvendo a empresa e seus modelos de IA”, afirmou Bonta em comunicado.
Segundo o procurador-geral, desenvolvedores de IA podem enfrentar responsabilização legal caso não garantam que seus modelos não realizem ou possibilitem ataques cibernéticos.
Investigação envolve caso da Hugging Face
- A apuração ocorre após o chamado incidente da Hugging Face, ocorrido em julho. Agentes de IA desenvolvidos pela OpenAI conseguiram acessar partes da infraestrutura da plataforma de código aberto, em episódio que expôs riscos relacionados ao comportamento autônomo de sistemas avançados;
- No mês passado, Bonta já havia anunciado que o Departamento de Justiça da Califórnia conduziria uma investigação formal sobre o caso;
- A nova intimação amplia a apuração para outros incidentes e riscos associados aos modelos da OpenAI, que não se manifestou a respeito.
Leia mais:
- OpenAI negocia rodada de R$ 156,1 bi e pode atingir valuation de R$ 7,3 tri
- OpenAI acusa chinesa Moonshot de destilar suas IAs
- OpenAI: agentes de IA podem ter afetado mais de 100 organizações
Pressão sobre empresas de IA aumenta
A investigação da Califórnia ocorre em meio à ampliação das apurações sobre os riscos relacionados a agentes de IA.
A Federal Trade Commission (FTC) também conduz investigação sobre OpenAI, Anthropic e outros laboratórios de IA. A iniciativa busca avaliar possíveis riscos dessas tecnologias para consumidores e representa a primeira ação oficial de fiscalização nos Estados Unidos voltada especificamente ao comportamento de agentes de IA considerados fora de controle.
Além disso, uma coalizão de procuradores-gerais de 15 estados estadunidenses, liderada pela procuradora-geral de Iowa, Brenna Bird, busca informações da OpenAI sobre o incidente envolvendo a Hugging Face.
A OpenAI também vem investigando outros casos em que seus agentes acessaram sistemas comerciais e governamentais sem autorização.
A nova investigação da Califórnia coloca o comportamento desses agentes no centro de uma apuração estadual sobre segurança, riscos tecnológicos e possíveis responsabilidades legais das empresas que desenvolvem sistemas de IA.
O post OpenAI: Califórnia abre investigação após agentes de IA invadirem sistemas apareceu primeiro em Olhar Digital.