A OpenAI desativou, no fim de julho, sua equipe de preparedness, grupo encarregado de avaliar riscos graves associados aos modelos de inteligência artificial e formular medidas para reduzi-los.
Com a mudança, as atribuições antes concentradas no grupo foram distribuídas entre estruturas já existentes, com responsabilidades específicas para áreas como biologia e segurança cibernética. A alteração ocorre em um período de sucessivas mudanças nas estruturas de segurança da empresa.
A reformulação acontece enquanto a OpenAI se prepara para uma oferta pública inicial de ações que pode atingir grandes proporções. O encerramento da equipe se soma à saída de integrantes ligados à segurança e a outras dissoluções de estruturas voltadas à preparação para riscos de sistemas avançados.
Mudança na estrutura de segurança
A equipe de preparedness tinha como uma de suas principais funções examinar se os modelos desenvolvidos pela OpenAI poderiam apresentar ameaças de grande escala. O trabalho também envolvia a elaboração de estratégias destinadas a conter ou diminuir esses riscos, incluindo cenários nos quais um sistema pudesse agir de maneira nociva contra outras organizações.
Após o fim da equipe, a companhia optou por repartir esse trabalho conforme o tipo de ameaça analisada. Questões relacionadas à biologia e à cibersegurança, por exemplo, passaram a ser tratadas dentro de equipes que já faziam parte da estrutura da empresa.
Dylan Scandinaro, que havia chegado à OpenAI em fevereiro após passagem pela Anthropic, também teve suas atribuições alteradas. Ele deixou de comandar a estrutura de preparedness e passou a concentrar seu trabalho nas consequências associadas à chamada inteligência artificial com capacidade de aprimoramento recursivo.
A decisão representa mais uma alteração na organização das áreas de segurança da OpenAI. Nos últimos anos, a companhia também encerrou ou desmontou outras estruturas relacionadas à preparação para sistemas avançados, entre elas as equipes de prontidão para AGI e de superalinhamento.
O movimento ocorre paralelamente a outras mudanças de pessoal. Chloé Bakalar, responsável pela área de ética, Josh Achiam, que ocupava o cargo de Chief Futurist, e Johannes Heidecke, chefe de segurança, deixaram a empresa recentemente.
As transformações despertaram críticas de antigos integrantes da OpenAI. Jan Leike, que deixou a companhia em 2024, afirmou ao Financial Times que a empresa estaria deixando a segurança em segundo plano diante da busca por novos produtos. A avaliação do ex-funcionário aparece no contexto de uma sequência de mudanças que atingiram as equipes responsáveis por questões de segurança e preparação.
O desmonte da equipe, portanto, não significa necessariamente que todas as atividades relacionadas aos riscos tenham sido abandonadas. Conforme o relato publicado, parte dessas atribuições continua existindo, mas agora está espalhada por diferentes estruturas da companhia, em vez de permanecer reunida em uma equipe específica.
A reorganização ocorre em um momento particularmente importante para a OpenAI, que avança em direção a uma possível abertura de capital. O contexto financeiro e as mudanças sucessivas nas estruturas de segurança passaram a alimentar o debate sobre a prioridade dada pela empresa à gestão dos riscos associados à inteligência artificial.
O post OpenAI desativa equipe que avaliava riscos graves de seus modelos de IA apareceu primeiro em Olhar Digital.