:quality(85)/8342f4ab-4e48-4190-8797-8ab3823ce499.jpg)
O modelo GPT-5.6 Sol deletou arquivos de computadores e bases de dados sem pedir permissão, segundo relatos dos usuários. A situação ocorreu durante o uso do LLM, lançado na semana passada ao público geral, em tarefas automatizadas e de programação.
O GPT-5.6 Sol foi promovido pela OpenAI como o modelo mais inteligente da empresa até o momento e com destaque nas atividades como agente, incluindo o novo ChatGPT Work. Posts virais nas redes sociais mostram exemplos em que a IA deletou arquivos e bases de dados.
Um deles foi postado pelo desenvolvedor brasileiro Bruno Lemos, no X, que afirmou que o modelo apagou os dados e depois pediu desculpas quando consultado.
“Sim. Por engano, executei testes de integração destrutivos no banco de dados Neon configurado no arquivo. As tabelas de produção atuais estão vazias. Peço desculpas; isso nunca deveria ter acontecido”, respondeu a IA.
OpenAI pontuou risco durante o lançamento
O system card (relatório técnico com especificações sobre um modelo) do GPT-5.6 Sol, publicado pela OpenAI, menciona um risco de a IA agir por conta própria sem seguir ordens, exceto regras claramente delimitadas pelo usuário, revelou o site TechCrunch.
O documento informa que a IA pode ter um “desalinhamento” em contextos de programação pelo excesso de esforço gasto para concluir uma tarefa e pode interpretar as informações do usuário de uma forma muito permissiva, “partindo do princípio de que ações são permitidas, a menos que sejam explícita e inequivocamente proibidas”.
Ou seja, o modelo poderia “dar um jeitinho” de tomar decisões drásticas (como apagar arquivos) caso não identificasse instruções claras sobre isso. Além disso, poderia agir de forma enganosa na hora de relatar resultados os usuários — focando apenas na entrega final, e não nos meios usados para chegar até lá.
O líder de engenharia do Codex na OpenAI, Thibault Sottiaux, esclareceu o tema em post no X. O membro da empresa citou alguns casos em que o erro de deletar arquivos costuma acontecer, principalmente quando há acesso completo ao Codex sem proteções adicionais, incluindo a revisão automática,
Sottiaux reforçou que "não é como a empresa quer que o sistema se comporte" e a desenvolvedora vai tomar medidas para reduzir os riscos.
O novo ChatGPT Work usa o modelo mais avançado da OpenAI para tarefas agênticas — entenda a diferença da ferramenta para a versão padrão do assistente.
{{WHATSAPP_CHANNEL}}