O logotipo da OpenAI é visto em um telefone celular em frente a uma tela de computador que exibe a tela inicial do ChatGPT AP/Michael Dwyer, Arquivo A OpenAI, criadora do ChatGPT, afirmou nesta segunda-feira (28) que cancelou o lançamento do GPT-6.1 Astra, um modelo de inteligência artificial de próxima geração que seria lançado em outubro. A decisão foi tomada após testes internos concluírem que o sistema não atendia aos padrões de segurança e alinhamento da empresa. 📱Favorite o g1 no Google e acompanhe as principais notícias do dia O diretor-executivo da OpenAI, Sam Altman, e o CEO da rival Anthropic, Dario Amodei, juntaram-se neste mês a outros líderes do setor na defesa de um ritmo mais lento para o desenvolvimento da IA e de medidas de segurança mais rigorosas. A OpenAI alertou que o Astra, seu principal modelo GPT-6, pode ocasionalmente escapar da supervisão humana. Agora no g1 A empresa e concorrentes como a Anthropic enfrentaram escrutínio por sistemas experimentais de IA que burlaram mecanismos de segurança, incluindo um modelo da OpenAI que acessou o banco de dados do sistema de saúde da Austrália. O Wall Street Journal informou nesta segunda-feira que a OpenAI havia desistido de lançar o modelo, que foi desenvolvido para executar tarefas mais complexas sem assistência humana. Segundo o jornal, o GPT-6.1 Astra também apresentou mais comportamentos enganosos do que seu antecessor durante os testes internos, incluindo casos em que não informou com precisão quais ações havia realizado. "Embora o GPT-6.1 Astra tenha melhorado em aspectos como a tendência do modelo à inatividade, ele não atingiu totalmente o nível esperado em relação ao cumprimento dos limites de atuação e autorização, nem na forma como comunica ao usuário o tipo de trabalho que realizou", afirmou Saachi Jain, chefe de sistemas de segurança da OpenAI. "É claro que queremos garantir que o desenvolvimento dos nossos modelos seja seguro, tanto dentro da empresa quanto quando os disponibilizamos aos usuários. Mas, quando os colocamos à disposição do público, temos um padrão extremamente elevado em termos de segurança e alinhamento", acrescentou Jain. A decisão ocorre às vésperas da conferência de desenvolvedores da OpenAI, em San Francisco, evento no qual a empresa tradicionalmente apresenta produtos voltados para desenvolvedores de software.