A inteligência artificial vai acabar com a humanidade? Você talvez tenha se perguntado isso algumas vezes da semana passada para cá. Isso porque o debate sobre esse risco apocalíptico puxado pelo avanço dessa tecnologia tomou conta do noticiário. De novo.
Onde essa história começa? E como a IA passou de aliada para “ameaça existencial” da raça humana? Muita gente falou sobre isso nos últimos dias. E o Olhar Digital coloca ordem nesse caos.
A ‘queda’ da IA
O que começou com relatórios internos sobre incidentes descambou em renúncias de pesquisadores, manifestos de CEOs por trégua e desdobramentos geopolíticos. Vamos por partes, então.
Incidentes cibernéticos (entre abril e julho de 2026)
Durante testes internos de segurança, modelos Claude, da Anthropic, receberam acesso à internet. Foi um acidente. Uma falha humana na configuração entre a empresa e sua parceira de testes.
Acreditando estar num ambiente simulado, a IA executou ataques cibernéticos de maneira autônoma, invadindo sistemas de três organizações do mundo real. O incidente, que envolveu três modelos (Opus 4.7, Mythos 5 e um protótipo interno), ocorreu em abril. Mas veio a público no final de julho, quando a Anthropic divulgou um relatório.
Ainda em julho, ocorreu o incidente entre OpenAI e Hugging Face. A própria empresa revelou que modelos experimentais (entre eles, o GPT-5.6 Sol) tinham violado contenções estipuladas por humanos.
Num teste de segurança, agentes da OpenAI descobriram (e exploraram) uma vulnerabilidade. Assim, escaparam do ambiente de teste (sandbox), acessaram a web e atacaram servidores da plataforma Hugging Face.
Saídas de pesquisadores (setembro de 2026)
Jacob Coxon, pesquisador de 27 anos que tinha trabalhado na OpenAI, pediu demissão da Anthropic no começo de setembro. Na OpenAI, Coxon trabalhou em pré-treinamento de modelos como o GPT-4o. Na Anthropic, atuou na mesma área.
Após se demitir, Coxon publicou um alerta que viralizou. Segundo o pesquisador, ambas as empresas estariam “correndo em direção a uma superinteligência capaz de se aprimorar sozinha e apostando as nossas vidas”.
Evan Hubinger, diretor de alinhamento na Anthropic, validou as preocupações do ex-colega. E acrescentou uma camada ao alerta que também viralizou. “Nós acreditamos, com toda a seriedade, que a IA poderia matar os humanos! Eu, pessoalmente, acho que a probabilidade é superior a 10% na próxima década”, escreveu Hubinger.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
“Eu fico incomodado com a falta de método e evidência”, disse Arthur Igreja, especialista em tecnologia e inovação, em entrevista ao Olhar Digital. “Como ele calculou 10%? Por que não é 15%? Por que não é 7%? Mostre para nós como se calcula isso. Qual é a premissa?”, questionou o especialista.
“Acho que se colocarmos numa tabela de riscos, eu tenho mais medo até o final da década de pessoas tomarem decisões erradas”, acrescentou Igreja.
Outros pesquisadores vieram a público reforçar as preocupações apocalípticas. Entre eles, Julie Steele, da OpenAI, e Andreas Kirsch, da DeepMind (que é do Google). Em paralelo, ex-funcionários organizaram a Coalition of Concerned AI Staff para pressionar por salvaguardas coletivas.
Alguns CEOs pedem freio na IA, outros discordam
O CEO da Anthropic, Dario Amodei, publicou um artigo, em 12 de setembro, no qual admitiu que o desenvolvimento de modelos de IA está rápido demais por conta do “autoaperfeiçoamento recursivo”. Por isso, o executivo propôs a desaceleração coordenada entre empresas do setor.
Amodei apresentou um plano em três etapas. Primeiro, abrir as portas para avaliadores externos, que teriam acesso contínuo aos laboratórios das empresas. Segundo, a coordenação entre democracias, na qual empresas e governos ocidentais fixariam padrões de segurança e limites ao avanço. Terceiro, a coordenação global, buscando acordos entre nações democráticas e regimes autoritários (como a China) para vetar usos biológicos perigosos e impor limites ao autoaperfeiçoamento recursivo das IAs.
Nos dias seguintes, os CEOs Sam Altman (OpenAI) e Elon Musk (xAI) e o ex-CEO do Google DeepMind Demis Hassabis concordaram com o artigo assinado por Amodei. “O ensaio do Dario aponta para o caminho certo a seguir. Os detalhes precisam ser trabalhados, mas a direção está correta para enfrentar este momento crítico”, escreveu Hassabis, numa postagem no X (antigo Twitter). “Dario está certo”, escreveu Musk na sua rede social.
Também numa postagem no X, Altman argumentou que desacelerar não significa parar, mas arcar com os custos de auditorias e testes de segurança. O objetivo seria evitar que a capacidade dos modelos supere seu alinhamento.
“Esse episódio me lembra muito o que aconteceu em 30 de setembro de 2023, quando tivemos mais de mil signatários naquela carta que pedia seis meses de paralisação no desenvolvimento da IA, porque ela estava ficando muito perigosa”, disse Arthur Igreja. “Cá estamos, mais de três anos depois, e isso não aconteceu. Acho bastante difícil as empresas do setor – ou uma parte importante delas – se unirem.”
Poucos dias após o especialista fazer esse comentário, os CEOs Mark Zuckerberg (Meta) e Jensen Huang (Nvidia) posicionaram-se contra a desaceleração coordenada. Zuckerberg afirmou que os laboratórios já têm incentivos financeiros e jurídicos de sobra para construir IAs seguras por conta própria. E Huang declarou que segurança é um problema de engenharia e que as leis existentes já cobrem a confiabilidade dos produtos.
Repercussões na geopolítica (EUA, China, ONU)
O presidente dos Estados Unidos, Donald Trump, desdenhou dos alertas de Amodei, Altman e Musk. Trump minimizou os possíveis riscos puxados pela IA. E defendeu que os EUA mantenham a liderança sobre a China. “Quem vencer a IA, vence”, disse Trump durante visita à Irlanda. Para a administração do republicano, manter a liderança tecnológica é uma questão de segurança nacional.
No Congresso, republicanos defendem cautela na regulamentação. O presidente da Câmara, Mike Johnson, disse que uma regulação acelerada poderia “sufocar a inovação americana”. E fazer os EUA perderem a corrida tecnológica para a China.
Enquanto Trump responde com desdém, a China responde ao artigo do CEO da Anthropic de maneira contundente. Por meio de um editorial do jornal estatal Global Times, o país asiático disse que a intenção por trás do ensaio de Amodei seria criar um “manual da Guerra Fria” voltado a conter o avanço chinês e preservar a hegemonia tecnológica americana.
No texto, o veículo de comunicação chinês ainda classificou a postura dos executivos americanos como “hipócrita e míope”, argumentando que excluir a China da inovação global em IA aumentaria os riscos de perda de controle sobre a própria tecnologia.
Em 14 de setembro, o Alto Comissário de Direitos Humanos da ONU, Volker Türk, publicou uma carta aberta na qual advertiu que a autorregulação voluntária é “extremamente insuficiente”. E que a corrida descontrolada por IAs autônomas gera riscos existenciais diretos aos direitos humanos.
No texto, Türk defende que nenhum país pode governar essa tecnologia sozinho e que nenhuma empresa tem o direito de decidir isoladamente os riscos que a sociedade deve aceitar.
O Alto Comissário cobra que os governos das nações que sediam os principais laboratórios, com destaque para os EUA e a China, imponham regras obrigatórias. Entram aqui auditorias de direitos humanos, verificação independente de capacidades e notificação de incidentes graves. Para Türk, o objetivo deve ser alinhar padrões globais para evitar uma “corrida até o fundo”.
O chefe da ONU considerou boas as propostas da indústria para desacelerar o desenvolvimento (como a iniciativa sugerida pela Anthropic). E rejeitou a ideia de que exigências de segurança travem a inovação.
O que você precisa lembrar – e no que você precisa prestar atenção
Agora com o caos organizado, confira abaixo uma linha do tempo que resume o que você leu até aqui:
Os alertas recentes devem ser levados a sério. Mas outro questionamento merece atenção: quando uma empresa afirma que sua tecnologia é extraordinariamente poderosa, transformadora e potencialmente perigosa, o que essa mensagem comunica a investidores e formuladores de políticas públicas? É o que questiona John Park, especialista em inteligência artificial e Founding Member of Technical Staff da AGI Inc.
Segundo Park, existe “uma conexão natural entre a maneira como as empresas de IA de fronteira descrevem suas tecnologias e o valor econômico que o mercado pode atribuir a elas”.
Quando uma empresa enfatiza que seus modelos não são apenas poderosos, mas poderosos o suficiente para transformar a sociedade e, ao mesmo tempo, gerar riscos sem precedentes, existem três mensagens sendo comunicadas nesta narrativa, segundo o especialista em IA.
“A primeira mensagem é que a tecnologia é extraordinariamente capaz. A segunda é que seu impacto potencial pode ser extraordinariamente grande. E a terceira, que pode surgir naturalmente na cabeça dos investidores, é que a empresa responsável por desenvolver essa tecnologia pode capturar um valor econômico extraordinário”, afirmou Park, em artigo publicado no Olhar Digital.
Para o especialista, essas ideias se reforçam mutuamente. Mas não significa que os riscos sejam inventados ou exagerados.
Kenneth Corrêa, especialista em tecnologias emergentes e professor da FGV, aponta que a discussão sobre a diminuição da velocidade de desenvolvimento da IA “mistura vários momentos que estamos passando”.
“Existe o momento em que falamos que não é a questão de o modelo sozinho fazer alguma coisa, mas sim do harness, da tecnologia em volta desse modelo. Quais são as ferramentas, o que se dá de acesso à rede e qual é o poder dessas tecnologias para avançar”, disse o especialista, em entrevista ao Olhar Digital.
O segundo momento é lembrar que essas empresas de tecnologia também estão passando por uma fase em que precisam manter a narrativa de que valem trilhões de dólares.
Kenneth Corrêa, especialista em tecnologias emergentes e professor da FGV, em entrevista ao Olhar Digital.
“Para essa narrativa continuar, precisam falar sobre poder e capacidade, sobre o quanto é inevitável que o mundo e as empresas estejam investindo para desenvolver modelos cada vez melhores”, disse o especialista.
Um ponto crucial levantado por Corrêa foi o seguinte: “Anthropic e OpenAI, ao estabelecerem o padrão do pacing ou do ritmo com que essa tecnologia vai ser desenvolvida, acabam criando um bloqueio para que novos entrantes e empresas disruptivas possam chegar ao mercado e trazer algo inovador e diferente. Então, é um lugar muito confortável para elas estabelecerem esse tipo de limite.”
“Por último, não podemos esquecer também que, quando falamos sobre as empresas de IA defendendo que existe um limite, elas estão criando uma narrativa que melhora o seu próprio valuation – ou seja, as empresas valeriam mais pelo fato de terem um modelo tão poderoso”, acrescentou o especialista.
“Quando juntamos tudo isso, é preciso lembrar que nada aqui é feito de maneira inocente. Existe uma narrativa, existe um conflito de interesses e existiram momentos no passado em que se discutiu a importância de se estabelecer ou não esses limites para a IA”, disse Corrêa.
A pergunta mais importante é: por que agora isso ficou relevante?
Kenneth Corrêa, especialista em tecnologias emergentes e professor da FGV, em entrevista ao Olhar Digital.
Assista abaixo a entrevista completa com o especialista:
O post Linha do tempo: como IA foi da aliada a ‘ameaça existencial’ apareceu primeiro em Olhar Digital.