Não é de hoje que você lê, ouve ou assiste por aí que a inteligência artificial pode acabar com a humanidade. Esse discurso circula pela internet há algum tempo. Recentemente, ele voltou a ganhar força graças a análises e comentários de ex-funcionários de grandes empresas do setor. Além disso, CEOs como Sam Altman (OpenAI) e Dario Amodei (Anthropic) voltaram a bater na tecla da importância da segurança no desenvolvimento desta tecnologia.
Em semanas assim, se manter informado sobre o mundo da tecnologia pode te levar à beira do desespero. Por isso, é importante colocar essas novidades em perspectiva. Até que ponto são alertas válidos? Até que ponto são jogadas de marketing? O Olhar Digital te ajuda a entender tudo isso.
A IA vai acabar com a humanidade…?
A inteligência artificial teria mais de 10% de chance de “matar todos os humanos” até o fim da década, segundo Evan Hubinger, líder de teste de alinhamento da Anthropic. A fala surgiu poucas horas após Jacob Coxon, pesquisador da empresa, anunciar sua saída e criticar a corrida dos laboratórios por sistemas cada vez mais avançados.
Numa publicação no X, Coxon disse que a Anthropic e a OpenAI não estão agindo de maneira responsável diante dos riscos envolvidos no avanço da inteligência artificial.
“Eles estão correndo diretamente rumo à superinteligência que se aprimora sozinha e apostando nossas vidas”, escreveu Coxon.
Hubinger escreveu o seguinte: “Jacob está correto aqui — nós realmente acreditamos que a IA poderia matar todos os humanos! Eu pessoalmente acho que é superior a 10% na próxima década.”
Como Hubinger chegou a este número? É o questionamento feito por Arthur Igreja, especialista em tecnologia e inovação, em entrevista ao Olhar Digital. “Eu fico incomodado com a falta de método e evidência. Como ele calculou 10%? Por que não é 15%? Por que não é 7%? Mostre para nós como se calcula isso. Qual é a premissa?”, disse o especialista.
“Acho que se colocarmos numa tabela de riscos, eu tenho mais medo até o final da década de pessoas tomarem decisões erradas”, acrescentou Igreja.
Isso porque, conforme frisado pelo especialista, a IA tem lá seus riscos, mas, no fim das contas, foi algo desenvolvido por pessoas. “É uma tecnologia que pode intervir nela mesma. A IA é desenvolvida pelos humanos, mas com o aumento de sua capacidade, começa a desenvolver os próximos modelos ou fazer ajustes. Preocupa porque você tem uma intervenção humana menor ao longo do tempo”, explicou Igreja.
“Eu tendo a ter mais medo das pessoas”, disse o especialista. “Quem desenvolve as IAs são pessoas. Se ela começar a ter determinados comportamentos, em determinada medida, é fruto de decisões tomadas no desenvolvimento. Se isso não for paralisado, também é decisão de uma pessoa.”
Eu acho complicada a narrativa de que a IA se rebelou, fez escolhas. Ela foi projetada por pessoas.
Arthur Igreja, especialista em tecnologia e inovação, em entrevista ao Olhar Digital.
CEOs se dizem preocupados com a segurança, mas…
A OpenAI não vai estrear na Bolsa de Valores em 2026. A confirmação veio de Sam Altman, em entrevista à revista Fortune. O motivo principal para segurar a oferta pública de ações (IPO, na sigla em inglês) é a preocupação com a segurança e com os riscos das tecnologias de inteligência artificial.
Para Altman, este não é o momento adequado para levar a empresa ao mercado financeiro. O executivo destacou a responsabilidade que as empresas do setor e os governos têm nas mãos, dizendo que riscos à humanidade não podem ser ignorados em troca de lucro ou por vaidade corporativa. Segundo ele, o foco atual da OpenAI precisa ser o alinhamento de segurança e a cooperação com órgãos governamentais.
A decisão veio num período de pressão crescente nos Estados Unidos. Tanto políticos democratas quanto republicanos vêm cobrando regras mais rígidas para o setor de IA.
O alerta aumentou após pesquisadores relatarem casos de sistemas autônomos que saíram do controle e invadiram outros sistemas, além da saída de especialistas de empresas da área por receio quanto aos rumos da tecnologia.
Alertas recentes sobre cenários de risco extremo colocaram o ritmo de desenvolvimento em debate. Dario Amodei defendeu a redução da velocidade no desenvolvimento dos modelos mais avançados.
Amodei recebeu apoio público de dois de seus concorrentes diretos. Elon Musk e Altman concordaram com a declaração. O CEO da OpenAI ainda revelou que as principais empresas do setor estudam criar um acordo conjunto para desacelerar o avanço das ferramentas e focar na mitigação de falhas.
Apesar das discussões sobre desaceleração no setor, o caminho das concorrentes é diferente. A Anthropic mantém seus planos de abrir capital no mercado financeiro ainda no final de 2026 (e pode ter investimento bilionário da Nvidia).
“Esse episódio me lembra muito o que aconteceu em 30 de setembro de 2023, quando tivemos mais de mil signatários naquela carta que pedia seis meses de paralisação no desenvolvimento da IA, porque ela estava ficando muito perigosa”, disse Arthur Igreja. “Cá estamos, mais de três anos depois, e isso não aconteceu. Acho bastante difícil as empresas do setor – ou uma parte importante delas – se unirem.”
Assista abaixo a entrevista completa com Arthur Igreja:
As mensagens escondidas
Os alertas recentes devem ser levados a sério. Mas outro questionamento merece atenção: quando uma empresa afirma que sua tecnologia é extraordinariamente poderosa, transformadora e potencialmente perigosa, o que essa mensagem comunica a investidores e formuladores de políticas públicas? É o que questiona John Park, especialista em inteligência artificial e Founding Member of Technical Staff da AGI Inc.
Segundo Park, existe “uma conexão natural entre a maneira como as empresas de IA de fronteira descrevem suas tecnologias e o valor econômico que o mercado pode atribuir a elas”.
Quando uma empresa enfatiza que seus modelos não são apenas poderosos, mas poderosos o suficiente para transformar a sociedade e, ao mesmo tempo, gerar riscos sem precedentes, existem três mensagens sendo comunicadas nesta narrativa, segundo o especialista em IA.
“A primeira mensagem é que a tecnologia é extraordinariamente capaz. A segunda é que seu impacto potencial pode ser extraordinariamente grande. E a terceira, que pode surgir naturalmente na cabeça dos investidores, é que a empresa responsável por desenvolver essa tecnologia pode capturar um valor econômico extraordinário”, afirmou Park.
Para o especialista, essas ideias se reforçam mutuamente. Mas não significa que os riscos sejam inventados ou exagerados. Por isso, ele defende a necessidade de separar três questões (que podem estar relacionadas, mas não são a mesma coisa): quão poderosa é uma tecnologia, quão perigosa ela pode ser e quanto valor econômico a empresa que a desenvolve conseguirá capturar.
“Sou favorável a requisitos de segurança para sistemas de IA de alto risco. Se determinados modelos podem causar danos em escala significativa, é razoável exigir avaliações de segurança, transparência e mecanismos de controle”, disse Park.
No entanto, o especialista frisou: “O problema começa quando as regras passam a refletir as estruturas, os recursos financeiros e a infraestrutura das maiores empresas do setor.”
Por isso, para Park, a regulação deve ser proporcional ao risco. Não ao tamanho ou poder de mercado da empresa. “Precisamos prestar atenção na relação entre regulamentação e estrutura de mercado.”
“Se os padrões globais de segurança forem definidos principalmente pelas maiores empresas americanas de IA, empresas brasileiras poderão ter de arcar com custos regulatórios e técnicos desenhados para organizações que possuem recursos muito maiores”, ponderou o especialista.
Para o especialista, existem duas perguntas no cerne do debate sobre o tema: 1) A IA é perigosa demais para ser desenvolvida?; e 2) Ela é perigosa demais para que outros possam competir?
“O resultado poderia ser paradoxal: uma regulamentação criada para tornar a IA mais segura acabar dificultando o surgimento de novos competidores e aumentando a dependência de empresas estrangeiras”, escreveu Park, em artigo publicado no Olhar Digital.
O post A IA vai exterminar a humanidade? O que está por trás dos alertas apareceu primeiro em Olhar Digital.