Sam Altman alerta contra futuro em que a IA controle decisões

Sam Altman alerta contra futuro em que a IA controle decisões

O CEO da OpenAI, Sam Altman, afirmou na quarta-feira que os seres humanos devem permanecer no controle do futuro diante do avanço da inteligência artificial. Durante o DealBook Summit, do The New York Times, o executivo criticou debates no Vale do Silício sobre uma transferência gradual do poder de decisão para sistemas de IA.

Ao lado do presidente e cofundador da companhia, Greg Brockman, Altman classificou essa possibilidade como uma “ideia terrível”. A discussão ocorre enquanto a criadora do ChatGPT enfrenta escrutínio após agentes de IA da empresa invadirem sistemas externos.

Logo da OpenAI na fachada de um prédio
O debate sobre autoaprimoramento recursivo levanta o temor de que gerações futuras de IA evoluam para uma superinteligência sem controle humano. – Imagem: doomu/Shutterstock

Superinteligência e monitoramento

A teoria da transferência de poder parte da ideia de autoaprimoramento recursivo (RSI), conceito segundo o qual modelos cada vez mais capazes poderiam aprender a melhorar a si mesmos. Nessa hipótese, gerações sucessivas de tecnologia evoluiriam até alcançar uma superinteligência que os seres humanos não conseguiriam controlar.

Altman explicou que ele e Brockman concordam sobre a necessidade de impedir esse cenário, seja por uma transferência acidental ou intencional. As divergências entre os dois estão nas estratégias e nos desafios para garantir a supervisão humana.

Para acompanhar modelos mais sofisticados, Brockman apontou que o monitoramento também precisa evoluir. Atualmente, pesquisadores acompanham a chamada cadeia de pensamento (chain of thought), processo pelo qual a IA registra etapas de seu raciocínio durante a execução de tarefas. Com o avanço dos modelos, porém, parte das operações pode ocorrer sem que esses passos sejam registrados, exigindo novas tecnologias de acompanhamento.

Segurança e equilíbrio entre avanço e proteção

Os incidentes envolvendo os sistemas da OpenAI aumentaram a pressão sobre a empresa. Um dos episódios envolveu um modelo que escapou da contenção e invadiu o repositório de modelos de IA Hugging Face. Brockman revelou que, após o ataque, a companhia orientou 25% de seus engenheiros de produção a interromper outras atividades e concentrar esforços na segurança da tecnologia.

Apesar dos problemas, os executivos defenderam que a evolução dos sistemas precisa continuar, acompanhada de medidas de proteção. Entre os pontos destacados na entrevista estão:

  • Defesa contra ameaças: Brockman argumentou que equipes de defesa digital precisam utilizar os modelos mais avançados para enfrentar agentes mal-intencionados.
  • Implantação iterativa: Altman defendeu os testes em situações reais como parte do processo de identificação e enfrentamento dos riscos. Ele também reconheceu que a empresa não conseguirá atender a todas as expectativas sobre segurança e velocidade de desenvolvimento.
  • Avaliação independente: a OpenAI anunciou a participação de pesquisadores externos da METR e da Apollo Research para avaliar seus modelos segundo diferentes critérios de segurança.
IPO Anthropic
Às vésperas de estrear na bolsa, a rival Anthropic definiu faixa de preço por ação que pode avaliar a companhia entre US$ 1,26 tri e US$ 1,41 tri. – Imagem: RixAiArt/Shutterstock

Planos de IPO e disputa com a Anthropic

Altman confirmou que a OpenAI pretende abrir seu capital, embora tenha adiado os planos para concentrar esforços nas questões de segurança. No início deste mês, a empresa levantou US$ 11 bilhões (cerca de R$ 62,7 bilhões) em uma rodada que a avaliou em US$ 1,25 trilhão (aproximadamente R$ 7,13 trilhões). O valor ficou abaixo dos US$ 30 bilhões (cerca de R$ 171 bilhões) que pretendia captar inicialmente, com avaliação de até US$ 1,5 trilhão (R$ 8,55 trilhões).

Brockman possui uma participação na OpenAI avaliada em pelo menos US$ 30 bilhões (cerca de R$ 171 bilhões), enquanto Altman não tem ações da companhia. Ele também destacou uma diferença na estrutura de controle das empresas: na Anthropic, os sete cofundadores detêm 50,1% do poder de voto. Na OpenAI, segundo Brockman, os fundadores não possuem controle majoritário absoluto.

Enquanto a OpenAI adiou seus planos de abertura de capital para o próximo ano, a rival Anthropic está mais próxima de estrear na bolsa, com operação prevista para quinta-feira (19). A empresa estabeleceu uma faixa de preço entre US$ 70 (cerca de R$ 399) e US$ 78 (aproximadamente R$ 444,60) por ação. Com esses valores, sua avaliação poderá ficar entre US$ 1,26 trilhão (cerca de R$ 7,18 trilhões) e US$ 1,41 trilhão (aproximadamente R$ 8,04 trilhões), o que pode resultar na maior oferta pública inicial de ações do mundo.

O post Sam Altman alerta contra futuro em que a IA controle decisões apareceu primeiro em Olhar Digital.