Um ex-funcionário da área de segurança da OpenAI, empresa responsável pelo ChatGPT, criticou a forma como companhias de inteligência artificial (IA) estão lidando com os riscos associados ao desenvolvimento de sistemas cada vez mais avançados. Segundo David Robinson, a velocidade da corrida tecnológica aumenta a possibilidade de falhas e exige uma postura mais cautelosa.
Em um artigo publicado neste sábado (3) na revista estadunidense The Atlantic, Robinson afirmou que as empresas de IA, incluindo a OpenAI, não estão sendo “nem de perto cuidadosas o suficiente”.
Para o ex-funcionário, as companhias deveriam dar mais espaço a especialistas em segurança e à pesquisa antes de desenvolver sistemas mais avançados. “O tempo de tentativa e erro acabou”, escreveu Robinson.
Na avaliação dele, sistemas avançados de IA precisam de medidas de segurança semelhantes às adotadas em setores, como energia nuclear e aviação.
Robinson também criticou uma prática que a OpenAI chama de “implantação iterativa”, que consiste em lançar sistemas e reforçar as medidas de segurança conforme os problemas aparecem.
As críticas fazem parte de debate no setor de IA sobre a velocidade com que as empresas desenvolvem sistemas cada vez mais avançados. A OpenAI e a concorrente Anthropic têm sido questionadas após episódios em que controles de segurança falharam ou sistemas experimentais apresentaram comportamentos inesperados.
Leia mais:
- OpenAI demite pesquisadores após vazamento de informações restritas
- ChatGPT agora pode ser seu “provador virtual”; entenda
- Empresas de IA deveriam ter regras de usinas nucleares, diz ex-OpenAI
Ex-funcionário participou de 12 lançamentos
- David Robinson afirmou ter trabalhado por três anos e meio na OpenAI. Durante esse período, ajudou a elaborar a estrutura usada pela empresa para lidar com riscos e supervisionou relatórios de segurança de 12 lançamentos de modelos avançados;
- “À medida que a empresa corre de um lançamento para o outro, ela não está conseguindo atingir o nível de cuidado que acredito ser necessário”, escreveu;
- Em resposta às críticas, a OpenAI afirmou que busca evitar que seus modelos se tornem mais avançados do que a empresa consegue administrar com segurança. “Pausamos o treinamento ou suspendemos os modelos quando precisamos diminuir o ritmo”, disse um porta-voz da companhia;
- Robinson também alertou que as capacidades da IA estão avançando mais rapidamente do que o conhecimento dos pesquisadores sobre o chamado “alinhamento”. A área busca fazer com que os sistemas de IA atuem de acordo com objetivos e valores humanos.
“Brincando com as nossas vidas”
As críticas de Robinson não são um caso isolado entre profissionais que passaram por empresas de IA. No mês passado, um ex-pesquisador que deixou a OpenAI para trabalhar na Anthropic também deixou a indústria e acusou as duas empresas estadunidenses de “brincar com as nossas vidas”.
Jacob Coxon, britânico de 27 anos, trabalhou nos últimos três anos com pré-treinamento, etapa em que os modelos de IA absorvem grandes quantidades de informação. Ele passou primeiro pela OpenAI e, neste ano, pela Anthropic.
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon no X.
O post OpenAI é criticada por ex-funcionário que alerta para riscos da IA apareceu primeiro em Olhar Digital.