O secretário-geral da ONU, António Guterres, alertou nesta terça-feira (22) para os riscos do avanço acelerado da inteligência artificial (IA) durante a abertura da 81ª Assembleia Geral das Nações Unidas. Segundo ele, a tecnologia está evoluindo mais rápido do que a capacidade da humanidade de compreender completamente seus efeitos.
“Até mesmo aqueles que criaram a inteligência artificial estão nos dizendo que estão ficando cegos diante dela”, afirmou Guterres. O secretário-geral classificou a IA como um dos quatro grandes “testes de poder” do futuro, ao lado de guerra e paz, desigualdade e crise climática.
Guterres compara IA às armas nucleares
Durante o discurso, Guterres comparou os desafios impostos pela inteligência artificial aos riscos das armas nucleares durante a Guerra Fria. Segundo ele, mesmo em um período marcado pela rivalidade entre grandes potências, os países reconheceram a necessidade de administrar riscos que poderiam afetar toda a humanidade.
“Atualmente, os humanos estão cada vez mais entregando poder às máquinas”, afirmou. Segundo Guterres, isso já ocorre com “agentes de inteligência artificial saindo do controle” e com armas autônomas letais deixando de ser ficção científica para se tornar uma realidade militar.
Para o secretário-geral, as estruturas atuais de governança global não acompanharam essa mudança. “Nossas instituições e sistemas de governança global continuam refletindo as realidades de poder e os interesses de uma era amplamente ultrapassada”, disse.
Guterres também alertou para o risco de uma disputa entre países pelo controle da tecnologia. “Não podemos permitir que uma corrida armamentista pelo controle da IA nos leve ao precipício”, afirmou.
O secretário-geral defendeu que os países estabeleçam mecanismos de cooperação semelhantes aos criados durante a Guerra Fria para administrar riscos compartilhados. “A inteligência artificial exige a mesma clareza de propósito e senso de urgência”, declarou.
ONU pede regras para o desenvolvimento da IA
Guterres afirmou que a IA representa uma concentração de poder baseada em dados, capacidade computacional e algoritmos. Segundo ele, esse novo poder está concentrado em poucas mãos, avança em velocidade extraordinária e corre à frente da capacidade de compreender todas as suas consequências.
Apesar dos riscos, o secretário-geral destacou que a tecnologia também tem potencial para produzir avanços. “A IA é, de fato, uma tecnologia transformadora”, afirmou, citando possibilidades como avanços na medicina, aceleração de descobertas científicas, ampliação de oportunidades e melhoria da qualidade de vida.
“O perigo não é a tecnologia”, disse Guterres. “O perigo é a tecnologia sem responsabilização: capacidade sem supervisão; tomada de decisões sem transparência.”
Segundo o secretário-geral, “os próprios desenvolvedores que estão construindo esses sistemas agora estão soando o alarme”. Por isso, ele defendeu que os governos assumam responsabilidade pela segurança da população, especialmente aqueles que possuem as maiores capacidades de desenvolvimento de IA.
“Os países que lideram essa revolução tecnológica devem compartilhar informações sobre riscos emergentes de segurança, cooperar em testes e avaliações e trabalhar para estabelecer salvaguardas comuns que protejam a todos”, afirmou.
Guterres também defendeu uma atuação multilateral para a governança da tecnologia. Segundo ele, a ONU é o único espaço em que todos os países têm voz na definição do futuro da IA.
O secretário-geral citou o Pacto Digital Global, o Diálogo Global sobre Governança da IA e o Painel Científico Internacional Independente sobre IA como iniciativas que já envolvem governos, cientistas, empresas e sociedade civil.
Entre os próximos passos, Guterres defendeu condições para um ritmo responsável de desenvolvimento da IA e a criação de um marco multilateral de gerenciamento de riscos, apoiado por supervisão independente e considerada confiável.
“A inteligência artificial deve ser moldada pela humanidade, com a humanidade e para toda a humanidade”, afirmou.
O secretário-geral também destacou a necessidade de proteger crianças de sistemas ainda não regulamentados. “Crianças nunca devem se tornar cobaias de sistemas não regulamentados”, declarou.
Outro ponto levantado foi o uso da IA em decisões que envolvam a vida humana. “Decisões de vida ou morte nunca devem ser entregues às máquinas”, disse Guterres. Na sequência, acrescentou: “Robôs assassinos não devem ter lugar no nosso futuro”.
IA está mudando a distribuição de poder
Na avaliação de Guterres, os riscos da inteligência artificial estão relacionados a uma transformação mais ampla na forma como o poder é exercido e distribuído.
“Não estamos diante de crises separadas. Elas são capítulos da mesma história. A história do poder. Quem o possui. Quem é privado dele. Como ele é usado. E como está mudando”, afirmou.
O secretário-geral disse que a inteligência artificial está entre as forças que estão remodelando a distribuição de poder no mundo. Segundo ele, a tecnologia já está presente em praticamente todos os aspectos da vida, incluindo sistemas de água, redes elétricas, registros de saúde, economias e forças militares.
Guterres também afirmou que a IA pode tanto contribuir para enfrentar outros desafios globais quanto agravá-los. “A inteligência artificial poderia ajudar a resolver todos esses desafios ou torná-los ainda piores”, declarou.
Ao encerrar sua fala sobre o tema, o secretário-geral resumiu o desafio colocado pela tecnologia em uma frase: “governar a inteligência artificial antes que ela nos governe”.
Khalilur Rahman também defende regras para a IA
O presidente da 81ª sessão da Assembleia Geral da ONU, Khalilur Rahman, também abordou a inteligência artificial em seu discurso de abertura da sessão. Para ele, a tecnologia representa uma das principais mudanças do mundo atual e pode acelerar o progresso humano.
“A IA pode ser um poderoso acelerador do progresso humano; portanto, não devemos fechar a porta para a inovação”, afirmou Rahman.
Ao mesmo tempo, o presidente da Assembleia Geral destacou possíveis impactos negativos. Entre eles, citou a perda de empregos e o aumento da desigualdade digital. Ele também afirmou que não é possível descartar a possibilidade de que a inteligência artificial geral, ou AGI, afete a sobrevivência humana.
Por isso, Rahman defendeu a adoção de “guardrails” baseados em evidências científicas. Segundo ele, essas medidas devem proteger o interesse público global sem impedir que a inovação avance.
“Precisamos abrir as portas das Nações Unidas para aqueles que desenvolvem e usam IA. Não algum dia. Agora. Estamos ficando cada vez mais para trás a cada dia”, afirmou.
Rahman também destacou que a tecnologia já está incorporada a diferentes áreas da sociedade e afirmou que governos, empresas, inovadores, cientistas, sociedade civil e academia precisam participar da discussão sobre sua governança.
O post “Estão ficando cegos”: ONU alerta que avanço da inteligência artificial supera capacidade humana de entendê-la apareceu primeiro em Olhar Digital.