A inteligência artificial pode abrir caminho para avanços importantes em diversas áreas, mas o mesmo ritmo acelerado que impulsiona a tecnologia também amplia seus desafios. Essa é a principal conclusão do primeiro relatório científico independente sobre IA elaborado por um painel da ONU.
O documento será apresentado aos governos durante o Diálogo Global da ONU sobre governança de IA, marcado para os dias 6 e 7 de julho, em Genebra, revela a Reuters.
Ciência corre atrás da velocidade da IA
Produzido por 40 cientistas e especialistas independentes, o relatório afirma que a IA oferece benefícios relevantes para países e cidadãos. Em contrapartida, a compreensão científica e a capacidade de adaptação dos governos ainda não acompanham a velocidade com que os sistemas evoluem.
Segundo os autores, existem poucos métodos para controlar sistemas altamente autônomos, o que dificulta a criação de políticas capazes de acompanhar os avanços da tecnologia.
A ciência não pode garantir que a IA não causará danos catastróficos — seja por conta própria ou devido a usuários mal-intencionados.
Yoshua Bengio, copresidente do painel Diálogo Global da ONU sobre governança de IA, à Reuters.
Bengio destacou que já existem evidências crescentes de comportamentos enganosos apresentados por sistemas de IA.
Os riscos vão além da tecnologia
O documento destaca que os benefícios potenciais da IA são enormes. Ainda assim, alerta que a implementação rápida e sem controle pode gerar impactos relevantes em diferentes áreas da sociedade.
Entre os principais riscos apontados estão:
- danos à saúde mental dos usuários;
- uso da IA como ferramenta destrutiva;
- impactos sobre sistemas sociais, econômicos e ambientais;
- dificuldades para controlar sistemas altamente autônomos;
- aumento da circulação de material de abuso sexual infantil gerado por IA e de violência sexual facilitada por deepfakes.
O próprio relatório resume esse cenário ao afirmar que “os benefícios potenciais da IA são enormes”, mas ressalta que a implementação rápida e sem controle da tecnologia em larga escala também apresenta riscos consideráveis para a saúde mental, os sistemas sociais, a economia, o meio ambiente e a capacidade de controlar esses sistemas.
A desigualdade no acesso preocupa
Mais de um bilhão de pessoas já utilizam ferramentas de IA conversacional semanalmente. Apesar desse crescimento, a adoção continua defasada nos países em desenvolvimento.
O relatório mostra ainda que os Estados Unidos concentram 75% do poder computacional entre os 500 principais supercomputadores de IA do mundo, enquanto a China reúne 15%.
Os especialistas também alertam que a IA facilita a produção e o direcionamento de conteúdo persuasivo em larga escala, favorecendo uma erosão gradual da integridade da informação, da confiança pública, da coesão social e da deliberação democrática.
Nem todos os países conseguem acompanhar
Outro desafio envolve a diversidade linguística. Embora mais de 7.000 idiomas sejam falados no planeta, apenas uma pequena parcela deles está presente no treinamento dos modelos atuais. Segundo o relatório, erros na tradução automática podem afetar diagnósticos de saúde e decisões de tratamento.
Leia mais:
- Anthropic lança Claude Science, IA para revolucionar pesquisas científicas
- O calor extremo pode parar a inteligência artificial?
- IA acelera descoberta de novos materiais supercondutores
O documento conclui que a maioria dos países, inclusive economias avançadas, ainda não possui capacidade técnica suficiente para avaliar os modelos mais sofisticados de inteligência artificial nem para participar de forma significativa de sua governança. Esse cenário reforça a necessidade de ampliar a cooperação internacional para acompanhar uma tecnologia que continua evoluindo em ritmo acelerado.
O post ONU alerta que avanço acelerado da IA pode trazer consequências graves apareceu primeiro em Olhar Digital.