A possibilidade de a inteligência artificial (IA) representar um risco existencial para a humanidade continua preocupando parte dos principais nomes do setor. A diretora de operações em IA do Google DeepMind, Lila Ibrahim, afirmou que a chance de a tecnologia provocar a extinção da humanidade "não é zero", embora tenha ressaltado que qualquer estimativa além disso seria apenas um palpite. Ao mesmo tempo, a executiva contestou previsões otimistas de empresários como Elon Musk sobre o futuro da IA.
Em entrevista à revista Fortune, Ibrahim lembrou que assinou, em 2023, a declaração do Center for AI Safety que defendia que o risco de extinção causado pela IA deveria ser tratado com a mesma prioridade de ameaças como guerras nucleares e pandemias.
Três anos depois, ela afirmou que mantém a mesma posição. "Não é zero", disse sobre a possibilidade de um cenário extremo. "Qualquer coisa além disso é apenas um palpite meu... é o engenheiro em mim." Segundo a executiva, "seria irresponsável de nossa parte não falar sobre o risco existencial”.
Debate sobre riscos e oportunidades
Ibrahim afirmou que o avanço acelerado da IA exige que empresas e governos discutam não apenas as oportunidades, mas também os possíveis impactos negativos da tecnologia. Para ela, uma das lições deixadas pela pandemia foi que ameaças de grande escala nem sempre são previsíveis.
A executiva também afirmou que a indústria de tecnologia falhou, no passado, ao não debater suficientemente os riscos associados à expansão da internet e das redes sociais. "As duas coisas que me tiram o sono são: estamos fazendo tudo o que podemos para mitigar os riscos? E estamos fazendo tudo o que podemos para maximizar as oportunidades? Na minha opinião, essas duas coisas andam de mãos dadas", afirmou.
As declarações de Ibrahim se somam às de outros pesquisadores e executivos que já manifestaram preocupação com os impactos da IA. Geoffrey Hinton, conhecido como um dos "padrinhos da inteligência artificial", estimou anteriormente entre 10% e 20% a chance de a humanidade ser extinta nas próximas décadas em decorrência da tecnologia.
Já Dario Amodei, diretor da Anthropic e também signatário do manifesto de 2023, afirmou que existe 25% de probabilidade de o futuro ser "muito, muito ruim". Antes mesmo da popularização da IA generativa, o físico Stephen Hawking também alertou para os riscos que sistemas avançados poderiam representar.
Na entrevista, Ibrahim também discordou das previsões feitas por Elon Musk sobre uma sociedade em que o trabalho deixaria de existir em razão da abundância produzida por robôs e sistemas de IA. O empresário afirmou recentemente que, até 2036, o dinheiro perderia relevância porque produtos e serviços seriam extremamente baratos e os governos distribuiriam uma renda universal elevada. Jeff Bezos, fundador da Amazon, também já projetou que milhões de pessoas viverão no espaço nas próximas décadas.
Para a diretora do Google DeepMind, porém, o ritmo de evolução da IA torna impossível prever com precisão como será o futuro. "Não acho que possamos realmente prever como será o futuro", afirmou à Fortune.
Em vez de apostar em cenários distantes, Ibrahim defendeu que o foco esteja no uso da tecnologia para resolver problemas concretos, como eventos climáticos extremos, resíduos industriais e o desenvolvimento de soluções para doenças. "Eu prefiro que concentremos nossa atenção em como usar a tecnologia como ferramenta para maximizar o potencial humano", disse.