IA do Google expõe crianças a riscos graves e preocupa pais; empresa rebate

As ferramentas de inteligência artificial da Busca do Google, AI Overviews e Modo IA, receberam classificação de "risco inaceitável" para crianças em um relatório do Youth AI Safety Institute, braço da organização Common Sense Media. A avaliação aponta falhas na forma como o sistema lida com tarefas escolares, informações incorretas e situações de crise de saúde mental.

Os pesquisadores testaram a Busca do Google com contas configuradas para usuários de 11 e 15 anos, com o SafeSearch ativado. Essa configuração reproduz o modo como muitos menores acessam o buscador em dispositivos pessoais e escolares. Ao todo, foram realizadas mais de 2,6 mil buscas e analisadas mais de 2,1 mil respostas geradas por IA.

Relatório aponta respostas erradas e falhas em crises

Segundo o relatório, as AI Overviews completaram tarefas escolares em vez de ajudar os estudantes a aprender. Parte das respostas trazia informações incorretas ou inventadas, incluindo instruções sobre como criar deepfakes.

O documento também identificou falhas no tratamento de mensagens relacionadas a crises de saúde mental. Em um dos casos citados, a IA indicou aos usuários uma linha de apoio a crises que já estava desatualizada.

Controle dos pais sobre a IA é limitado

Um dos pontos centrais da crítica é a dificuldade de os pais desativarem os recursos de IA no Search. As AI Overviews estão integradas ao buscador e não podem ser removidas de forma simples, embora exista uma opção para desligar a função. Isso significa que crianças podem visualizar essas respostas mesmo com o SafeSearch habilitado.

A Common Sense Media afirma que 75% dos pré-adolescentes e adolescentes dos Estados Unidos já utilizam resultados de busca gerados por IA.

Google nega falhas e classifica testes como "contrivados"

Procurado pela Android Authority, o Google rejeitou as conclusões do relatório. Em nota, a empresa disse que os testes usaram consultas "ambíguas e contrivadas" — ou seja, forçadas e exageradas —, que não refletem o uso real da Busca por parte dos usuários.

A companhia afirmou não ter conseguido reproduzir grande parte das respostas citadas no estudo. Segundo o Google, muitas das buscas testadas admitiam múltiplas interpretações, o que dificultaria uma avaliação precisa da segurança do produto.

O Google também destacou os mecanismos de proteção existentes no Search, como avisos e links para páginas externas em temas sensíveis.

A empresa disse oferecer recursos educativos sobre uso responsável de IA, orientações para verificação de informações e duas formas de controle parental.

Para situações de crise, o Google afirmou exibir linhas de apoio desenvolvidas com especialistas acadêmicos e clínicos.