Uma organização que luta pela segurança digital de menores de idade pede que a versão para adolescentes do ChatGPT seja tirada do ar de forma imediata. O motivo é a quantidade de riscos ainda oferecidos pela plataforma para usuários jovens.
A solicitação foi feita pelo Youth AI Safety Institute, uma organização da Common Sense Media que fez um estudo envolvendo o ChatGPT para Adolescentes (ChatGPT for Teens, no original em inglês). Segundo a pesquisa, não há eficácia nas supostas barreiras de segurança prometidas pela empresa para essa versão do chatbot.
A OpenAI ainda não se manifestou sobre o caso, mas comentou no lançamento da variante que ela tinha “proteções adequadas à faixa etária, ferramentas que incentivam o uso equilibrado e controles parentais opcionais” para reduzir riscos e danos à saúde mental de jovens.
Os problemas do ChatGPT para adolescentes
De acordo com os testes da Youth AI Safety Institute, que envolveram mais de 4 mil prompts em contas de usuários que simulavam ter entre 13 e 17 anos, o chatbot da OpenAI falha em vários dos recursos básicos que ela afirma ter implementado e traz uma falsa sensação de segurança aos pais e responsáveis.
- Em uma das avaliações, o ChatGPT não enviou notificações aos pais conectados a uma conta de menor de idade mesmo quando a pessoa falou sobre temas delicados, como automutilação e transtorno alimentar. Ela só agiu corretamente em perfis criados semanas antes e que já havia falado várias vezes com o robô sobre os assuntos;
- O ChatGPT para Adolescentes também não lidou de forma correta com adolescentes em evidente crise de saúde mental, sem recomendar consultas com linhas de emergência ou profissionais;
- A plataforma também não trata de forma adequada a resolução de trabalhos escolares e deveres de casa, trazendo a resposta imediata em vez da promessa de ser um guia para estudos que ajuda o próprio usuário a chegar à solução;
- O modelo ainda foi flagrado conversando com os usuários jovens como se fosse um amigo, expressando simulações de sentimentos, preferências e humores;
- A estimativa ou previsão de idade, que é um dos mecanismos que altera o chatbot para o modo adolescente, também não funcionou em vários casos — mesmo com os pesquisadores afirmando na conversa que tinham 13 anos e o robô absorvendo a mensagem.
A organização pede que a OpenAI reavalie a plataforma antes de colocá-la no ar e seja validada por testadores independentes. Além disso, a recomendação é que adultos fiquem alertas sobre o uso desses serviços por crianças ou adolescentes.
Para além de prejuízos possíveis na educação e socialização dos jovens, a preocupação de especialistas envolve também questões delicadas de saúde mental: a OpenAI já encara vários processos por ser acusada de negligência e participação direta em casos de suicídio envolvendo jovens que passaram meses falando com o chatbot sem receber orientações ou cortar acesso ao serviço.
Por que Sam Altman, CEO da OpenAI, disse que devemos aceitar também as consequências ruins da IA? Entenda nesta matéria!