Ampliando os recursos de supervisão parental para as interações de adolescentes com a Meta AI, a gigante da tecnologia vai alertar aos pais se as conversas dos filhos com o chatbot sugerirem que eles estão considerando suicídio ou automutilação. A ferramenta estreia nesta quinta-feira (16) em mercados selecionados.
O recurso, que já monitora pesquisas sobre esses mesmos temas realizadas em um curto período no Instagram, chega primeiro aos Estados Unidos, Canadá, Reino Unido e Austrália, com promessa de lançamento global até o final do ano. Outra novidade é a implementação da configuração de “Conteúdo Limitado” para as experiências com a IA da Meta.
Notificando pais sobre conversas sensíveis
Funcionando de maneira semelhante ao recurso integrado à rede social, o alerta sobre conversas sensíveis de adolescentes com a IA objetiva informar aos pais que seus filhos possam estar enfrentando situações delicadas. O recurso entra em ação se detectar interações relacionadas a suicídio e automutilação com o chatbot.
- Em um primeiro momento, as conversas sinalizadas pela Meta AI são revisadas manualmente antes do contato com os pais;
- Mesmo que a intenção do usuário seja ambígua na interação, a empresa disse que enviará o alerta, por precaução;
- “Embora isso signifique que, às vezes, possamos notificar os pais quando talvez não haja motivo real para preocupação, acreditamos que este é o ponto de partida correto”, disse a companhia, em nota;
- Segundo a big tech, as notificações serão enviadas aos pais cadastrados na supervisão parental do Instagram, podendo chegar por email, WhatsApp, mensagem de texto ou no próprio app, conforme a configuração escolhida.
Anteriormente, a IA já direcionava adolescentes para linhas de apoio em crise se as conversas sugerissem que o usuário estava pensando em suicídio ou automutilação. Ela também o encoraja a conversar com os pais ou outro adulto de confiança, nesses casos.
“Trabalhamos com pais e especialistas para entender quais conversas com IA justificam um alerta — como aquelas em que o adolescente faz uma referência clara a se machucar, mesmo que essa referência seja sutil. Em seguida, construímos um sistema dedicado de IA para identificar essas conversas”, explicou a Meta.
Configuração mais restritiva para menores
Treinada para não se envolver em conversas sexuais ou românticas com adolescentes nem dar detalhes sobre bebidas alcoólicas, a IA da Meta pode ficar ainda mais restritiva com a ativação do “Conteúdo Limitado”. Antes disponível no Instagram, o recurso agora também está no chatbot.
Quando selecionada pelos pais nas configurações de supervisão parental, a ferramenta adiciona novas restrições à IA. Ela passa a recusar respostas para uma gama ainda mais ampla de assuntos, reduzindo as chances de conversas inadequadas com adolescentes.
Conforme a Meta, esses recursos foram desenvolvidos com o auxílio de mais de 75 profissionais de saúde mental, aprimorando as interações dos menores com a IA.
Siga no TecMundo e conheça outros recursos de segurança disponíveis na modalidade “Contas de Adolescente” do Instagram.