Após lançar um recurso parental de proteção contra suicídio no Instagram, a Meta anunciou que passará a notificar pais caso seus filhos adolescentes conversem sobre suicídio ou automutilação com a Meta AI, chatbot da empresa.
A Meta afirma estar trabalhando ainda em uma funcionalidade para contatar serviços de emergência caso as conversas sugiram risco iminente de suicídio. Vale ressaltar que a empresa já adota essa medida quando alguém publica algo no Facebook ou no Instagram que sugere risco, e agora pretende estendê-la também ao seu chatbot.
Entendemos o quanto pode ser angustiante para os pais receberem esses alertas. Por isso, à medida que aprimoramos nossa capacidade de detecção, todas as conversas sinalizadas pela IA passarão por uma revisão manual antes do envio de qualquer alerta. Caso a intenção do adolescente não esteja clara, optaremos pela cautela e notificaremos os pais. Embora isso signifique que, às vezes, possamos notificar os pais sem que haja um motivo real para preocupação, acreditamos que esse é o ponto de partida adequado e continuaremos monitorando a situação para garantir que estamos no caminho certo.
A Meta anunciou ainda que sua configuração de Conteúdo Limitado — que permite aos pais definir uma experiência mais restritiva para seus filhos adolescentes no Instagram — agora também se aplica à Meta AI. O chatbot já é treinado para evitar conversas com adolescentes de cunho sexual ou romântico, bem como discussões sobre álcool; a configuração de Conteúdo Limitado amplia essas proteções, fazendo com que o chatbot recuse uma gama mais ampla de solicitações.
Esses alertas já estão disponíveis para pais que utilizam a ferramenta de Supervisão Parental do Instagram na Austrália, no Canadá, nos Estados Unidos e no Reino Unido, com previsão de implementação mundial até o fim deste ano, segundo a Meta.