Em meio ao aumento das preocupações com a segurança infantil na internet, a OpenAI anunciou um novo plano voltado ao fortalecimento da proteção de crianças nos Estados Unidos diante do avanço da inteligência artificial (IA). O documento, chamado Child Safety Blueprint, foi divulgado na terça-feira e propõe melhorias na detecção, no reporte e na investigação de casos de exploração infantil com uso de IA.
A iniciativa surge em um contexto de crescimento desse tipo de crime. Segundo a Internet Watch Foundation (IWF), mais de 8 mil denúncias de conteúdo de abuso sexual infantil gerado por IA foram registradas no primeiro semestre de 2025, um aumento de 14% em relação ao ano anterior. Entre os casos identificados estão o uso de ferramentas para criar imagens falsas e mensagens voltadas ao aliciamento.
Parcerias e repercussão do plano da OpenAI
O lançamento ocorre em meio ao aumento da atenção de legisladores, educadores e organizações de proteção infantil. O tema também ganhou destaque após relatos de incidentes envolvendo jovens que morreram por suicídio depois de interações com chatbots de IA.
Em novembro, o Social Media Victims Law Center e o Tech Justice Law Project entraram com sete ações judiciais em tribunais estaduais da Califórnia. Os processos alegam que a OpenAI lançou o GPT-4o antes de estar pronto. As ações citam quatro mortes por suicídio e três casos de delírios graves após interações prolongadas com o chatbot, apontando possível influência do sistema.
O blueprint foi desenvolvido com a colaboração do National Center for Missing and Exploited Children (NCMEC) e da Attorney General Alliance, além de contar com contribuições dos procuradores-gerais Jeff Jackson, da Carolina do Norte, e Derek Brown, de Utah.
Pontos focais do blueprint
De acordo com a OpenAI, o plano se concentra em três frentes principais: atualização das leis para incluir materiais gerados por IA, aprimoramento dos mecanismos de comunicação com autoridades e integração de medidas preventivas diretamente nos sistemas de inteligência artificial.
A proposta busca ampliar a capacidade de identificação precoce de riscos e garantir que informações relevantes cheguem de forma mais rápida às investigações.
O blueprint também se apoia em iniciativas anteriores da empresa, como diretrizes atualizadas para interações com usuários menores de 18 anos. Essas regras proíbem a geração de conteúdo inadequado, o incentivo à automutilação e orientações que ajudem jovens a esconder comportamentos inseguros de responsáveis. A empresa também lançou recentemente um plano de segurança voltado a adolescentes na Índia.
O post OpenAI lança plano para combater exploração infantil com IA apareceu primeiro em Olhar Digital.