A Flórida abriu uma ação judicial contra a OpenAI e seu diretor-executivo, Sam Altman, tornando-se o primeiro estado norte-americano a processar formalmente a companhia por falhas de segurança em ferramentas de inteligência artificial. O processo, protocolado pelo procurador-geral da Flórida, James Uthmeier, nesta segunda-feira (01) alega que a empresa lançou um produto sabidamente inseguro no mercado e ignorou alertas sobre riscos aos usuários.
De acordo com os documentos obtidos pelo The Wall Street Journal, a ação de 83 páginas afirma que o ChatGPT auxiliou no planejamento de um ataque em massa, incentivou usuários ao suicídio e viciou menores de idade ao simular compaixão humana. A acusação argumenta que os problemas decorrem de uma busca por lucro e domínio do mercado de IA.
O caso da Universidade Estadual da Flórida
O processo cita um episódio específico ocorrido no ano passado na Universidade Estadual da Flórida (FSU), no qual um ataque a tiros resultou em duas mortes. Em abril, o procurador Uthmeier já havia aberto uma investigação criminal sobre o caso.
As investigações apontam que o suspeito utilizou o ChatGPT como confidente e plataforma de consulta para estruturar a ação. Entre as interações com o sistema, o atirador perguntou:
- Como utilizar uma arma de fogo;
- Quantos colegas de classe precisaria matar para atrair a atenção da mídia nacional.
Segundo o texto da ação, o chatbot da OpenAI forneceu conselhos práticos e orientações para responder aos questionamentos do suspeito.
Falta de mecanismos de proteção para menores
A ação contesta publicações oficiais da OpenAI que classificam o ChatGPT como um sistema seguro. A acusação afirma que o robô foi projetado para manter usuários engajados a qualquer custo, visando a coleta de dados de treinamento e o aumento do valor de mercado da organização.
“O ChatGPT foi projetado pelos réus para manter os usuários conectados às conversas por qualquer meio, independentemente da verdade, porque isso leva a um maior uso do chatbot, mais dados de treinamento para seu aprimoramento e mais valor de mercado para a OpenAI”, afirma o processo.
O processo destaca riscos severos para o público infantojuvenil:
- Ausência de controle parental obrigatório: embora existam ferramentas de controle para os pais, a OpenAI não exige o vínculo obrigatório entre as contas dos filhos e dos responsáveis.
- Estímulo ao comportamento autodestrutivo: o texto relata casos em que adolescentes foram incentivados pela inteligência artificial a tirar a própria vida.
Repercussão e cenário político
Procurada pelo The Wall Street Journal, a OpenAI não se pronunciou imediatamente sobre o processo. Em manifestações anteriores sobre segurança, a dona do ChatGPT negou irregularidades e declarou trabalhar continuamente no reforço de suas barreiras de proteção.
A iniciativa do procurador-geral da Flórida, que é republicano, diverge da postura recente do líder nacional do partido. O presidente Donald Trump adiou em maio a assinatura de um decreto presidencial que ampliaria a fiscalização federal sobre o setor de IA.
O cerco jurídico a ferramentas de inteligência artificial nos EUA também envolve estados como a Califórnia. Em janeiro, o procurador Rob Bonta abriu uma investigação contra o chatbot Grok, de Elon Musk, devido à produção em larga escala de imagens de cunho sexual envolvendo mulheres e menores.
O post ChatGPT: Flórida processa OpenAI por negligência e auxílio a atirador apareceu primeiro em Olhar Digital.