A Suprema Corte do Novo México aplicou uma multa e declarou em desacato um advogado de defesa que usou o ChatGPT para elaborar um recurso de apelação criminal.
O programa da OpenAI inventou depoimentos policiais e criou testemunhas fictícias para um processo de assassinato. A punição ocorreu depois que o profissional apresentou o material ao tribunal sem verificar a precisão das informações.
Depoimentos falsos e testemunhas inventadas
O caso envolve a apelação de Oscar Renee Sandoval, condenado à prisão perpétua pelo assassinato da mãe de seus filhos. Ao assumir o recurso, o advogado Stephen Aarons alimentou o ChatGPT com uma transcrição gerada por computador e outros materiais do julgamento, esperando obter um resumo confiável.
Leia mais:
- OpenAI suspende novas assinaturas do ChatGPT Pro após enorme demanda pelo Astra
- OpenAI pede regras obrigatórias de segurança para IA nos EUA
- IA cria ataque que pode hackear celulares sem nenhum clique
O resultado incluiu declarações que nunca foram feitas e testemunhas que jamais existiram. Entre os exemplos apontados pela Suprema Corte estava uma afirmação de que o atirador vestia calça escura e camisa branca.
A corte afirmou que o recurso continha “falso testemunho de testemunhas totalmente inventadas”.
A Suprema Corte aplicou a Aarons uma multa de US$ 5 mil e informou que encaminhará o caso a um órgão disciplinar da advocacia para investigação. Os ministros também afirmaram que o advogado demonstrou falta de arrependimento e preocupação insuficiente com seu cliente.
Advogado diz que não conhecia as “alucinações” da IA
Durante uma audiência em 21 de agosto, Aarons disse que havia alimentado o ChatGPT com os materiais do processo porque acreditava que a ferramenta produziria um resumo “à prova de falhas”. Ele afirmou não compreender até que ponto a inteligência artificial poderia inventar informações.
Em declaração à Reuters, o advogado reconheceu o erro e disse esperar que o conselho disciplinar considere que não houve intenção de enganar o tribunal:
“Estou arrependido, mas espero que o conselho disciplinar leve em conta que foi um erro honesto.”
A juíza C. Shannon Bacon demonstrou incredulidade diante da explicação e questionou o advogado sobre seu conhecimento a respeito das falhas da inteligência artificial.
“Advogado, você assiste ao noticiário? Ouve rádio? Lê alguma coisa sobre o que está acontecendo no mundo?”
- Casos anteriores: Dezenas de advogados já foram punidos por apresentar documentos em que a IA inventou citações de processos ou interpretou incorretamente a legislação.
- Gravidade do caso: O recurso de Aarons foi além desses erros ao incluir testemunhos fictícios em uma apelação criminal.
- Andamento do processo: A apelação de Sandoval continua pendente e, em 2 de setembro, passou a ser conduzida pela defensora pública Kim Chavez Cook.
Decisão reforça alerta para o setor
A punição se soma a uma sequência de casos em que tribunais estaduais e federais dos Estados Unidos sancionaram advogados por apresentar documentos produzidos por inteligência artificial sem verificar adequadamente o conteúdo. O caso de Aarons chama atenção porque as informações inventadas não se limitaram a referências jurídicas: chegaram a incluir depoimentos e testemunhas inexistentes em um processo criminal.
A OpenAI não respondeu imediatamente ao pedido de comentário da Reuters. A apelação de Sandoval continua em andamento.
O post ChatGPT inventa testemunhas e depoimentos em recurso e advogado é punido apareceu primeiro em Olhar Digital.