O ChatGPT inventou testemunhas e o erro acabou em desacato

A Suprema Corte do Novo México declarou um advogado em desacato direto após uma peça apresentar testemunhos falsos gerados com ChatGPT. O episódio vai além de citações jurídicas inventadas. Ele mostra como uma IA sem revisão pode fabricar pessoas, falas e evidências, com consequências profissionais reais.

Um documento jurídico deveria ser o lugar mais hostil possível para uma informação sem origem confirmada. Ainda assim, um advogado de defesa no Novo México apresentou material que incluía testemunhas inteiramente fabricadas pelo ChatGPT. A Suprema Corte estadual declarou o profissional em desacato direto. A história foi reportada pela Ars Technica.

O caso envolvia uma ação criminal e um recurso de assassinato. Isso torna o erro especialmente grave. Segundo a cobertura, a peça trazia “false testimony from wholly fabricated witnesses”. Também havia testemunhos policiais falsos e outros erros factuais no material submetido ao tribunal.

A manchete chama atenção porque parece absurda. O problema, porém, não é que um chatbot tenha se comportado como um advogado. O problema é que uma pessoa entregou a ele uma etapa que não podia ser terceirizada: verificar se aquelas pessoas existiam e se aquelas falas tinham origem real.

O salto de risco não está só nas citações falsas

Alucinações de IA já entraram no debate jurídico por meio de precedentes e citações inexistentes. Este episódio acrescenta uma camada mais inquietante. Um sistema pode montar uma narrativa convincente com nomes, depoimentos e detalhes que parecem pertencer a um processo. Se ninguém confere, a aparência de coerência vira uma armadilha.

Esse é o ponto que vale separar. A ferramenta não “descobriu” uma testemunha. Ela gerou texto provável a partir de padrões. Quando não tem uma fonte confiável para responder, um modelo pode preencher a lacuna com algo que soa plausível. O texto pode ter tom formal. Pode usar linguagem jurídica. Nada disso transforma uma invenção em prova.

A punição no Novo México também desmonta uma desculpa confortável: a de que a IA seria um problema pequeno enquanto o erro ainda estiver no rascunho. Um rascunho é justamente o momento de checar. Depois que o conteúdo entra numa petição, num recurso ou em qualquer documento oficial, o risco deixa de ser técnico. Ele passa a atingir credibilidade, prazo, cliente e responsabilidade profissional.

A lição para escritórios e profissionais no Brasil

A distância entre o tribunal americano e a rotina brasileira é menor do que parece. Escritórios pequenos, profissionais solo, freelancers e equipes enxutas já usam ChatGPT, Gemini e ferramentas parecidas para resumir arquivos, estruturar argumentos, revisar textos e acelerar pesquisas.

Ganhar tempo não é o problema. O risco começa quando velocidade substitui a conferência. Em documentos sensíveis, uma resposta de IA deve ser tratada como uma sugestão de trabalho, não como uma fonte. Nomes precisam ser checados. Citações precisam levar à decisão correta. Trechos atribuídos a alguém precisam ser encontrados no documento original. Datas, números e referências também pedem confirmação.

A regra prática é simples: se uma afirmação não pode ser localizada fora do chatbot, ela não está pronta para ser protocolada ou publicada. Não basta perguntar ao sistema se ele tem certeza. Uma segunda resposta do mesmo sistema não é auditoria independente.

O mesmo padrão já apareceu no debate sobre o uso de IA no Direito. Em nossa análise sobre alucinações do Gemini no jurídico, o alerta é semelhante: um texto bem escrito pode carregar informações que não resistem à verificação. Trocar Google por OpenAI não resolve a questão. O controle continua sendo humano.

Um checklist antes de enviar qualquer documento

Não é preciso criar um processo burocrático para reduzir o risco. Um checklist curto já muda o uso da ferramenta. Antes de protocolar ou enviar um material sensível, vale conferir a fonte primária de cada fato relevante. Vale abrir cada citação, confirmar cada nome e reler qualquer passagem que a IA tenha resumido com segurança excessiva.

Também ajuda dividir papéis. A IA pode organizar uma primeira versão, apontar tópicos ou sugerir perguntas. A validação precisa ficar com alguém que tenha acesso aos autos, aos documentos ou às fontes originais. Em times pequenos, isso pode significar uma revisão cruzada. Em trabalho individual, pode significar uma pausa deliberada antes do envio.

Há uma diferença importante entre usar IA para acelerar tarefas e usar IA para assinar a realidade. A primeira escolha pode aumentar produtividade. A segunda transfere para um gerador de texto uma responsabilidade que ele não consegue assumir.

A conta chega para quem aperta enviar

O caso do Novo México é um alerta de governança de IA, não uma curiosidade distante sobre um advogado desatento. Sistemas generativos não conhecem a diferença entre um detalhe verdadeiro e um detalhe que apenas completa bem uma frase. Quem precisa conhecer essa diferença é o usuário.

Quanto mais comum fica usar IA no trabalho, mais valiosa se torna uma disciplina básica: origem antes de fluidez. Uma peça, relatório ou proposta não fica confiável porque parece pronto. Fica confiável quando cada parte importante pode ser rastreada e sustentada fora da tela do chatbot.

O ChatGPT pode ter inventado as testemunhas. Mas a decisão de colocá-las em um documento foi humana. É essa etapa que escritórios, freelancers e equipes brasileiras precisam proteger antes que a economia de alguns minutos vire um problema profissional muito maior.