A IA agora está incorporada na pesquisa legal, redação e revisão. É genuinamente útil — e, com total confiança, lhe fornecerá jurisprudência que não existe e citações que nunca foram escritas. Este guia cobre o que são alucinações de IA legal, por que até ferramentas "fundamentadas" as produzem, o que as evidências realmente dizem e — a parte que a maioria das coberturas ignora — um fluxo de trabalho concreto para se proteger.
O que são alucinações legais de IA
Uma alucinação é uma saída confiante e com aparência plausível que é falsa, sem nenhum sinal interno de que algo está errado. No trabalho jurídico, elas assumem algumas formas reconhecíveis:
- Casos fabricados: decisões totalmente inventadas com nomes realistas e citações de repórteres que não correspondem a nenhuma opinião real
- Estatutos errados ou mal declarados: seções estatutárias reais citadas para proposições que não apoiam, ou disposições resumidas de forma imprecisa
- Citações fabricadas dentro de citações reais: a variedade mais perigosa — um caso genuíno, corretamente citado, com uma citação que o tribunal nunca escreveu de fato
Essa terceira categoria é a que mais se deve temer. Um caso falso é detectado no momento em que você o pesquisa. Uma citação fabricada em um caso real passa por uma verificação de citação de rotina — a citação é válida — e o erro se esconde na linguagem que você não verificou em relação à fonte.
Por que eles acontecem — mesmo com ferramentas "fundamentadas"
Um modelo de linguagem não busca fatos em um banco de dados; ele gera a continuação de texto mais plausível com base em padrões em seu treinamento. Às vezes, a saída que soa mais plausível é ficção.
Ferramentas legais "Grounded" ou de recuperação aumentada (RAG) tentam corrigir isso recuperando documentos fonte reais e instruindo o modelo a responder a partir deles. Isso realmente ajuda — reduz drasticamente casos totalmente inventados. Mas a fundamentação não é uma garantia:
Onde o aterramento ainda vaza
- •O modelo pode citar incorretamente um documento que recuperou corretamente.
- •Pode anexar uma citação real a uma proposição que a fonte não apoia.
- •A recuperação pode trazer à tona a passagem errada, e o modelo a cita com confiança mesmo assim.
- •Ele pode misturar linguagem de várias fontes em uma única "citação" fabricada.
Em outras palavras, o grounding muda a distribuição de erros — menos casos falsos, mas os sobreviventes tendem a se concentrar nas citações difíceis de pegar do tipo citações-em-citações-reais.
A evidência
Isso não é hipotético. Dois âncoras e um rastreador valem a pena conhecer:
Mata v. Avianca (2023)
A história de advertência marcante. Advogados apresentaram um parecer federal citando múltiplas decisões judiciais que não existiam — o ChatGPT as havia fabricado, completas com citações falsas. O tribunal sancionou os advogados. Estabeleceu, publicamente e de forma cara, que a produção de IA generativa não verificada não tem lugar em um processo.
Stanford RegLab / HAI (2024)
Um estudo de 2024 do Stanford RegLab e do Instituto de IA Centrada no Humano avaliou as principais ferramentas de pesquisa em IA jurídica projetadas especificamente e constatou que elas ainda apresentavam alucinações em uma parte substancial das consultas — relatadas em aproximadamente a faixa de 17–33%, dependendo da ferramenta e da tarefa.
Antes de publicar, reconfirme as porcentagens exatas, as ferramentas específicas avaliadas e a atribuição precisa em relação ao artigo principal. Cite-o de forma honesta e atribuível — nunca inflacione ou arredonde para um número de marketing.
O banco de dados Charlotin (rastreador)
O pesquisador Damien Charlotin mantém um banco de dados público amplamente citado que rastreia casos judiciais que envolveram citações geradas por alucinações de IA. É o melhor registro em andamento de com que frequência esses erros chegam aos tribunais e até onde eles vão antes que alguém os perceba. Nós o citamos como um recurso — é a referência a ser consultada, não algo a ser reproduzido.
Como se proteger: um fluxo de verificação
A maioria da cobertura para por "tenha cuidado." Aqui está a parte negligenciada — um fluxo de trabalho concreto que você pode realmente executar em cada tarefa de pesquisa assistida por IA:
Verificações de citações independentes
Confirme que cada caso e estatuto citado existe em uma fonte autoritativa (o repórter, o código) — separadamente da ferramenta que o produziu. Não deixe a IA verificar suas próprias citações.
Verificação de citação literal
Puxe a fonte primária e leia cada citação em contexto. Compare as palavras citadas letra por letra com a opinião. Uma citação real com uma citação falsa é o erro que se esconde.
Verificação de proposição
Confirme se a fonte realmente apoia o ponto para o qual foi citada. Uma citação genuína pode ser anexada a uma afirmação que ela não sustenta.
Comparação entre modelos
Faça a mesma pergunta a vários modelos de IA independentes. Quando um produzir um caso ou citação que os outros não conseguem reproduzir — ou que os outros classificam como não suportado — trate essa discordância como um sinal para investigar.
Nunca arquive saída não verificada.
Nenhum resultado de IA entra em um resumo, memorando ou arquivo até que um humano tenha verificado as fontes primárias. Fundamentado ≠ verificado.
Por que a comparação entre modelos merece seu lugar no fluxo de trabalho
Um único modelo não pode verificar a si mesmo de forma confiável — quando perguntado "você tem certeza?", tende a reafirmar o mesmo erro. Modelos independentes falham de maneiras diferentes: eles têm dados de treinamento diferentes e, em configurações fundamentadas, recuperações diferentes. Um caso fabricado ou citação incorreta que um modelo produz geralmente não é reproduzido pelos outros, portanto se destaca como uma afirmação de baixo consenso. Esse é o seu sinal para ir à fonte primária. O consenso entre os modelos aumenta sua confiança de que algo é real — não prova isso, e nunca substitui a leitura da opinião.
A estrutura de responsabilidade profissional
Isso não é apenas uma boa prática — está alinhado com os deveres profissionais essenciais. O dever de competência inclui cada vez mais entender as ferramentas que você usa e seus modos de falha; um advogado que não sabe que a IA fundamentada ainda alucina citações está perdendo algo material sobre a ferramenta. O dever de sinceridade perante o tribunal significa que você é responsável pela precisão do que você apresenta — ponto final. Uma ferramenta de IA não pode assumir esse dever por você, e "o software gerou isso" não foi uma defesa nos casos sancionados.
- Trate a saída da IA como uma pista de pesquisa, nunca como uma citação oficial.
- A pessoa que assina o arquivo é proprietária de cada caso e citação nele.
- Documente seus passos de verificação — é uma boa prática e um registro de diligência.
Usado corretamente — com verificação independente e comparação entre modelos incorporadas ao fluxo de trabalho — a IA torna a pesquisa jurídica mais rápida e ajuda a destacar as alegações que valem uma segunda análise. Usada com confiança, eventualmente colocará uma citação fabricada em seu resumo. A diferença está no fluxo de trabalho, e o fluxo de trabalho é seu para gerenciar.
Perguntas Frequentes
O que são alucinações legais de IA?
Casos falsos, estatutos errados e citações fabricadas escondidas dentro de citações reais — resultados confiantes de IA jurídica que não são verdadeiros.
As ferramentas de IA legal "fundamentadas" ainda têm alucinações?
Sim. O post mostra que as alucinações persistem mesmo em ferramentas fundamentadas, citando evidências documentadas, incluindo Mata v. Avianca e um estudo do Stanford RegLab de 2024.
Como você se protege de alucinações legais de IA?
Com um fluxo de trabalho de verificação: verificações de citações independentes, verificação de citações verbatim, comparação entre modelos e nunca arquivando resultados não verificados — seu dever de sinceridade não se transfere para a ferramenta.