Hallucinations de IA: o que são, por que acontecem e como lidar

Um advogado em Nova York usou o ChatGPT para preparar uma petição e citou seis decisões judiciais que sustentavam o argumento do cliente. O juiz verificou. Nenhuma das seis decisões existia. Os nomes dos casos, os números de processo e até as ementas eram plausíveis, mas completamente inventados. O advogado foi multado em US$ 5.000.

Esse caso de 2023 foi o primeiro de muitos. Segundo o banco de dados de hallucinations em processos judiciais mantido pelo pesquisador Damien Charlotin, já são 486 casos documentados globalmente, envolvendo 128 advogados e dois juízes.

O problema não é que advogados sejam descuidados. É que o mecanismo pelo qual modelos de IA geram texto torna hallucinations inevitáveis, e a confiança com que o modelo apresenta informações falsas torna difícil distingui-las das verdadeiras.

O que é uma hallucination

Uma hallucination é quando o modelo de IA gera informação falsa, enganosa ou sem fundamento, apresentada com a mesma confiança de uma informação verdadeira. Não é um bug no sentido tradicional. É uma consequência de como o modelo funciona.

Pesquisa do MIT identificou que modelos de IA são 34% mais propensos a usar linguagem confiante (“definitivamente”, “sem dúvida”, “certamente”) quando estão gerando informação incorreta do que quando estão apresentando fatos verificáveis. O modelo não sabe que está errado, ele não distingue entre correto e incorreto. Ele gera o que é estatisticamente provável.

Por que hallucinations acontecem

O mecanismo é simples: modelos de linguagem não recuperam informações de uma base de dados verificada. Eles preveem a próxima palavra com base em padrões estatísticos aprendidos durante o treinamento.

Quando o modelo encontra uma pergunta para a qual não tem dados suficientes, ele preenche a lacuna com o que parece mais plausível. Um nome de caso judicial inventado que segue o padrão “Sobrenome v. Sobrenome” é estatisticamente provável no contexto de uma petição. O modelo não verifica se o caso existe. Ele gera o que o contexto sugere.

Uma análise da Universidade Duke em 2026 reforça: uma prova matemática de 2025 confirmou que hallucinations não podem ser completamente eliminadas na arquitetura atual dos LLMs. Esses sistemas geram respostas estatisticamente prováveis, não respostas verificadas. Algum nível de confabulação faz parte de como funcionam.

Para entender em mais detalhe o mecanismo de geração token a token que causa hallucinations, veja como o Claude processa seu texto.

Os números atuais

As taxas de hallucination variam por modelo, por tarefa e por benchmark. Segundo dados compilados pelo Suprmind e pelo Vectara Hallucination Leaderboard:

Em tarefas de resumo de documentos (onde o modelo tem o texto original como referência), as taxas caíram para menos de 1% nos melhores modelos. Quando o modelo resume algo que acabou de ler, ele erra pouco.

Em perguntas de conhecimento geral, a taxa média fica por volta de 9%. O modelo acerta na maioria das vezes, mas erra o suficiente para que verificação seja necessária.

Em domínios específicos, as taxas sobem. Em questões jurídicas, modelos alucinam entre 69% e 88% das vezes. Em vinhetas clínicas, a taxa chega a 64% sem técnicas de mitigação.

A tendência é de queda: as taxas diminuem por volta de 3 pontos percentuais ao ano. Mas mesmo os melhores modelos de 2026 alucinam em alguma porcentagem dos casos. A questão não é se o modelo vai alucinar, é quando.

Quando hallucinations importam (e quando não)

Nem toda hallucination tem consequência. O impacto depende do uso:

Alto risco (verificação obrigatória):

• Citações de jurisprudência, normas, regulações
• Dados financeiros usados para tomada de decisão
• Informações médicas para orientação de pacientes
• Qualquer fato que será publicado ou usado em documento oficial

Risco moderado (revisão recomendada):

• Pesquisa exploratória de mercado
• Resumos de documentos longos
• Análise comparativa entre opções

Baixo risco (uso direto geralmente seguro):

• Rascunhos de texto que serão editados
• Estrutura de documentos e outlines
• Brainstorming de ideias e ângulos
• Geração de fórmulas de planilha (o resultado é verificável imediatamente)

A regra prática: se o output vai ser verificado antes de ser usado, o risco de hallucination é gerenciável. Se vai ser usado diretamente sem revisão, o risco é real.

Como reduzir hallucinations na prática

1. Forneça contexto. Quanto mais informação relevante você dá ao modelo, menos ele precisa “inventar.” Cole o documento, a planilha, o contrato. Modelos alucinam menos quando têm a referência no contexto.

2. Peça fontes. Quando pedir informações factuais, inclua no prompt: “cite a fonte de cada afirmação.” O modelo pode inventar fontes, mas o hábito de pedir força uma geração mais cuidadosa e facilita a verificação posterior.

3. Use para o que o modelo é bom. Resumo de documentos que você forneceu, rascunhos de texto, organização de informação, geração de código verificável. Esses usos minimizam o espaço para hallucinations porque o modelo trabalha com dados que já estão no contexto.

4. Verifique o que importa. Não precisa verificar cada frase. Precisa verificar os fatos que serão usados para tomar decisões, citar em documentos ou apresentar a terceiros.

5. Desconfie da confiança. Se o modelo responde com certeza absoluta sobre um dado específico (data, número, nome, citação), esse é exatamente o momento de verificar. A confiança do modelo não é indicador de precisão.

O que muda quando você entende o mecanismo

A maioria das frustrações com IA vem de expectativas erradas. Se você espera que o modelo “saiba” as coisas como um ser humano sabe, vai se decepcionar. Se entende que o modelo gera padrões estatísticos plausíveis, começa a usá-lo para o que ele realmente faz bem, e a verificar onde ele falha.

Hallucinations não são um defeito temporário que será corrigido na próxima versão. São uma propriedade estrutural da tecnologia. Modelos vão melhorar, taxas vão cair, mas a necessidade de verificação humana nos pontos críticos permanece.

Para quem está avaliando qual ferramenta de IA escolher, as diferenças de taxa de hallucination entre modelos existem, mas importam menos do que a prática de verificação que você adota.

Para implementar IA no seu processo com protocolos adequados de verificação: veja como posso ajudar.