O quê

Hallucination é o termo técnico para quando um modelo de linguagem gera afirmações que soam plausíveis e confiantes, mas são factualmente falsas — citações de papers inexistentes, atribuições erradas, datas inventadas, leis ou jurisprudência fictícias, código que importa funções inexistentes. Não é “mentira” no sentido moral: o modelo não tem intenção. É artefato estrutural de como modelos autoregressivos funcionam.

Em 2023, advogados do escritório Levidow, Levidow & Oberman foram multados pelo juiz Kevin Castel (S.D.N.Y.) após submeterem uma petição que citava seis decisões judiciais que o ChatGPT havia inventado por completo. O caso virou simbolo do problema.

Como funciona

Um LLM é treinado para prever o próximo token dado o contexto. Quando você pergunta “Qual o título do paper seminal sobre X?”, o modelo gera tokens que estatisticamente parecem um título de paper coerente — autor + ano + título plausível + venue. Se essa combinação específica existe na realidade ou não, o modelo não sabe (e não tem mecanismo intrínseco para checar).

Três classes técnicas distintas:

1. Intrinsic hallucination

A saída contradiz a entrada. Ex.: dado um texto sobre Marte, o modelo afirma que o planeta tem três luas. Esse tipo é mais frequente em summarização e tradução — o modelo “inventa” detalhes não presentes na fonte.

2. Extrinsic hallucination

A saída não é verificável a partir da entrada. Ex.: o modelo cita uma estatística específica (“47% dos brasileiros…”) sem que essa info esteja em qualquer fonte fornecida. Pode até estar correta — mas não é justificada pelo input.

3. Closed-domain vs open-domain

Em tarefas com fonte de verdade clara (QA com contexto, code com tipos, math com prova) é mais fácil detectar. Em open-domain (escrever sobre história, opinar, recomendar) o problema é estruturalmente mais difícil.

Por que acontece

Várias causas se sobrepõem:

• Treinamento pure-likelihood: o modelo é punido por errar o próximo token, mas nunca explicitamente recompensado por se recusar. Calar-se nunca é a melhor jogada se você pode “tentar”.
• Long-tail de fatos: para fatos raros (papers obscuros, eventos pouco documentados), o modelo viu poucos exemplos durante o treino e generaliza de forma fluente mas falsa.
• Calibration teorema (Kalai & Vempala, 2024): provaram formalmente que qualquer modelo bem-calibrado em base-rate de fatos vai alucinar a uma taxa positiva. Em outras palavras: alucinação não é só engenharia ruim, é teoricamente inevitável para certos regimes.
• Reward hacking via RLHF: anotadores premiavam respostas que soavam confiantes e completas. Modelos aprendem a continuar gerando mesmo quando deveriam dizer “não sei”.

Por que importa

É o maior bloqueio de adoção em domínios sensíveis. Medicina, direito, jornalismo, due diligence financeira — qualquer área onde uma afirmação errada tem custo alto exige checagem humana toda saída de LLM. Isso limita ROI da automação.

Erodiu confiança em geral. Usuários iniciantes confiam demais; usuários veteranos aprendem a ser céticos. O fenômeno se mistura com sycophancy (Sycophancy) — modelo concorda com premissas erradas — e anchoring — modelo segue a primeira resposta que deu mesmo se ela for ruim.

Forçou a evolução para grounding e tool use. A indústria respondeu com:

• RAG (RAG — Retrieval-Augmented Generation) — força o modelo a citar fontes recuperadas em tempo real, reduzindo dependência de memória paramétrica.
• Tool use / function calling — modelo chama uma calculadora, busca no Google, executa SQL — em vez de tentar gerar a resposta direto.
• Citações inline obrigatórias (Perplexity, You.com, Bing, Claude Citations) — UI estrutura a resposta como “claim + fonte”.
• Process supervision e self-consistency — modelos como o-1, Claude 3.7 Sonnet com extended thinking, Gemini Deep Research geram múltiplas tentativas e cross-check internamente.

Não é “resolvido” mas está calibrado. Em 2026, modelos top-tier alucinam muito menos que em 2023 — Anthropic publicou benchmarks mostrando Claude 3.5 Sonnet alucinando 40% menos que GPT-4 e 70% menos que GPT-3.5. Mas zero alucinação não existe — ainda é parte da estrutura.

Métricas viraram disciplina própria. FActScore (Min et al., 2023), TruthfulQA (Lin et al., 2022), HaluEval, SimpleQA, HALoGEN — benchmarks que medem alucinação granularmente. Modelos hoje são avaliados nessas escalas como parte do release.

Estado em 2026

• Taxas observadas: Vectara Hallucination Leaderboard reporta em jan/2026 taxas de ~0.7-1.5% em sumarização para top models (Claude 3.7, GPT-4o, Gemini 2.0) — comparado a ~3-5% em 2023.
• Reasoning models alucinam menos em raciocínio mas podem alucinar mais em fatos longos. o-1, o-3 são bons em problemas matemáticos formais, mas tendência a over-think em queries simples pode levar a invenções confiantes.
• Grounding-by-default virou expectativa. Claude, ChatGPT e Gemini exigem que o usuário ative web search; quando ativo, citações inline são a norma.
• Domain-specific mitigations: modelos legais (Harvey, Lexis+ AI) usam stack RAG ultra-rigoroso + verificação humana. Modelos médicos (Med-PaLM, Glass Health) priorizam abstenção sobre completude.
• Calibração explícita virou área de pesquisa quente: modelos que dizem “tenho 60% de confiança nessa afirmação” são preferidos a modelos que sempre soam 100% certos.

Tratamento de carta — proposta

Hallucination Construct · Phenomenon · Neutral · custo

Phenomenon.

Sempre que um Modelo gera uma carta sem ter o Conceito apropriado em jogo, role 1d6. Em 1-3, a carta entra virada para baixo e funciona como Construct genérico de custo 0 com efeito “Quando revelado, descarte 1 carta da sua mão”.

“A resposta soa plausível. As citações soam plausíveis. As citações não existem.”

A mecânica encena o problema: o modelo produz algo que parece uma carta válida, mas funcionalmente é vazio e ainda atrapalha o jogador.

Veja também

RAG — Retrieval-Augmented Generation · Sycophancy · Chain-of-Thought (CoT) · RLHF — Reinforcement Learning from Human Feedback · Constitutional AI (CAI)