O quê

RAG (Retrieval-Augmented Generation) é a técnica de combinar busca em uma base de conhecimento com geração por LLM para responder perguntas usando fontes específicas. Introduzido por Patrick Lewis e equipe (Facebook AI Research) em maio de 2020, virou o padrão industrial para construir aplicações de IA sobre dados privados, documentos longos ou conhecimento que mudou após o cutoff de treinamento do modelo.

A intuição é simples: em vez de o LLM “lembrar” tudo via parâmetros (memória paramétrica), você dá a ele acesso direto a um índice de documentos e ele cita o que precisar. Resultado: respostas mais factuais (Hallucination cai), atualizáveis (mude o índice, não precisa retreinar) e auditáveis (você sabe qual documento gerou qual claim).

Como funciona

RAG canônico tem dois pipelines paralelos:

Indexação (offline, periódica)

1. Ingestão: você pega seus documentos (PDFs, páginas web, transcrições, código-fonte).
2. Chunking: divide cada documento em pedaços de 200-1000 tokens. Estratégias variam: por tamanho fixo, por parágrafo, por sentido (semantic chunking).
3. Embedding: passa cada chunk por um modelo de embedding (ada-002, voyage-3, BGE, gemini-embedding) que retorna um vetor denso (768-3072 dimensões).
4. Armazenamento: vetores entram em um vector database (Pinecone, Weaviate, Qdrant, pgvector, LanceDB) que indexa eficientemente para busca por similaridade.

Query (online, em tempo de inferência)

1. Embed da query: a pergunta do usuário vira um vetor pelo mesmo modelo de embedding.
2. Retrieval: o vector DB retorna os top-K chunks mais similares (cosine similarity, dot product, ou MIPS). K tipicamente é 3-20.
3. (Opcional) Reranking: um modelo cross-encoder mais caro (Cohere Rerank, BGE-Reranker) re-ordena os K chunks com mais precisão.
4. (Opcional) Hybrid search: combina retrieval denso (embeddings) com lexical (BM25) para capturar tanto similaridade semântica quanto correspondência exata.
5. Geração: monta um prompt no formato:

   Use APENAS os documentos abaixo para responder.
   
   [Documento 1]
   ...
   
   [Documento 2]
   ...
   
   Pergunta: ...
   Resposta:

   E pede ao LLM para gerar com citações.

Variantes modernas

• Graph RAG (Microsoft Research, 2024) — em vez de chunks isolados, constrói um knowledge graph dos documentos e navega por entidades + relações. Melhor para queries globais (“Resuma os temas dominantes em 10k artigos”).
• Agentic RAG — o modelo decide dinamicamente quando buscar, refaz queries refinadas, navega entre múltiplos índices.
• Self-RAG — modelo decide token-a-token se precisa recuperar.
• HyDE (Hypothetical Document Embeddings) — modelo gera uma resposta hipotética, embeda ela, e usa esse embedding para buscar (melhor que embedar a query crua).

Por que importa

Habilitou IA sobre dados privados. Antes de RAG (e antes de janelas de contexto enormes), colocar um documento de 200 páginas dentro do prompt era impossível. RAG permitiu construir assistentes que respondem sobre contratos corporativos, código interno, base de conhecimento de suporte, papers científicos sem fine-tuning. Virou o pattern dominante de aplicação enterprise.

Reduziu hallucination significativamente. Hallucination cai dramaticamente quando o modelo é forçado a citar passagens reais. Métricas de faithfulness (RAGAS, FActScore) melhoram em 30-60% comparado a generation sem retrieval.

Atualização sem retreino. Modelo treinado em 2024 não sabe nada que aconteceu em 2026. Mas se você indexar notícias recentes no seu RAG, ele “sabe” — porque ele apenas resume o que recuperou. Esse é o mecanismo por trás de Perplexity, You.com, Bing Copilot, Claude Search.

Trouxe vector databases ao mainstream. Pinecone, Weaviate, Qdrant viraram empresas de centenas de milhões. Postgres adicionou pgvector. ClickHouse, MongoDB, Elasticsearch adicionaram suporte nativo. O paradigma “embedar + buscar por similaridade” virou primitiva genérica de engenharia.

Tem limitações importantes que justificam evoluções:

• Chunking é frágil — quebrar um parágrafo no meio destrói contexto. Semantic chunking ajuda mas não resolve.
• Recall depende da query — se o usuário pergunta com palavras diferentes das do documento, similarity score cai. HyDE e query expansion mitigam.
• Composição — RAG simples falha em queries multi-hop (“Compare X em A e B”). Agentic RAG e Graph RAG endereçam.
• Contexto longo competiu — modelos com janelas de 1M+ tokens (Gemini 1.5/2.0, Claude com 200K) podem em alguns casos eliminar a necessidade de RAG, só metendo tudo no contexto. Mas custo e latência ainda favorecem RAG na maior parte dos casos.

Estado em 2026

• RAG é stack default para qualquer aplicação enterprise de LLM. Toda startup B2B AI roda algum sabor de RAG.
• Embedding models evoluíram radicalmente: ada-002 (OpenAI, 2022) virou voyage-3, gemini-embedding-2, BGE-M3 multimodal — performance dobrou.
• Cohere Rerank, BGE-Reranker, ColBERT viraram primitivas de qualidade — reranking adicional aumenta precision com pouco custo.
• Graph RAG e GraphRAG-like systems viraram tendência forte em conteúdo curatorial, jurídico e científico.
• Long context vs RAG continua tensão: para fontes pequenas e estáveis, contexto longo ganha; para fontes grandes ou dinâmicas, RAG ganha em custo.
• MCP (Model Context Protocol, Anthropic, 2024) padronizou interfaces para LLMs acessarem fontes externas — RAG virou só uma das implementações desse contrato genérico.

Tratamento de carta — proposta

RAG Technique · Inference · Neutral · custo

Retrieval.

Index: Quando este Construct entra em jogo, escolha até 5 cartas de Conceito do seu deck e revele-as. Embaralhe o resto.

Augment: No início de cada turno, antes de fazer qualquer outra coisa, você pode revelar uma carta da pile “Index”. Se for de Conceito do que você está prestes a jogar, ela conta como gratuita até o fim do turno.

“O modelo não precisa lembrar. Ele precisa saber onde procurar.”

A mecânica encena: você constrói um índice de fontes (Index), e na hora certa recupera o pedaço que importa (Augment).

Veja também

Hallucination · Function Calling / Tool Use · GraphRAG · Transformer · MCP — Model Context Protocol