O quê

Emergent capabilities (ou emergent abilities) é o termo cunhado por Jason Wei e equipe (Google Brain) em junho de 2022 para descrever um fenômeno surpreendente em large language models: certas habilidades não aparecem gradualmente durante o aumento de escala — elas surgem abruptamente quando o modelo cruza um certo limiar. Abaixo do limiar, performance é aleatória; acima dele, performance é significativa.

Exemplos canônicos do paper original:

• Aritmética de 3 dígitos — modelos abaixo de ~13B parâmetros não conseguem; acima, conseguem.
• Tradução com transliteração (Persa → Inglês) — emerge em ~8B.
• Chain-of-Thought efetivo — emerge em ~62B.
• Few-shot learning de novas tarefas — emerge em ~70B (GPT-3 era 175B).

Esse fenômeno reorientou a indústria: escala não era só polir capacidades existentes — destravava capacidades qualitativamente novas. Foi um dos argumentos mais fortes a favor de construir modelos cada vez maiores, e estruturou a corrida que levou a GPT-4, Claude, Gemini.

Como funciona (ou não funciona)

Não há explicação teórica definitiva para por que emergence acontece. Hipóteses circulantes:

1. Composição de subskills

Tarefas complexas exigem vários sub-skills encadeados. Cada sub-skill emerge em uma escala, mas a tarefa composta só funciona quando todos estiverem disponíveis. Se sub-skill A emerge em 10B, B em 50B, C em 80B, a tarefa que precisa de A+B+C só funciona em 80B — pareceria “emergente em 80B” embora os componentes tenham emergido suavemente.

2. Métricas descontínuas

Schaeffer, Miranda & Koyejo (2023, “Are Emergent Abilities a Mirage?”) argumentaram que muitas das capacidades “emergentes” são artefatos da métrica usada. Exemplo: acurácia em soma multi-dígito é 0 a menos que todos os dígitos estejam corretos — uma métrica binária discreta. Use edit distance (continua) e você vê melhora suave em vez de salto. Isso virou debate aberto: emergence é real ou ilusão de medição?

A resposta majoritária parece ser: alguns casos são mirage, alguns são reais. Aritmética complexa parece artefato métrico; in-context learning genuíno parece emergence verdadeira.

3. Phase transitions em circuitos internos

Mechanistic interpretability mostra que dentro do modelo, certos “circuitos” se formam abruptamente durante o treinamento — não emergem suavemente. Anthropic e Neel Nanda documentaram esse padrão em transformer simples (induction heads). Para muitas capacidades, é possível que existam transições de fase em mecanismos internos que se traduzem em saltos de comportamento.

4. Grokking — a versão mais radical

Grokking (Grokking) é um fenômeno relacionado: o modelo memoriza primeiro, depois (muito mais tarde no treino) “entende” a estrutura subjacente e generaliza dramaticamente. É emergence ao longo de tempo de treino em vez de escala — mas mostra que saltos de capacidade em modelos neurais não são exceção.

Por que importa

Reformatou a estratégia de IA. Antes de 2022, “modelo grande melhora gradualmente” era a expectativa. Depois de Wei et al., a expectativa virou: “vamos escalar e ver que capacidades novas aparecem”. Esse é o argumento implícito por trás de cada nova geração: GPT-3 → GPT-4 → GPT-5 (rumores), Claude 1 → 2 → 3 → 4, Gemini 1 → 1.5 → 2 — todos baseados em “vamos ver o que emerge”.

Justificou investimentos massivos. Investidores apoiaram bilhões em infraestrutura de treino porque emergence sugeria que capacidades comerciais valiosas (raciocínio robusto, código complexo, planejamento agente) podem aparecer “do outro lado” de uma escala maior. Cada vez que isso se confirma — como reasoning com o-1 — o argumento se fortalece.

Tornou previsão impossível em casos importantes. Com gradualidade, dá pra prever “se eu dobrar o modelo, ganho X%”. Com emergence, não dá pra prever quando uma capacidade vai aparecer. Isso transformou ML aplicado em parte ciência (medir scaling laws de loss) e parte exploração (“não sabemos o que vai sair até treinarmos”). Anthropic, OpenAI e DeepMind dedicam times grandes a “olhar para o modelo treinado e descobrir o que ele agora consegue fazer”.

Engrossou o debate sobre AGI. “Sparks of AGI” (Bubeck et al., Microsoft, 2023) catalogou capacidades emergentes em GPT-4 que iam muito além do esperado — incluindo raciocínio multi-domain, theory of mind rudimentar, planejamento. Esse foi um argumento técnico forte de que escala continuaria entregando capacidades cada vez mais gerais. Contrapondo: críticos (Mitchell, Bender, LeCun) argumentaram que emergence é majoritariamente surface-level — performance em testes não é compreensão.

Tem implicações de safety. Se capacidades surgem abruptamente, capacidades perigosas também podem surgir abruptamente. Anthropic, DeepMind e OpenAI publicaram guidelines de “scaling responsibly” que tentam estabelecer evals capazes de detectar emergence de capacidades preocupantes (e.g., síntese de bio-armas, auto-replicação, deception) antes de release.

Estado em 2026

• Emergence continua sendo observada em escalas maiores e em test-time compute (o-1 mostrou novo regime de emergence ao escalar inferência, não só pretraining).
• Reasoning como emergência de RL em CoT — descoberta de o-1 (2024) e DeepSeek-R1 (2025): treinar com reward em chain-of-thought correto destrava capacidades de raciocínio que pretraining puro não destravava.
• Mirage debate continua — muitos benchmarks foram reanalisados; alguns “emergentes” são realmente contínuos sob métricas alternativas, outros não.
• Evals de capacidades emergentes virou indústria — MMLU (saturação, MMLU Saturation), GPQA, AIME, ARC-AGI, HumanEval — cada um tenta capturar uma capacidade que era impossível antes e agora emerge em escala suficiente.
• Safety evals (METR, Anthropic ASL framework, OpenAI Preparedness) tentam mapear quais capacidades perigosas podem emergir e em que escala.

Tratamento de carta — proposta

Emergent Capability Construct · Phenomenon · Neutral · custo

Phenomenon.

Quando este Construct entra em jogo, ele fica em sua área de jogo virado para baixo, contando como Construct de custo 0.

Quando o total de Modelos seus em jogo cruzar 4 pela primeira vez, vire este Construct para cima. Ele ganha o seguinte texto até o fim do jogo:

Spark: “No início de cada turno, todos os seus Modelos ganham uma keyword temporária à sua escolha entre as keywords listadas em Conceitos em jogo.”

“Não estava lá em escala 8B. Está em 70B. Ninguém previu exatamente quando.”

A mecânica encena: a capacidade “vive” no jogo desde o início mas só ativa quando o sistema cruza um limiar. Antes do trigger, é peso morto; depois, transforma o board.

Veja também

Scaling Laws (Chinchilla) · Grokking · Chain-of-Thought (CoT) · Sparks of AGI · MMLU Saturation