COMPUTE WARS · BOOTSTRAPPING

Magik LLM
Gathering

Selando o pacto…
Pular para o conteúdo
Phenomena & Laws llm-era 2022 phenomenon

Emergent Capabilities

Capacidades que aparecem 'do nada' em modelos grandes (não escalam smooth com tamanho).

RESUMO

Wei et al. (2022). Few-shot, CoT, instruction-following emergem ~10B+ params. Polêmica: Schaeffer et al. (2023) argumentou que muitos são artefatos de métrica binária. Debate aberto.

Tags: scale · phase-transition

VEJA TAMBÉM