S1 · #095 · FOUNDRY

RedPajama

Construct — dataset Incomum

Custo: 3 de energia

open-source

Texto de regras

Pile: enquanto este Construct estiver em jogo, sempre que outro Model entrar, ele entra com keyword pre-trained-x. Compre 1 carta no início do seu turno (Pile alimenta tudo).

825 GB. 22 fontes. Inclui Books3. Pergunte ao seu advogado.

O que esta carta ensina

Toda carta do Magik ancora um conceito real da história da IA. Estes são os desta:

Common Crawl Data & Corpora Crawl público da web — petabytes de HTML bruto. Base de quase todo LLM (GPT-3 era ~410B tokens dele).
RedPajama / Dolma / FineWeb Data & Corpora Datasets open-source para reproduzir LLaMA-like training. Together AI, AI2, HuggingFace.

A COLEÇÃO É DIÁRIA

Esta carta pode ser sua.

Todo dia a Forja libera uma carta para a sua coleção — ela entra no álbum, abre o conceito que ancora e conta para o seu streak. É de graça.

Pegar a carta de hoje Criar conta grátis

Ficha do colecionador

Colecionador: MLG · S1 · 095/200 · FOUNDRY · K.RIDOLFI
Arte: K.RIDOLFI
Set: S1