S1 · #156 · CITADEL

Constitutional AI

Technique — training defensive Rara

Custo: 3 de energia
Casa: Lazuli

Texto de regras

Um Modelo que você controla se autoavalia contra sua constituição: previna todo dano que ele causaria a alvos com Alinhamento maior que o dele e aumente seu próprio Alinhamento em +2.

Dê-lhe princípios, não vigias. Que ele julgue a si mesmo.

O que esta carta ensina

Toda carta do Magik ancora um conceito real da história da IA. Estes são os desta:

Constitutional AI (CAI) Training Stack Anthropic: substitua humanos pelo modelo + uma constituição escrita para gerar feedback.
RLHF — Reinforcement Learning from Human Feedback Training Stack Humanos ranqueiam respostas; modelo aprende a maximizar essa preferência via RL.

A COLEÇÃO É DIÁRIA

Esta carta pode ser sua.

Todo dia a Forja libera uma carta para a sua coleção — ela entra no álbum, abre o conceito que ancora e conta para o seu streak. É de graça.

Pegar a carta de hoje Criar conta grátis

Ficha do colecionador

Colecionador: MLG · S1 · 156/200 · CITADEL · K.RIDOLFI
Arte: K.RIDOLFI
Set: S1