O quê

Em 14 de fevereiro de 2019, a OpenAI anunciou o GPT-2 mas se recusou a liberar o modelo completo de 1,5 bilhão de parâmetros, citando o risco de uso malicioso — geração de fake news, spam e desinformação em escala. Em vez disso, adotou um “staged release”: soltou primeiro versões pequenas (124M), depois maiores, monitorando o impacto. O modelo full só veio em 5 de novembro de 2019.

A decisão pegou a comunidade de surpresa e dividiu opiniões. “GPT-2 is too dangerous to release” virou bordão — usado tanto a sério, na época, quanto, hoje, como piada retroativa.

Como funciona

O argumento da OpenAI tinha duas pernas: incerteza (ninguém sabia o quão perigoso o modelo era na prática) e norma (criar um precedente de liberação responsável). Críticos contra-argumentaram que reter pesos não impede atores capazes de retreinar, e que o segredo prejudica a pesquisa de defesa. No release final, a própria OpenAI relatou ter encontrado pouca evidência de uso indevido e detecção de texto sintético viável — esvaziando boa parte do medo inicial.

Por que importa

• Estabeleceu o template do staged release. Liberação gradual + system cards + avaliação de risco viraram prática padrão para modelos de fronteira.
• Abriu o debate open vs. closed. Inaugurou a tensão entre transparência científica e segurança que domina a discussão de open-weights até hoje.
• Caso de calibração. Mostrou como é difícil estimar risco de uma capacidade nova — erra-se tanto para mais quanto para menos.

Estado em 2026

Em retrospecto, o medo de 2019 parece ingênuo: GPT-2 roda num laptop e é trivial perto de qualquer modelo atual. Mas a piada tem fundo sério — o ritual que a OpenAI inventou virou norma para modelos que talvez sejam, esses sim, perigosos. A pergunta “este modelo é perigoso demais para liberar?” deixou de ser exótica e virou item obrigatório de checklist de lançamento. O meme envelheceu virando precedente. (Janela temporal: anúncio fev/2019 → release full nov/2019 → piada retroativa + norma viva em 2026.)

Tratamento de carta — proposta

‘Too Dangerous to Release’ Técnica · Lab · custo médio

Pegue um Modelo da sua mão e coloque-o “selado” fora do jogo. No início de cada um dos seus turnos seguintes, libere uma fração dele (ganha +1/+1). No 3º turno, entra em jogo completo.

“We’re not releasing the full model.”

Veja também

GPT-2 (2019) · Red Teaming