O quê

As TPUs (Tensor Processing Units) são aceleradores de IA customizados que o Google projeta internamente desde 2015. As gerações v5 (2023) e v6 “Trillium” (2024) são as que treinam e servem a família Gemini, fazendo do Google a única hyperscaler verticalmente integrada: ela desenha o chip, treina o modelo e entrega o produto na mesma casa.

Há duas linhas na v5: v5e (eficiência/custo) e v5p (performance), esta com pods de 8.960 chips e 459 TFLOPs BF16 por chip, 95 GB de HBM. A v6e (Trillium), em disponibilidade geral no fim de 2024, traz 256 chips por pod, ~4,7× o pico de compute por chip sobre a geração anterior, e foi usada para treinar o Gemini 2.0.

Em Magik LLM Gathering, a TPU é tratada como hardware · companion — o caminho alternativo à hegemonia NVIDIA.

Como funciona

Matriz sistólica e BF16

O coração da TPU é a matriz sistólica: um grid de unidades de multiplicação-acumulação que faz multiplicação de matrizes de forma extremamente densa, com pouca lógica de controle. A precisão de trabalho histórica é bfloat16 (inventada pelo Google justamente para treino estável), e gerações recentes adicionaram FP8/Int8.

Pod e topologia de interconexão

Como na NVIDIA H100, o que importa é a malha. As TPUs se conectam por uma rede óptica reconfigurável (ICI) em topologias de toro 2D/3D, permitindo slices de centenas a milhares de chips agindo como um acelerador único. O pod v5p de 8.960 chips e a malha Jupiter (que liga 100.000+ chips Trillium) são o que viabiliza treinar modelos do porte do Gemini.

Co-design com o software

A vantagem real da integração vertical é o co-design: o compilador XLA e os frameworks JAX/TensorFlow são afinados ao silício. Isso rende eficiência de escala (próxima de linear em milhares de chips), mas tem um custo: lock-in. Migrar de CUDA para TPU exige reescrever pipelines, e fora do Google Cloud as TPUs não existem.

Por que importa

Quebra o monopólio de fato. Enquanto quase toda a indústria depende da NVIDIA, o Google treina fronteira em hardware próprio — uma vantagem estrutural de custo e de fornecimento que poucos têm.

Prova que ASICs de IA funcionam em escala. O sucesso das TPUs é o argumento empírico por trás da onda de silício custom (Amazon Trainium/Inferentia, Microsoft Maia, Meta MTIA): se o Google consegue, vale a pena tentar.

É história de aposta longa. O paper de 2017 (Jouppi et al.) mostrava a TPU v1 servindo inferência interna; uma década depois, ela treina o modelo carro-chefe da empresa. Poucos projetos de hardware de IA tiveram fôlego comparável.

Estado em 2026

• Trillium (v6e) em produção treinando e servindo Gemini, ofertada também a clientes de Google Cloud.
• Geração de inferência dedicada. O Google anunciou TPUs focadas em inferência de modelos de raciocínio, refletindo a mesma mudança de eixo (treino → inferência) que move a NVIDIA B100/B200 Blackwell.
• Lock-in segue como trade-off central. Quem entra no ecossistema TPU ganha eficiência e perde portabilidade.
• Disponibilidade só via Google Cloud — diferente da NVIDIA H100, que se aluga em dezenas de provedores.

Tratamento de carta — proposta

TPU Trillium Pod Site (infraestrutura) · Citadel

Toque: gere 2 ⚡⚡. Enquanto você controla este Site, seus Modelos da facção Citadel custam 1 a menos — mas Modelos de outras facções não podem usar esta energia.

“O chip, o modelo e o produto saídos da mesma forja.”

A mecânica encena integração vertical (sinergia interna forte) e lock-in (a energia não serve a quem está fora do ecossistema).

Veja também

NVIDIA H100 · NVIDIA B100/B200 Blackwell · Groq / Cerebras (Inference) · Scaling Laws (Chinchilla)