COMPUTE WARS · BOOTSTRAPPING

Magik LLM
Gathering

Selando o pacto…
Pular para o conteúdo
The Founders' Era dl-era 1986 person

Geoffrey Hinton

Godfather of Deep Learning. Backprop (1986), Boltzmann machines, AlexNet (2012). Nobel de Física 2024.

O quê

Geoffrey Hinton (n. 1947) é, por consenso amplo, o godfather of deep learning. Psicólogo cognitivo de formação, cientista da computação por prática, dedicou cinco décadas a uma única tese: que redes neurais com muitas camadas, treinadas por gradiente, podem aprender representações úteis do mundo — quando quase ninguém em IA acreditava nisso.

Três marcos centrais:

  1. Backpropagation popularizada (1986, com Rumelhart e Williams) — o algoritmo já existia em formas variadas desde os anos 1970 [VERIFICAR — Werbos, 1974], mas o paper na Nature tornou-o canônico.
  2. AlexNet (2012, com Krizhevsky e Sutskever) — disparou o Big Bang do deep learning ao demolir o benchmark ImageNet.
  3. Nobel de Física 2024, compartilhado com John Hopfield, por contribuições fundacionais a redes neurais artificiais — primeiro Nobel concedido explicitamente por trabalho em IA [VERIFICAR].

Em maio de 2023, deixou o Google após uma década como Distinguished Researcher, declarando publicamente que queria poder falar livremente sobre riscos existenciais de IA sem conflito de interesse corporativo.

Como funciona

Para entender a contribuição de Hinton, é preciso entender o inverno em que ele trabalhou.

Depois do colapso do perceptron (Minsky e Papert, 1969) Perceptron, redes neurais foram exiladas da IA mainstream. Os anos 70 e 80 foram dominados por simbolismo — expert systems, Lisp, lógica de primeira ordem. Hinton, na Carnegie Mellon e depois em Toronto, manteve o programa de conexionismo vivo: redes com múltiplas camadas, aprendizado por gradiente, representações distribuídas.

Backpropagation (1986) resolveu o problema central que travava redes profundas: como atribuir crédito (ou culpa) a cada peso interno por um erro observado na saída. A solução — derivada da regra da cadeia do cálculo — propaga o gradiente do erro para trás pela rede, ajustando cada peso proporcionalmente à sua contribuição. Detalhe completo em Backpropagation.

Hinton também explorou caminhos paralelos:

  • Boltzmann Machines (1985, com Sejnowski) — redes estocásticas baseadas em física estatística.
  • Deep Belief Networks (2006, com Salakhutdinov) — pré-treinamento camada-por-camada com Restricted Boltzmann Machines, reaberto o caminho para redes verdadeiramente profundas.
  • Dropout (2012, com Srivastava et al.) — regularização por desligamento aleatório de neurônios; padrão em qualquer rede até hoje.
  • Capsule Networks (2017) — tentativa de superar limitações de CNNs com agrupamentos de neurônios que codificam pose. Comercialmente não vingou.
  • Forward-Forward algorithm (2022) — proposta de substituir backprop, motivada por implausibilidade biológica. Em pesquisa.

O momento ImageNet 2012 é o clímax. Krizhevsky (PhD student), Sutskever (PhD student) e Hinton treinaram uma CNN profunda em duas GTX 580 (3GB de VRAM cada) durante ~6 dias. Reduziram o erro top-5 de ~26% (state-of-the-art anterior, baseado em features manuais + SVM) para ~15%. Detalhes em AlexNet (2012) e ImageNet.

A reação foi imediata: Google adquiriu DNNresearch (a empresa de três pessoas de Hinton) em 2013 num leilão competitivo com Baidu e Microsoft [VERIFICAR — preço estimado $44M]. Toda a indústria pivotou para deep learning em ~18 meses.

Por que importa

Insistência intelectual paga. Hinton perseguiu redes neurais por trinta anos enquanto a comunidade ria. Quando funcionou, refundou um campo. É o caso paradigmático de pesquisa fora-da-moda que valeu a pena — frequentemente citado para justificar investimento em direções heterodoxas hoje (interpretabilidade mecanística, neuromorphic computing, AI alignment).

Pedigree formativo. Hinton orientou ou trabalhou com praticamente todos os arquitetos da IA contemporânea: Yann LeCun Yann LeCun (pós-doc), Yoshua Bengio (colaborador), Ilya Sutskever (PhD), Alex Krizhevsky (PhD), Ruslan Salakhutdinov, Brendan Frey, Radford Neal. O Vector Institute em Toronto (fundado em 2017 sob sua liderança) virou polo permanente da pesquisa em deep learning.

Trânsito para safety. Sua saída do Google em 2023 e entrevistas subsequentes mudaram o tom do debate público sobre risco de IA. Hinton, que construiu a tecnologia, dizendo que se arrepende parcialmente e teme efeitos de longo prazo, dá legitimidade que nenhum filósofo externo conseguiria. Em 2024, assinou cartas e participou de painéis junto a Bengio, Russell e Yudkowsky.

Estado em 2026

  • Nobel de Física 2024, anunciado em outubro, surpreendeu — o Comitê reconheceu trabalho em Hopfield Networks e Boltzmann Machines como contribuição à física estatística aplicada. Controverso na comunidade de física pura.
  • Turing Award 2018, junto com LeCun e Bengio (“the deep learning trio”).
  • Continua afiliado à University of Toronto e ao Vector Institute. Não está mais no Google.
  • Em entrevistas recentes (2024-2025), estima probabilidade de extinção humana por IA em ~10-20% nas próximas três décadas [VERIFICAR — números variam por entrevista].
  • Em Magik LLM Gathering, Hinton ocupa o arquétipo do Founder oracular — o sábio que construiu o presente e teme o futuro que ajudou a fazer.

Tratamento de carta — proposta

Hinton, The Backpropagator Avatar Lendário · Founders · custo 🟦🟪🟪

3/5.

Backprop: No fim de cada turno, escolha um Modelo seu — ele ganha +1/+1 permanente. Se você controla 3+ Modelos com keyword “Deep”, todos seus Modelos ganham +1/+1.

Late Regret: Quando este avatar morre, todos seus Modelos perdem -2/-2 até o fim do turno seguinte.

“Maybe we shouldn’t have done this. But we did, and now we have to figure it out.”

A mecânica encena duas faces: o boost cumulativo das camadas profundas (uma rede fica melhor a cada batch), e o regret arc — o avatar que reconhece, tarde, que sua criação tem consequências.

Veja também

Backpropagation · AlexNet (2012) · Yann LeCun · Perceptron · ImageNet

VEJA TAMBÉM
FONTES
  • Rumelhart, D. E., Hinton, G. E., Williams, R. J. (1986). Learning representations by back-propagating errors. Nature, 323(6088).
  • Krizhevsky, A., Sutskever, I., Hinton, G. E. (2012). ImageNet Classification with Deep Convolutional Neural Networks. NeurIPS.
  • Hinton, G. E., Salakhutdinov, R. R. (2006). Reducing the Dimensionality of Data with Neural Networks. Science.
  • Metz, C. (2021). Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World.
  • Nobel Prize in Physics 2024 — citation. (nobelprize.org)