Blog

Jürgen Schmidhuber

Jürgen Schmidhuber (* 17. Januar 1963 in München) ist ein deutscher Informatiker, der für seine Beiträge zu künstlichen neuronalen Netzen und zum Deep Learning zu den wirkungsmächtigsten Forschenden der zeitgenössischen KI-Geschichte zählt.

Schmidhuber ist seit 1995 wissenschaftlicher Direktor des Schweizer KI-Labors IDSIA (Istituto Dalle Molle di Studi sull’Intelligenza Artificiale) in Lugano und war 2009–2021 Professor für Künstliche Intelligenz an der Università della Svizzera italiana (USI). Seit 2021 ist er zusätzlich Co-Chair des Center of Excellence for Generative AI an der King Abdullah University of Science and Technology (KAUST) in Saudi-Arabien.

Wirkungsmächtigstes Werk ist die mit seinem Doktoranden Sepp Hochreiter entwickelte Long Short-Term Memory-Architektur (LSTM, Hochreiter/Schmidhuber Neural Computation 1997, DOI 10.1162/neco.1997.9.8.1735). Sie zählt zu den meistzitierten KI-Arbeiten überhaupt und war die dominante Sequenzverarbeitungs-Architektur der 2010er Jahre, bis sie ab 2018 durch Transformer-basierte Modelle abgelöst wurde.

Innerhalb der zeitgenössischen KI-Debatte ist Schmidhuber bekannt für eine Reihe öffentlicher Prioritäts-Auseinandersetzungen mit dem Turing-Award-2018-Trio (Hinton, Bengio, LeCun) sowie mit Ian Goodfellow über die GAN-Architektur. Er vertritt zugleich eine technologie-optimistische und x-risk-skeptische Position, die ihn in die Nähe des LeCun-Ng-Pols der KI-Debatte rückt – ohne dass er mit diesen Akteuren auf der Prioritäts-Frage übereinstimmt.

Zusammenfassung

Schmidhubers Wirkung verläuft über drei Achsen.

Als Forscher mit substantiellen Beiträgen zu zahlreichen Architektur-Familien der zeitgenössischen KI – neben LSTM auch frühe Arbeiten zu Meta-Learning (Diplomarbeit 1987) und zur Vorgeschichte von Generative Adversarial Networks (Predictability Minimization 1992, Artificial Curiosity 1990).

Hinzu kommen Vorarbeiten zur Vorgeschichte des Transformer (Fast Weight Programmers / lineare Self-Attention 1992), zu Self-Supervised Pre-Training (1990er) sowie zu Gödel Machines (selbst-modifizierende AGI-Programmatik 2003).

Schmidhubers IDSIA-Team unter Doktorand Dan Ciresan war ab 2010 eine der ersten Gruppen, die GPU-beschleunigte Convolutional Neural Networks publizierten – eine Vorarbeit zur AlexNet-Wende 2012.

Als Institutsleiter und Unternehmer – seit 1995 Direktor des IDSIA, 2014 Mitgründer und Chief Scientist des Schweizer KI-Unternehmens NNAISENSE.

Als öffentliche Stimme – Schmidhuber ist Stand 2025/2026 eine der prominentesten europäischen Stimmen in der KI-Geschichtsschreibung und in zahlreichen Prioritäts-Auseinandersetzungen, die in der Sekundärliteratur kontrovers diskutiert werden. Er wird in mehreren Publikationen als „Vater der modernen KI” oder „Vater der generativen KI” bezeichnet – eine Selbstdarstellung, die in der Forschungs-Community unterschiedlich rezipiert wird.

Biografie

Ausbildung und Doktorat (1981–1991)

Schmidhuber wurde am 17. Januar 1963 in München geboren. Er studierte ab 1981 Informatik an der Technischen Universität München (TUM) und schloss 1987 mit dem Diplom ab.

Bereits seine Diplomarbeit – Evolutionary Principles in Self-Referential Learning, or on Learning How to Learn: The Meta-Meta-… Hook (TUM 1987) – etablierte das Konzept des Meta-Learning (Lernen, wie man lernt), das in der zeitgenössischen Foundation-Models-Diskussion eine Renaissance erlebt. 1991 promovierte er an der TUM bei Wilfried Brauer und Klaus Schulten.

Annus Mirabilis 1990–1991

In den Jahren 1990 und 1991 publizierte Schmidhuber als Doktorand eine ungewöhnlich dichte Folge von Technical Reports und Konferenzbeiträgen, die in der Sekundärliteratur als Annus Mirabilis bezeichnet wird:

Making the World Differentiable (TUM Technical Report FKI-126-90, 1990) – eine der ersten expliziten Formulierungen der World-Models-Idee.

Artificial Curiosity (1990) – ein Vorläufer der späteren Generative Adversarial Networks-Architektur. Schmidhuber argumentiert , dass Predictability Minimization (1992) und Artificial Curiosity die GAN-Idee antizipiert hätten.

Fast Weight Programmers (1991, mit Publikation 1992) – ein Vorläufer der Transformer-Architektur mit linearisierter Self-Attention.

Neural History Compressor (1991) – eine hierarchische rekurrente Architektur, die wesentliche Konzepte des späteren Self-Supervised Pre-Training vorwegnimmt.

LSTM (1991–1997)

Die wirkungsmächtigste Arbeit entstand aus der Zusammenarbeit mit Schmidhubers Diplomanden Sepp Hochreiter. Hochreiters Diplomarbeit (TUM 1991) identifizierte das Vanishing-Gradient-Problem rekurrenter neuronaler Netze – das Problem, dass klassische RNN-Architekturen nicht effektiv lange Abhängigkeiten in Sequenzen lernen können.

Die Lösung – Long Short-Term Memory (LSTM) – wurde 1997 in Neural Computation (Hochreiter/Schmidhuber, Neural Computation 9 (8), DOI 10.1162/neco.1997.9.8.1735) publiziert.

LSTM verwendet Gating-Mechanismen (Input-Gate, Output-Gate, später Forget-Gate, Gers/Schmidhuber/Cummins 2000), die erlauben, dass Information über lange Zeiträume in Zellen-Zuständen erhalten bleibt.

LSTM wurde zur dominanten Sequenzverarbeitungs-Architektur der 2010er Jahre – verwendet in Google Translate, Apple Siri, Amazon Alexa, Microsoft Cortana und zahlreichen weiteren produktiven Anwendungen. Ab 2017–2018 wurde LSTM zunehmend durch Transformer-basierte Architekturen abgelöst.

IDSIA Lugano (1995–2021)

1995 wurde Schmidhuber zum wissenschaftlichen Direktor des Istituto Dalle Molle di Studi sull’Intelligenza Artificiale (IDSIA) in Lugano (Schweiz) berufen – ein durch eine Schweizer Familienstiftung gegründetes KI-Forschungs-Institut. Schmidhubers IDSIA-Team etablierte sich als eines der wirkungsmächtigsten europäischen Deep-Learning-Labore.

2004–2009 lehrte Schmidhuber parallel an der TUM. 2009–2021 war er ordentlicher Professor für Künstliche Intelligenz an der Università della Svizzera italiana (USI) in Lugano.

Aus seinem IDSIA-Team gingen zahlreiche später wirkungsmächtige Forschende hervor. Dazu zählen Sepp Hochreiter (heute Linz, JKU), Felix Gers, Alex Graves (heute DeepMind), Daan Wierstra (heute DeepMind), Tom Schaul (heute DeepMind), Faustino Gomez (heute NNAISENSE-CEO), Klaus Greff (heute Google Brain), Dan Ciresan und Jonathan Masci.

Dan Ciresan und GPU-CNN-Pionierarbeit (2010–2012)

Eine wirkungsmächtige IDSIA-Arbeit war Dan Ciresans GPU-beschleunigte Convolutional-Neural-Network-Forschung. Ciresan u. a. (IJCAI 2011, CVPR 2012) demonstrierten eine der ersten erfolgreichen GPU-trainierten CNN-Pipelines und gewannen mehrere internationale Bildverarbeitungs-Wettbewerbe – ein direkter Vorläufer der AlexNet-Wende (Krizhevsky/Sutskever/Hinton NeurIPS 2012).

NNAISENSE und KAUST (2014–heute)

2014 gründete Schmidhuber gemeinsam mit Faustino Gomez, Jan Koutník, Jonathan Masci und Bas Steunebrink das Schweizer KI-Unternehmen NNAISENSE (Neural Network AI Sense) in Lugano. NNAISENSE positioniert sich als Anbieter industrieller Foundation-Model-Anwendungen mit Fokus auf Prozess-Optimierung und industrielle Sensorik.

Seit 2021 ist Schmidhuber zusätzlich Co-Chair des Center of Excellence for Generative AI an der King Abdullah University of Science and Technology (KAUST) in Saudi-Arabien. Diese Position wird in der Sekundärliteratur teils kontrovers diskutiert, da KAUST ein durch das saudische Königshaus finanziertes Forschungs-Zentrum ist.

Methodisches Profil

Meta-Learning: Schmidhuber etablierte ab 1987 (Diplomarbeit) das Konzept des Lernens, wie man lernt. Diese Tradition erlebt mit Foundation Models und In-Context Learning eine Renaissance.

LSTM und Sequenzverarbeitung: Hochreiter/Schmidhuber 1997 als dominante Sequenzverarbeitungs-Architektur der 2010er Jahre. Die meistzitierte KI-Arbeit des 20. Jahrhunderts.

World Models: Schmidhuber 1990 und Ha/Schmidhuber NeurIPS 2018 etablieren die Tradition der interner Simulations-basierter Reinforcement-Learning-Architekturen.

Vorgeschichten von GANs und Transformern: Predictability Minimization (1992), Artificial Curiosity (1990) als Vorläufer von GANs; Fast Weight Programmers (1991/1992) als Vorläufer der linearen Transformer-Self-Attention. Diese Prioritäts-Ansprüche sind Gegenstand laufender Auseinandersetzung.

Gödel Machines und AGI: Schmidhuber publizierte ab 2003 die Gödel-Machine-Programmatik – selbst-modifizierende, beweisbar optimale AGI-Systeme. Eine methodisch theoretische Programmatik ohne praktische Implementierung, die in der x-risk-Debatte teils diskutiert wird.

Theorie der Kreativität, Neugier und Schönheit: Schmidhuber publizierte 2006–2010 eine formale Theorie der Kreativität, die Kunst, Wissenschaft, Musik und Humor durch Komprimierungs-Fortschritts-Belohnung erklärt.

Highway Networks: Srivastava/Greff/Schmidhuber NIPS 2015 – eine Architektur mit Skip Connections, die ein direkter Vorläufer von ResNet (He u. a. CVPR 2016) ist. Auch in dieser Arbeit erhebt Schmidhuber Prioritäts-Ansprüche.

Einordnung

Schmidhuber nimmt eine besondere Position ein:

Prioritäts-Diskussion: Schmidhuber ist die wirkungsmächtigste Stimme einer revisionistischen Lesart der Deep-Learning-Geschichtsschreibung. Seine 88-seitige Kritik des Turing-Awards 2018 (publiziert auf seiner IDSIA-Webseite, 2020) listet 17 spezifische Prioritäts-Streitpunkte mit Hinton, LeCun und Bengio – von GANs über Vanishing-Gradient-Problem bis zu CNN-Architekturen.

Eine NIPS-2016-Konfrontation mit Ian Goodfellow zur GAN-Vorgeschichte ist in der Community-Erinnerung als Schlüsselmoment dokumentiert. Die Bewertung dieser Prioritäts-Ansprüche ist in der Forschungs-Community gespalten – manche Stimmen halten Schmidhubers Ansprüche für berechtigt (insbesondere zu LSTM-Vorgeschichte und Vanishing Gradient), andere für übertrieben oder selbstdarstellerisch.

Differenzierte x-risk-Position: Schmidhuber vertritt eine technologie-optimistische, x-risk-skeptische Position.

In Interviews 2023–2025 hat er argumentiert, dass keine substantielle Wahrscheinlichkeit für KI-induzierte existenzielle Risiken besteht und dass die zeitgenössische x-risk-Diskussion (Bostrom-Yudkowsky-Tradition) primär durch industrielle Interessen großer US-Frontier-Labs motiviert sei, um regulatorische Marktbarrieren zu schaffen.

Diese Position rückt ihn in die Nähe des LeCun-Ng-Pols – ohne dass er mit diesen Akteuren auf der Prioritäts-Frage übereinstimmt.

TESCREAL-Verhältnis: Innerhalb des TESCREAL-Komplexes (Gebru/Torres 2024) ist Schmidhuber nicht eindeutig einer Linie zuzuordnen.

Anders als die LessWrong-/MIRI-affinen Linien (Yudkowsky, Bostrom) vertritt er eine technologie-optimistische Position; anders als die TESCREAL-kritische Linie (Gebru, Bender, Mitchell, Torres) ist er kein Kritiker der Frontier-Modell-Tradition.

Seine programmatische Selbstpositionierung als „Vater der modernen KI” und seine Begeisterung für AGI verbinden ihn mit der singularitarianisch-transhumanistischen Tradition, ohne dass er die normativen TESCREAL-Annahmen explizit teilt.

Europäische Frontier-Tradition: Über IDSIA und sein wirkungsmächtiges Doktoranden-Netzwerk (Hochreiter, Graves, Wierstra, Schaul, Greff, Gomez) ist Schmidhuber eine zentrale Figur der europäischen Deep-Learning-Tradition. Viele seiner ehemaligen Mitarbeiter:innen arbeiten heute bei DeepMind, Google Brain und vergleichbaren Frontier-Labs.

KAUST-Verbindung und geopolitische Verschiebungen: Schmidhubers KAUST-Position ab 2021 ist im Kontext der zunehmenden saudi-arabischen Investitionen in Frontier-KI bemerkenswert. Diese geopolitische Konstellation ist Gegenstand laufender Diskussion.

Hochreiter und Linz: Sepp Hochreiter, Schmidhubers wirkungsmächtigster ehemaliger Doktorand, leitet heute das Institute for Machine Learning der Johannes Kepler Universität Linz – eine wirkungsmächtige europäische ML-Forschungs-Institution.

Kontroversen und Kritik

Prioritäts-Auseinandersetzungen: Schmidhubers Stil der öffentlichen Prioritäts-Behauptung wird in der Forschungs-Community kontrovers diskutiert. Befürworter:innen argumentieren , dass viele seiner Ansprüche durch peer-reviewed Originalquellen belegbar seien.

Kritiker:innen argumentieren, dass „eine Idee gehabt zu haben” methodisch nicht ausreiche – wissenschaftliche Anerkennung erfordere systematische Implementierung, empirische Validierung und Skalierung. Der NIPS-2016-Vorfall mit Goodfellow (Schmidhuber unterbrach einen GAN-Workshop, um seine Predictability-Minimization-Priorität zu verteidigen) ist ein Symbol dieser Spannung.

Nicht-Verleihung des Turing Award: Schmidhubers Nicht-Aufnahme in das Turing-Award-2018-Trio (Hinton, Bengio, LeCun) ist in der Sekundärliteratur breit diskutiert worden.

Stimmen wie Zhou Zhihua (Nanjing University) haben öffentlich argumentiert, dass die Auslassung Schmidhubers ungerechtfertigt sei. Andere Stimmen verweisen auf Schmidhubers konfrontativen Stil und auf die Frage, ob seine Beiträge tatsächlich vergleichbar mit Hinton/Bengio/LeCun seien.

KAUST-Position und geopolitische Fragen: Die Verbindung mit KAUST ab 2021 ist im Kontext der zeitgenössischen geopolitischen Diskussion (saudische Investitionen in Frontier-KI, Beteiligungen an xAI, MGX-Fonds) Gegenstand kritischer Aufmerksamkeit.

Selbstdarstellung als „Vater der modernen KI”: Schmidhubers Selbstpositionierung in zahlreichen Publikationen und Interviews wird unterschiedlich rezipiert. Aus Perspektive bleibt die Frage, ob die Selbstattribution der historischen Genauigkeit dient oder primär der individuellen Anerkennung.

Verhältnis zu zeitgenössischen Frontier-Trends: Schmidhubers Reaktion auf die Transformer-Wende und die LLM-Skalierungs-Phase 2017–2026 war durch Verweise auf seine 1990er-Vorarbeiten geprägt. Kritiker:innen argumentieren, dass diese Reaktion die Originalität der Transformer-Architektur (Vaswani u. a. NeurIPS 2017) und der nachfolgenden Skalierungs-Programmatik unterbewertet.

Wenig sichtbare Beteiligung an x-risk- und AI-Safety-Diskussion: Anders als Hinton, Bengio (seit 2023) und Yudkowsky/Bostrom hat Schmidhuber nicht prominent in der x-risk-/AI-Safety-Diskussion mitgewirkt. Seine Gödel-Machine-Programmatik enthält theoretisch ein AGI-Sicherheits-Argument (beweisbar optimale Selbst-Modifikation), wird aber in der zeitgenössischen Sicherheits-Forschung kaum rezipiert.

Verwandte Begriffe

Quellenangaben

  1. Cireşan, Dan C. / Meier, Ueli / Masci, Jonathan / Gambardella, Luca Maria / Schmidhuber, Jürgen, 2011. Flexible, High Performance Convolutional Neural Networks for Image Classification. In: Proceedings of the 22nd International Joint Conference on Artificial Intelligence (IJCAI 2011), S. 1237–1242.
  2. Ciresan, Dan u. a., 2012. Multi-Column Deep Neural Networks for Image Classification. CVPR 2012. arXiv: 1202.2745.
  3. Gebru, Timnit / Torres, Émile P., 2024. The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence. In: First Monday 29 (4). DOI: 10.5210/fm.v29i4.13636.
  4. Gers, Felix A. / Schmidhuber, Jürgen / Cummins, Fred, 2000. Learning to Forget: Continual Prediction with LSTM. In: Neural Computation 12 (10), S. 2451–2471. DOI: 10.1162/089976600300015015.
  5. Ha, David / Schmidhuber, Jürgen, 2018. World Models. arXiv: 1803.10122. (Die NeurIPS-Fassung erschien unter dem Titel Recurrent World Models Facilitate Policy Evolution.)
  6. Hochreiter, Sepp / Schmidhuber, Jürgen, 1997. Long Short-Term Memory. In: Neural Computation 9 (8), S. 1735–1780. DOI: 10.1162/neco.1997.9.8.1735.
  7. KAUST, 2025. Jürgen Schmidhuber – Professor, Computer Science. kaust.edu.sa.
  8. Schmidhuber, Jürgen, 1990. Making the World Differentiable: On Using Self-Supervised Fully Recurrent Neural Networks for Dynamic Reinforcement Learning and Planning in Non-Stationary Environments. Technical Report FKI-126-90, TU München.
  9. Schmidhuber, Jürgen, 1992. Learning to Control Fast-Weight Memories: An Alternative to Dynamic Recurrent Networks. In: Neural Computation 4 (1), S. 131–139. DOI: 10.1162/neco.1992.4.1.131.
  10. Schmidhuber, Jürgen, 1992. Learning Factorial Codes by Predictability Minimization. In: Neural Computation 4 (6), S. 863–879. DOI: 10.1162/neco.1992.4.6.863.
  11. Schmidhuber, Jürgen, 2015. Deep Learning in Neural Networks: An Overview. In: Neural Networks 61, S. 85–117. DOI: 10.1016/j.neunet.2014.09.003.
  12. Schmidhuber, Jürgen, 1987. Evolutionary Principles in Self-Referential Learning, or on Learning How to Learn: The Meta-Meta-… Hook. Diplomarbeit, Technische Universität München.
  13. Schmidhuber, Jürgen, 2020. Critique of 2018 Turing Award for Drs. Bengio & Hinton & LeCun. people.idsia.ch/~juergen/critique-turing-award-bengio-hinton-lecun.html.
  14. Schmidhuber, Jürgen, 2003. Gödel Machines: Self-Referential Universal Problem Solvers Making Provably Optimal Self-Improvements. arXiv: cs/0309048.
  15. Srivastava, Rupesh K. / Greff, Klaus / Schmidhuber, Jürgen, 2015. Highway Networks. NIPS 2015. arXiv: 1505.00387.

← Zurück zur Lexikon-Übersicht