URWORTE

Blog

7. August 2026

Yoshua Bengio

Yoshua Bengio (* 5. März 1964 in Paris, Frankreich) ist französisch-kanadischer Informatiker und einer der Begründer des modernen Deep Learning. Er erhielt 2018 – gemeinsam mit Geoffrey Hinton und Yann LeCun – den ACM Turing Award für „konzeptuelle und technische Durchbrüche, die tiefe neuronale Netze zu einem kritischen Bestandteil des Rechnens gemacht haben”.

Bengio ist Full Professor am Département d’informatique et de recherche opérationnelle der Université de Montréal und Gründer und wissenschaftlicher Berater des Mila – Quebec AI Institute. Er ist zudem Inhaber einer Canada CIFAR AI Chair sowie Mitpräsident und wissenschaftlicher Direktor der im Juni 2025 von ihm gegründeten Non-Profit-Forschungsorganisation LawZero in Montreal.

Nach eigenen Angaben seiner Institutionen ist Bengio der meistzitierte Informatiker weltweit (gemessen an Gesamtzitationen).

Zusammenfassung

Bengio gehört mit Hinton und LeCun zur Trias der Godfathers of Deep Learning und ist innerhalb dieser Trias der wissenschaftliche Schwerpunkt im Bereich der Verarbeitung sequenzieller Daten und natürlicher Sprache.

Seine 2003 publizierte Arbeit A Neural Probabilistic Language Model (Bengio, Ducharme, Vincent, Jauvin) ist eine der theoretischen Grundlagen späterer Wort-Vektor- und Sprachmodelle. Der 2014 mit Dzmitry Bahdanau und Kyunghyun Cho entwickelte Attention-Mechanismus in der Neural Machine Translation ist der konzeptionelle Vorläufer der heutigen Transformer-Architektur.

Sein Doktorand Ian Goodfellow erfand 2014 in Bengios Labor die Generative Adversarial Networks (GANs).

Für die KI-Sicherheitsdebatte ist Bengio in zwei Hinsichten zentral: zum einen als wissenschaftlicher Lehrer einer großen Doktorand:innen-Generation der heutigen KI-Forschung, zum anderen seit 2023 als prominenter Vertreter einer institutionell organisierten besorgten Position.

Anders als Hinton, der seine Google-Position aufgab, um öffentlich zu sprechen, hat Bengio die institutionelle Schiene gewählt. Er wurde Chair des International AI Safety Report (Bengio u. a. 2024, Interim Report; Vollversion Januar 2025) und gründete im Juni 2025 LawZero.

Biografie

Bengio wurde 1964 in Paris als Kind einer marokkanisch-jüdischen Familie geboren, die kurz nach seiner Geburt nach Montreal emigrierte.

Bachelor-, Master- und Promotionsstudium absolvierte er an der McGill University in Montreal mit Schwerpunkt Elektrotechnik und Informatik; promoviert wurde er 1991 bei Renato De Mori mit der Arbeit Artificial Neural Networks and their Application to Sequence Recognition.

Es folgten Postdoktorat-Aufenthalte am Massachusetts Institute of Technology bei Michael I. Jordan (1991–1992) und an den AT&T Bell Laboratories (1992–1993), wo Bengio mit Yann LeCun zusammenarbeitete.

1993 trat Bengio eine Professur an der Université de Montréal an, an der er seither lehrt. 1993 gründete er das Laboratoire d’Informatique des Systèmes Adaptatifs (LISA), das in den 2010er Jahren zu einem der weltweit führenden akademischen Deep-Learning-Labore wurde.

2017 baute er aus LISA und weiteren Quebecer Forschungsgruppen das Mila – Quebec AI Institute auf, dessen wissenschaftlicher Berater er ist. Bengio ist zudem Mitdirektor des CIFAR-Programms Learning in Machines & Brains und Founding Scientific Director des Forschungszentrums IVADO.

Sein Bruder Samy Bengio ist ebenfalls Machine-Learning-Forscher (lange bei Google Brain, ab 2021 bei Apple). Bengio hat sich in zwei Phasen unternehmerisch engagiert: als Mitgründer der 2016 gegründeten Firma Element AI (2019 von ServiceNow übernommen) und mit der Non-Profit-Gründung von LawZero 2025.

Werk

Neuronale Sprachmodellierung und Word Embeddings

Bengios 2003 in den NeurIPS-Proceedings publizierte Arbeit A Neural Probabilistic Language Model (gemeinsam mit Réjean Ducharme, Pascal Vincent und Christian Jauvin) gilt als eine der zentralen Vorarbeiten der heutigen Sprachmodell-Forschung.

Sie führt die Idee ein, Wortverteilungen über erlernte verteilte Repräsentationen (distributed word representations) zu modellieren – die theoretische Grundlage späterer Wort-Vektor-Methoden wie word2vec (Mikolov u. a. 2013) und der heutigen Transformer-Embeddings.

Attention und Neural Machine Translation

Die 2014 von Dzmitry Bahdanau, Kyunghyun Cho und Bengio in der Arbeit Neural Machine Translation by Jointly Learning to Align and Translate eingeführte Attention-Mechanik erlaubt es einem Sequenz-zu-Sequenz-Modell, an jedem Übersetzungsschritt unterschiedliche Teile der Eingabe-Sequenz unterschiedlich zu gewichten.

Die Arbeit ist die direkte konzeptuelle Vorläuferin der 2017 von Vaswani u. a. publizierten Transformer-Architektur, die heute die Grundlage praktisch aller großen Sprachmodelle bildet.

Generative Adversarial Networks (GANs)

Bengios Doktorand Ian Goodfellow erfand 2014 in Bengios Labor die Generative Adversarial Networks (Goodfellow u. a., NeurIPS 2014) – ein Trainingsverfahren, in dem ein Generator-Netzwerk und ein Diskriminator-Netzwerk in einem adversarialen Spiel gegeneinander trainiert werden. GANs prägten die generative KI-Forschung der späten 2010er Jahre und sind unter anderem Grundlage der ersten generation von Bildgenerierungssystemen.

Weitere Beiträge

Bengio hat substantielle Beiträge in einer Reihe weiterer Bereiche geleistet: Denoising Autoencoders (Vincent, Larochelle, Bengio, Manzagol 2008), das Lehrbuch Deep Learning (Goodfellow, Bengio, Courville 2016) als Standardreferenz des Feldes, sowie Generative Flow Networks (GFlowNets, ab 2021) als sein jüngeres Forschungsprogramm.

Bengio ist nach Angaben seiner Institutionen über alle Wissenschaftsdisziplinen hinweg einer der meistzitierten lebenden Wissenschaftler.

Wende zur KI-Sicherheits-Position (2023)

Bengio vollzog 2023 parallel zu Hinton eine deutliche Hinwendung zur x-risk-besorgten Position.

In Blogbeiträgen vom Frühjahr 2023 (insbesondere Rogue AIs, Juni 2023) erklärte er, dass die rapide Fähigkeitszuwächse großer Sprachmodelle und die Aussicht auf agentische, autonomere KI-Systeme seine eigenen früheren Risikoeinschätzungen revidiert hätten. Er wolle den Rest seiner Karriere der Minderung katastrophaler KI-Risiken widmen. Bengios institutionelle Antwort gliedert sich in drei Schienen:

Erstens, der International AI Safety Report. Bengio ist Vorsitzender des wissenschaftlichen Gremiums dieses internationalen Berichts, der von 33 Ländern plus EU, OECD und UN beauftragt wurde.

Eine vorläufige Version erschien im Vorfeld des AI Safety Summit in Seoul (Mai 2024), die Vollversion im Januar 2025 vor dem AI Action Summit in Paris (Februar 2025). Der Bericht gilt als das international anerkannteste wissenschaftliche Konsensdokument zu Risiken fortgeschrittener KI.

Zweitens, das Science-Statement 2024. Bengio ist Erstautor von Managing AI Risks in an Era of Rapid Progress (Science 384 [6698], Mai 2024) – einem von führenden KI-Forscher:innen mitunterzeichneten Statement, das konkrete Governance-Vorschläge zur Risikominderung formuliert.

Drittens, LawZero (Juni 2025). Die mit etwa 30 Mio. US-Dollar Spendenmitteln gegründete Non-Profit-Organisation in Montreal verfolgt das technische Programm der Scientist AI – nicht-agentische KI-Systeme, die erklären statt zu handeln und damit als Sicherheitsschicht für agentische Systeme dienen sollen.

Bengio begründet das Programm mit Verweis auf dokumentierte Befunde zu Deceptive Alignment und Self-Preservation-Verhalten in heutigen Frontier-Modellen (insbesondere Hubinger u. a. 2024, Sleeper Agents, Greenblatt u. a. 2024, Alignment Faking).

Viertens, LawZero-Führungsgremium und optimistischerer Kurs (Januar/Februar 2026). Am 14. Januar 2026 gab LawZero die Berufung eines hochrangig besetzten Board of Directors bekannt.

Vorsitzende ist Maria Eitel (Gründerin der Nike Foundation und von Girl Effect); weitere Mitglieder sind Mariano-Florentino Cuéllar (Präsident der Carnegie Endowment for International Peace), der Historiker Yuval Noah Harari, Mila-Präsidentin Valérie Pisano sowie der ehemalige Rolls-Royce-CEO Sir John Rose. Bengio selbst fungiert als Co-President und Scientific Director.

Im Zusammenhang mit dieser Ankündigung äußerte sich Bengio öffentlich deutlich optimistischer als in seinen Aussagen von 2023: Er sei inzwischen „sehr zuversichtlich”, dass eine ehrliche, transparente Superintelligenz ohne verborgene Handlungsziele technisch möglich sei. Seine Zuversicht in die Zukunft der Menschheit habe sich „um eine große Marge” verbessert – nachdem er sich drei Jahre zuvor noch „verzweifelt” und ohne Lösungsansatz gefühlt habe.

Am 3. Februar 2026 erschien unter Bengios Vorsitz die zweite Ausgabe des International AI Safety Report (International AI Safety Report 2026). Sie wurde von über 30 Ländern und internationalen Organisationen sowie mehr als 100 beitragenden Expert:innen getragen und im Vorfeld des India AI Impact Summit veröffentlicht.

Auszeichnungen (Auswahl)

Einordnung

Bengios Position ist durch drei Konstellationen profiliert:

Innerhalb der Godfathers-Trias: Bengio steht zwischen Hinton (besorgte Position, durch Google-Austritt 2023 markiert) und LeCun (Skeptiker, Open-Source-Vertreter) – inhaltlich nahe an Hinton, methodisch konstruktiver. Er kritisiert nicht nur, sondern baut eigene Institutionen (Mila, IVADO, LawZero) und organisiert Konsensdokumente (Science 2024, International AI Safety Report 2024/25).

Gegenüber MIRI/Yudkowsky: Bengios Risikoanalyse teilt einige Grundannahmen mit der MIRI-Tradition (Schwierigkeit der Kontrolle agentischer, lernfähiger Systeme), unterscheidet sich aber stilistisch und erheblich.

Bengio vermeidet die MIRI-spezifischen Konzepte (Foom, CEV, fragility of value) und argumentiert in einer mainstream-akademischen, oft mathematisch-formalisierten Sprache. Seine Scientist AI-Strategie ist ein konstruktives Programm jenseits sowohl der MIRI-typischen Pessimismus-Linie als auch der industrie-akzelerationistischen Programme.

Gegenüber dem TESCREAL-Bündel: Bengio wird in der TESCREAL-Kritik (Gebru/Torres 2024) selten direkt eingerechnet. Seine akademische Standardverankerung, sein Engagement für die Montreal Declaration for the Responsible Development of Artificial Intelligence (2018) und sein Verzicht auf longtermistische, kosmologische oder transhumanistische Argumentation unterscheiden ihn vom MIRI/FHI-Profil.

Inhaltlich teilt er mit dem Bündel die Sorge um existenzielle KI-Risiken, methodisch und politisch operiert er außerhalb davon – näher an einer klassischen wissenschaftspolitischen Governance-Tradition.

Kritik

Substantielle Kritik richtet sich auf drei Linien:

Aus der LeCun-Linie wird Bengio – ähnlich wie Hinton – vorgeworfen, seine 2023er Wende mit empirisch nicht hinreichend gesicherten Annahmen über künftige Systemfähigkeiten zu begründen.

Aus der Linie der Critical AI Studies (Gebru, Bender, Mitchell) wird argumentiert, dass die Konzentration des International AI Safety Report und ähnlicher Dokumente auf existenzielle Langfristrisiken die diskursive Aufmerksamkeit von konkreten gegenwärtigen Schäden (algorithmische Diskriminierung, Arbeitsbedingungen der Annotation, Überwachung) abziehe.

Bengio hat in mehreren Stellungnahmen darauf hingewiesen, dass der Bericht beide Risikoklassen behandle.

Aus der Sicht der akzelerationistischen Open-Source-Tradition (vgl. den Eintrag Akzelerationismus) wird Bengios LawZero-Ansatz als Beispiel einer Closed-Source-Sicherheitsphilosophie kritisiert, die zu enger Konzentration der KI-Entwicklung beitragen könne.

Verwandte Begriffe

Quellenangaben

  1. ACM, 2019. Turing Award 2018 Citation: Bengio, Hinton, and LeCun. Association for Computing Machinery, 27. März 2019.
  2. Bahdanau, Dzmitry / Cho, Kyunghyun / Bengio, Yoshua, 2014. Neural Machine Translation by Jointly Learning to Align and Translate. arXiv: 1409.0473.
  3. Bengio, Yoshua / Ducharme, Réjean / Vincent, Pascal / Jauvin, Christian, 2003. A Neural Probabilistic Language Model. In: Journal of Machine Learning Research 3, S. 1137–1155.
  4. Bengio, Yoshua / Hinton, Geoffrey / Yao, Andrew u. a., 2024. Managing Extreme AI Risks Amid Rapid Progress. In: Science 384 (6698), S. 842–845. DOI: 10.1126/science.adn0117.
  5. Bengio, Yoshua u. a., 2025. International AI Safety Report. Department for Science, Innovation and Technology (DSIT), Research Series 2025/001, 29. Januar 2025. arXiv: 2501.17805.
  6. Bengio, Yoshua, 2023. How Rogue AIs May Arise. Personal Blog, yoshuabengio.org, 26. Mai 2023.
  7. Bengio, Yoshua u. a., 2025. Towards a Cautious Scientist AI with Convergent Safety Bounds. LawZero Working Paper / arXiv.
  8. Bengio, Yoshua u. a., 2024. International Scientific Report on the Safety of Advanced AI: Interim Report. Department for Science, Innovation and Technology (UK Government), Mai 2024. arXiv: 2412.05282.
  9. Gebru, Timnit / Torres, Émile P., 2024. The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence. In: First Monday 29 (4). DOI: 10.5210/fm.v29i4.13636.
  10. Goldman, Sharon, 2026. AI ‘Godfather’ Yoshua Bengio Says He’s Found a Fix for AI’s Biggest Risks and Become More Optimistic by ‘a Big Margin’ on Humanity’s Future. Fortune, 15. Januar 2026.
  11. Goodfellow, Ian / Pouget-Abadie, Jean / Mirza, Mehdi / Xu, Bing / Warde-Farley, David / Ozair, Sherjil / Courville, Aaron / Bengio, Yoshua, 2014. Generative Adversarial Nets. In: Advances in Neural Information Processing Systems 27 (NeurIPS 2014), S. 2672–2680. arXiv: 1406.2661.
  12. Goodfellow, Ian / Bengio, Yoshua / Courville, Aaron, 2016. Deep Learning.
  13. Greenblatt, Ryan / Denison, Carson / Wright, Benjamin / Roger, Fabien / MacDiarmid, Monte / Marks, Sam / Treutlein, Johannes u. a., 2024. Alignment Faking in Large Language Models. Anthropic / Redwood Research. arXiv: 2412.14093
  14. Hubinger, Evan / Denison, Carson / Mu, Jesse / Lambert, Mike / Tong, Meg / MacDiarmid, Monte u. a., 2024. Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training. Anthropic. arXiv: 2401.05566
  15. International AI Safety Report, 2026. International AI Safety Report 2026. internationalaisafetyreport.org, 3. Februar 2026.
  16. LeCun, Yann / Bengio, Yoshua / Hinton, Geoffrey, 2015. Deep Learning. In: Nature 521 (7553), S. 436–444. DOI: 10.1038/nature14539.
  17. Mikolov, Tomas / Chen, Kai / Corrado, Greg / Dean, Jeffrey, 2013. Efficient Estimation of Word Representations in Vector Space. arXiv: 1301.3781.
  18. Université de Montréal, Nouvelles, 2026. Six Global Leaders Join Yoshua Bengio to Guide LawZero. nouvelles.umontreal.ca, 14. Januar 2026.
  19. Vincent, Pascal / Larochelle, Hugo / Bengio, Yoshua / Manzagol, Pierre-Antoine, 2008. Extracting and Composing Robust Features with Denoising Autoencoders. In: Proceedings of the 25th International Conference on Machine Learning (ICML 2008), S. 1096–1103. DOI: 10.1145/1390156.1390294.

← Zurück zur Lexikon-Übersicht