Shane Legg

Shane Legg (* 1973 in Neuseeland) ist ein Forscher für maschinelles Lernen und Mitgründer von DeepMind. Er prägte den Begriff Artificial General Intelligence mit, promovierte über eine mathematische Bestimmung von Intelligenz und leitet bei Google DeepMind die Arbeit an AGI-Sicherheit.

Zusammenfassung

Legg verbindet zwei Stränge, die in der KI-Debatte meist getrennt auftreten: die formale Intelligenzforschung und den industriellen Aufbau von KI-Systemen. Seine Dissertation Machine Super Intelligence (2008) entstand bei Marcus Hutter am Institut IDSIA und arbeitete an einer allgemeinen, mathematisch fassbaren Intelligenzbestimmung.

Ein Jahr nach seinem Abschluss lernte er Demis Hassabis kennen; 2010 gründeten beide mit Mustafa Suleyman DeepMind. Legg gilt neben Ben Goertzel als Popularisator des AGI-Begriffs; nach eigener Darstellung schlug er 2002 Artificial General Intelligence als Titel für einen Sammelband über allgemeine KI-Systeme vor. Er ist zugleich Mitautor des Rahmenwerks Levels of AGI (2023).

Werdegang

Legg wuchs in Rotorua auf und studierte an der University of Waikato Informatik und Mathematik. 1996 folgte ein Masterabschluss in Mathematik an der University of Auckland mit einer Arbeit zur Solomonoff-Induktion.

Nach einigen Jahren als Softwareentwickler arbeitete er beim KI-Unternehmen Webmind in New York, wo er auf Ben Goertzel traf, und anschließend bei A2I2 in Los Angeles. 2003 begann er die Promotion am Dalle Molle Institute for Artificial Intelligence Research (IDSIA) in Lugano bei Marcus Hutter, dessen theoretisches Modell AIXI den Ausgangspunkt bildete. Die 2008 abgeschlossene Arbeit Machine Super Intelligence wurde ausgezeichnet.

Als Postdoktorand am University College London lernte Legg 2009 Demis Hassabis kennen. 2010 gründeten beide gemeinsam mit Mustafa Suleyman DeepMind Technologies; das Unternehmen wurde 2014 von Google übernommen. Legg leitet dort die Arbeiten zur technischen AGI-Sicherheit; sein Doktorvater Hutter trat 2019 ebenfalls bei DeepMind ein.

Beiträge

Intelligenzbestimmung

Gemeinsam mit Hutter veröffentlichte Legg 2007 eine Sammlung von Intelligenzdefinitionen aus Psychologie, KI-Forschung und Philosophie und leitete daraus eine formale, agentenbasierte Bestimmung ab: Intelligenz als Fähigkeit eines Agenten, in einer breiten Menge von Umgebungen Ziele zu erreichen.

Diese universelle Intelligenzmessung ist theoretisch elegant, aber nicht berechenbar; sie beeinflusste die spätere Diskussion über die Messbarkeit von Intelligenz.

Bemerkenswert ist eine Beobachtung, die Legg selbst formuliert: Seine Dissertation schlug vor, Intelligenz über Kompressionsleistung an Text zu messen – im Wesentlichen das Verfahren, mit dem große Sprachmodelle später trainiert wurden.

Prognosen

Legg äußerte sich früh und wiederholt zu Zeiträumen. 2011 schätzte er in einem Interview die Wahrscheinlichkeit auf 50 Prozent, dass maschinelle Intelligenz auf menschlichem Niveau bis 2028 entstehe – eine Angabe, die er über Jahre beibehielt und die durch die Entwicklung seither erhebliche Aufmerksamkeit erhielt.

Zur Alignment-Frage äußerte er sich vergleichsweise zuversichtlich und argumentiert, dass mehrere von frühen Sicherheitsforschern erwartete Schwierigkeiten durch die tatsächliche Entwicklung entschärft worden seien.

Levels of AGI

Legg ist Mitautor des 2023 veröffentlichten Rahmenwerks Levels of AGI, das AGI als Stufenfolge entlang von Leistungstiefe, Anwendungsbreite und Autonomie beschreibt statt als Schwelle.

Einordnung

Legg unterscheidet sich von den meisten prominenten Stimmen der Debatte dadurch, dass er sowohl zu den Optimisten hinsichtlich der Zeiträume als auch zu den Ernstnehmenden hinsichtlich der Risiken zählt. Er unterzeichnete 2023 eine öffentliche Erklärung zum Auslöschungsrisiko durch KI und leitet zugleich ein industrielles Forschungsprogramm mit dem erklärten Ziel, AGI zu erreichen.

Er tritt öffentlich selten auf; die Verbindung seines Namens mit dem AGI-Begriff beruht weniger auf publizistischer Präsenz als auf der frühen Begriffsprägung und der institutionellen Wirkung von DeepMind.

Kritik

Die Doppelrolle. Der naheliegendste Einwand betrifft die Stellung selbst: Die Sicherheitsforschung zu einer Technologie zu leiten, deren Entwicklung dasselbe Haus so schnell wie möglich vorantreibt, ist eine Konstruktion mit eingebautem Interessenkonflikt.

Verteidigt wird sie mit dem Argument, Sicherheitsarbeit müsse dort stattfinden, wo die Systeme entstehen – Kritiker halten dem entgegen, dass die Instanz, die im Zweifelsfall bremsen soll, dann von denen bezahlt wird, die beschleunigen.

Die Prognose als sich selbst tragende Behauptung. Leggs Angabe einer 50-Prozent-Wahrscheinlichkeit für menschliches Niveau bis 2028 wird seit über einem Jahrzehnt zitiert. Da er sie über Jahre nahezu unverändert wiederholte, während sich der Stand der Technik erheblich veränderte, ist unklar, worauf sie sich stützt: Eine Schätzung, die neue Informationen nicht bewegt, ist entweder außerordentlich robust oder keine Schätzung.

Hinzu kommt, dass Prognosen führender Vertreter der Branche auf die Entwicklung zurückwirken, indem sie Investitionen und Erwartungen prägen.

Die Reichweite der formalen Intelligenzbestimmung. Das gemeinsam mit Hutter entwickelte Maß ist nicht berechenbar und setzt eine Gewichtung über alle möglichen Umgebungen voraus, deren Wahl nicht aus der Theorie folgt. Kritiker sehen darin weniger eine Messvorschrift als eine begriffliche Klärung – brauchbar, um zu zeigen, was Intelligenz nicht ist, ungeeignet, um bestehende Systeme zu vergleichen.

Zuversicht ohne offengelegte Grundlage. Seine Einschätzung, mehrere früh befürchtete Alignment-Probleme hätten sich entschärft, beruht wesentlich auf Beobachtungen an Systemen, die außerhalb des Unternehmens nicht zugänglich sind. Die Aussage ist damit von außen weder prüf- noch widerlegbar.

Verwandte Begriffe

• AGI – Begriff, den Legg mitprägte
• DeepMind – von ihm mitgegründetes Unternehmen
• Levels of AGI – Rahmenwerk, an dem er beteiligt ist
• Ben Goertzel – Mitpopularisator des Begriffs
• Demis Hassabis – Mitgründer von DeepMind
• HLMI – Bestimmung, auf die sich Leggs Prognosen beziehen
• AI Alignment – Forschungsfeld, das er bei DeepMind verantwortet
• Existenzielles Risiko – Risikobegriff, zu dem er sich geäußert hat

Quellenangaben

1. Legg, Shane (2008): Machine Super Intelligence.
2. Legg, Shane / Hutter, Marcus, 2007. A Collection of Definitions of Intelligence. In: Frontiers in Artificial Intelligence and Applications 157, S. 17–24.
3. Legg, Shane, o. J. About. Vetta Project. https://www.vetta.org/about-me/
4. Morris, Meredith Ringel / Sohl-Dickstein, Jascha / Fiedel, Noah / Warkentin, Tris / Dafoe, Allan / Faust, Aleksandra / Farabet, Clement / Legg, Shane (Google DeepMind) (2023): Levels of AGI for Operationalizing Progress on the Path to AGI. arXiv: 2311.02462.
5. TIME (2023): Shane Legg: The 100 Most Influential People in AI.
6. Università della Svizzera italiana (2024): From USI to Google DeepMind – Shane Legg’s talk at the 28th Dies academicus.

← Zurück zur Lexikon-Übersicht

Zuletzt bearbeitet: 10. August 2026

Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.