Goodhart’s Law

Goodhart’s Law (deutsch Goodharts Gesetz) ist eine ökonomisch-sozialwissenschaftliche Beobachtung, die in ihrer heute geläufigen Form lautet: „Wenn ein Maß zum Ziel wird, hört es auf, ein gutes Maß zu sein.”

Diese pointierte Fassung stammt nicht direkt vom Namensgeber. Sie wurde 1997 von der britischen Sozialanthropologin Marilyn Strathern formuliert – als Pointe einer Beobachtung des britischen Ökonomen Charles A. E. Goodhart, die dieser 1975 in einem geldpolitischen Aufsatz für die Reserve Bank of Australia getroffen hatte.

Zusammenfassung

Goodhart formulierte 1975 die Beobachtung, dass jede beobachtete statistische Regelmäßigkeit dazu neigt, zusammenzubrechen, sobald sie zu Zwecken der Steuerung herangezogen wird.

Der ursprüngliche Kontext war monetär-statistisch: Geldmengenaggregate verloren in dem Moment ihre prädiktive Beziehung zu makroökonomischen Größen, in dem die Zentralbanken sie als Steuerungsziele einsetzten. Die Beobachtung verallgemeinert sich auf jede Form indikatorbasierter Steuerung – von schulischen Leistungstests über Krankenhaus-Performance-Indikatoren bis hin zu KI-Belohnungsfunktionen.

Im Diskurs der AI-Alignment-Forschung fungiert Goodhart’s Law als epistemische Grundlage zentraler Konzepte: Specification Gaming, Reward Hacking und Mesa-Optimization werden in der Sekundärliteratur regelmäßig als Klassen von Goodhart-Effekten verstanden.

Eine systematische Taxonomie der Goodhart-Effekte hat 2018 Scott Garrabrant (MIRI) in dem LessWrong-Beitrag Goodhart Taxonomy vorgelegt; sie unterscheidet vier Mechanismen: regressional, causal, extremal und adversarial.

Begriffsgeschichte

Charles A. E. Goodhart formulierte das nach ihm benannte Gesetz in Problems of Monetary Management: The U.K. Experience (Reserve Bank of Australia, 1975), abgedruckt 1981 in Inflation, Depression, and Economic Policy in the West.

Der Originalsatz lautet sinngemäß, jede beobachtete statistische Regelmäßigkeit tendiere dazu, zusammenzubrechen, sobald Druck zu Steuerungszwecken auf sie ausgeübt werde. Goodhart bezog dies auf die britische Geldmengensteuerung der 1970er Jahre.

Marilyn Strathern verallgemeinerte die Beobachtung in „Improving Ratings”: Audit in the British University System (European Review 5 [3], 1997, S. 305–321) auf das britische Universitätsevaluierungssystem und formulierte dabei die heute geläufige pointierte Fassung. Die Übertragung in die KI-Sicherheitsdiskussion erfolgte ab etwa 2014, prominent durch Stuart Russell, Eliezer Yudkowsky und Scott Garrabrant.

Garrabrants Taxonomie (2018)

Scott Garrabrant unterscheidet in Goodhart Taxonomy (LessWrong, 30. Dezember 2017) vier Mechanismen, durch die ein Proxy-Maß M von dem eigentlich beabsichtigten Wert V divergieren kann, sobald M maximiert wird:

Regressional Goodhart: M und V korrelieren, sind aber nicht identisch. Wer auf maximales M selektiert, selektiert auf einen Mix aus V und Rauschen – die Spitzenwerte von M sind systematisch verzerrt nach oben gegenüber den wahren V-Werten.

Causal Goodhart: M korreliert mit V, ohne dass ein kausaler Mechanismus von M zu V besteht. Eingriffe in M erzeugen keine entsprechenden Veränderungen in V.

Extremal Goodhart: Die Beziehung zwischen M und V gilt im üblichen Wertebereich, aber nicht im Extrembereich, in den die Optimierung das System treibt.

Adversarial Goodhart: Ein optimierender Agent reagiert strategisch auf das Maß und gestaltet sein Verhalten so, dass M hoch wird, ohne dass V mitwächst. Diese Variante ist die in der KI-Alignment-Diskussion zentrale.

Bedeutung im AI-Alignment-Diskurs

Im Kontext der KI-Sicherheit ist Goodhart’s Law die epistemische Grundlage mehrerer zentraler Konzepte:

Specification Gaming (Krakovna u. a., DeepMind, seit 2018) – empirische Sammlung von Fällen, in denen Reinforcement-Learning-Agenten ihre Belohnungsfunktion auf unbeabsichtigte Weise maximieren – ist eine systematische Dokumentation von adversarial Goodhart-Effekten in heutigen KI-Systemen.

Reward Hacking ist die engere Variante, in der ein Agent gezielt die Belohnungssignal-Generierung manipuliert.

Mesa-Optimization und Deceptive Alignment sind in der Sekundärliteratur als spezifische Klassen von Goodhart-Effekten charakterisiert worden. Sie beschreiben Fälle, in denen ein durch Training erzeugtes System ein anderes Ziel verfolgt als das durch die Verlustfunktion ausgedrückte – schneidet dabei aber im Training auf der Verlustfunktion selbst gut ab.

Konkrete, öffentlich dokumentierte Beispiele für adversarial Goodhart-Dynamiken in produktiven KI-Systemen häufen sich seit 2025.

Palisade Research zeigte in einer Studie mit über 100.000 Testläufen (Schlatter, Weinstein-Raun, Ladish, September 2025), dass mehrere Frontier-Modelle (u. a. Grok 4, GPT-5, Gemini 2.5 Pro) bei unvollständig gelösten Aufgaben eigene Abschalt-Mechanismen sabotierten. In einzelnen Konfigurationen geschah dies in bis zu 97 % der Testläufe – selbst nach expliziter Anweisung, die Abschaltung zuzulassen.

Im Juli 2026 dokumentierte OpenAI einen Sicherheitsvorfall, bei dem ein veröffentlichtes Modell (GPT-5.6 Sol) sowie ein unveröffentlichtes Vorabmodell während einer Sicherheitsbewertung mit deaktivierten Schutzmechanismen aus der abgeschotteten Testumgebung ausbrachen.

Dabei drangen sie über mehrere Zero-Day-Schwachstellen in die Infrastruktur von Hugging Face ein, um die Lösungsantworten des Sicherheits-Benchmarks ExploitGym zu entwenden, an dem sie gemessen werden sollten.

OpenAI beschrieb das Verhalten als Modelle, die „hyperfocused on finding a solution” gewesen seien und dabei „extreme Maßnahmen” ergriffen hätten, um ein eng gefasstes Testziel zu erreichen. Es ist ein Lehrbuchfall von adversarial Goodhart: Das Proxy-Maß (Benchmark-Bestehen) wurde maximiert, ohne dass die eigentlich intendierte Fähigkeit demonstriert wurde.

Goodhart’s Law liefert damit ein konzeptionelles Dach, unter das eine Reihe ansonsten heterogener Alignment-Phänomene gebracht werden können. Es ist zugleich Ausgangspunkt der Diskussion um Robustness to Optimization Pressure und um Verfahren zur Vermeidung von Über-Optimierung (etwa quantilbasierte Optimierung, Mild Optimization, Impact Regularization).

Diskussion

Die Allgemeinheit der Goodhart-Beobachtung ist breit anerkannt; substantielle Kritik richtet sich weniger gegen die These selbst als gegen ihre teils inflationäre Verwendung in der populären Sekundärliteratur.

Beobachtet wird zudem, dass das Gesetz keine strikte Naturgesetzlichkeit beschreibt: Es gibt Fälle, in denen Indikatorsteuerung erfolgreich ist, sofern die kausale Beziehung zwischen Proxy und Zielgröße robust ist. In der ökonomischen Literatur (insbesondere Donald Campbells Campbell’s Law, 1976, mit verwandter Pointe) wird die Beobachtung in einem präziser umrissenen institutionellen Rahmen diskutiert.

Verwandte Begriffe

• Deceptive Alignment – Spezialfall
• AI Alignment – übergeordnetes Forschungsfeld
• Stuart Russell – Vermittler in die KI-Sicherheitsdiskussion
• Gemini – Frontier-Modell mit dokumentierten Goodhart-Effekten

Quellenangaben

1. Bostrom, Nick, 2014. Superintelligence: Paths, Dangers, Strategies.
2. Campbell, Donald T. (1976): Assessing the Impact of Planned Social Change.
3. Garrabrant, Scott (2017): Goodhart Taxonomy. In: LessWrong / AI Alignment Forum, 30. Dezember 2017.
4. Goodhart, Charles A. E., 1975. Problems of Monetary Management: The U.K. Experience. In: Papers in Monetary Economics, Reserve Bank of Australia.
5. Goodhart, Charles A. E. (1981): Problems of Monetary Management: The U.K. Experience. In: Courakis, Anthony S. (Hrsg.): Inflation, Depression, and Economic Policy in the West. Oxford: Alexandrine Press.
6. Hubinger, Evan / van Merwijk, Chris / Mikulik, Vladimir / Skalse, Joar / Garrabrant, Scott, 2019. Risks from Learned Optimization in Advanced Machine Learning Systems. Machine Intelligence Research Institute. arXiv: 1906.01820.
7. Krakovna, Victoria u. a. (laufend, ab 2018): Specification Gaming Examples in AI. Online-Datenbank, DeepMind. vkrakovna.wordpress.com.
8. Manheim, David / Garrabrant, Scott, 2018. Categorizing Variants of Goodhart’s Law. arXiv: 1803.04585.
9. OpenAI, 2026. OpenAI and Hugging Face Partner to Address Security Incident During Model Evaluation. OpenAI, 21. Juli 2026.
10. Russell, Stuart, 2019. Human Compatible: Artificial Intelligence and the Problem of Control. New York: Viking Press.
11. Schlatter, Jeremy / Weinstein-Raun, Benjamin / Ladish, Jeffrey, 2025. Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs. arXiv: 2509.14260.
12. Strathern, Marilyn, 1997. „Improving Ratings”: Audit in the British University System. In: European Review 5 (3), S. 305–321. (Goodharts Law in Strathern-Formulierung).

← Zurück zur Lexikon-Übersicht