The Alignment Problem: Machine Learning and Human Values ist ein 2020 bei W. W. Norton erschienenes Sachbuch des Autors Brian Christian. Es schildert, wie Systeme des maschinellen Lernens nicht tun, was ihre Entwickler:innen wollen oder erwarten, und wie eine Forschungsgemeinschaft daran arbeitet, das zu ändern.
Zusammenfassung
Christian geht von einer Beobachtung aus: Lernende Systeme sehen und hören für uns und treffen Entscheidungen in unserem Namen. Wenn sie nicht das tun, was Menschen von ihnen wollen oder erwarten, entstehen laut Buchbeschreibung ethische und möglicherweise existenzielle Risiken. Die Forschung nennt das das Alignment-Problem (Christian 2020).
Als Beispiele nennt die Beschreibung Systeme zur Vorauswahl von Lebensläufen, die versteckte geschlechtsbezogene Verzerrungen zeigten, sowie Algorithmen für Kaution und Bewährung, die schwarze und weiße Angeklagte offenbar unterschiedlich beurteilen. Hinzu kommen Hypothekenanträge, medizinische Tests und autonome Fahrzeuge (Christian 2020).
Anlage des Buches
Die Beschreibung des Autors charakterisiert das Buch als Mischung aus Geschichte und Berichten vor Ort.
Christian zeichnet das Wachstum des maschinellen Lernens nach und begleitet die „Ersthelfer:innen“ des Alignment-Problems, also Forschende, die einen Plan haben, es zu lösen, bevor die Kontrolle ganz aus der Hand gegeben ist (Christian 2020).
Das Buch wendet sich an ein breites Publikum und verbindet technische Fragen mit kulturellen: Es prüft nach der Beschreibung auch „die Vorurteile und blinden Flecken der Menschheit“, ihre unausgesprochenen Annahmen und widersprüchlichen Ziele.
Wirkung
Auf der Seite des Autors sind drei Auszeichnungen verzeichnet.
- Die New York Times nahm es in ihre Liste der fünf besten Bücher über künstliche Intelligenz auf.
- Die National Academies of Sciences, Engineering, and Medicine verliehen ihm den Excellence in Science Communication Award.
- Die Los Angeles Times führte es als Finalist für das beste Wissenschafts- und Technikbuch (Christian 2020).
Reichweite der Belege
Die Darstellung stützt sich auf die Beschreibung des Autors und bibliografische Angaben, nicht auf eine Auswertung des Buchtextes. Aufbau, Kapitelfolge und Einzelbefunde sind hier nicht wiedergegeben und sollten am Buch selbst geprüft werden. Dasselbe gilt für Urteile über Genauigkeit und Gewicht der Darstellung.
Verwandte Begriffe
- AI Alignment – das Forschungsfeld, das der Titel benennt
- Algorithmische Verzerrung – eines der Problemfelder der Beispiele
- Human Compatible – verwandtes Sachbuch über das Kontrollproblem
- Weapons of Math Destruction – Buch über schädliche Entscheidungsmodelle
Quellenangaben
- Open Library, o. J. The Alignment Problem: Machine Learning and Human Values (Katalogeintrag, W. W. Norton & Company, 6. Oktober 2020, 356 S.). https://openlibrary.org/isbn/9780393635829, abgerufen am 2. November 2026.
- Christian, Brian, 2020. The Alignment Problem: Machine Learning and Human Values. New York: W. W. Norton, ISBN 978-0-393-63582-9. Beschreibung und Auszeichnungen: https://brianchristian.org/the-alignment-problem/, abgerufen am 2. November 2026.