Dan Hendrycks (* 1994 oder 1995) ist ein US-amerikanischer Informatiker. Er ist Direktor des Center for AI Safety (CAIS), einer gemeinnützigen Forschungsorganisation mit Sitz in San Francisco, und zugleich Sicherheitsberater von Elon Musks Unternehmen xAI. Er zählt zu den einflussreichsten Figuren der akademisch und industriell geprägten KI-Sicherheitsbewegung.
Zusammenfassung
Hendrycks erwarb 2018 einen Bachelorabschluss an der University of Chicago und promovierte 2022 an der UC Berkeley in Informatik. Bereits 2016 hatte er als Hauptautor die GELU-Aktivierungsfunktion (Gaussian Error Linear Units) eingeführt, die heute in zahlreichen großen Sprachmodellen zum Einsatz kommt, 2020 folgte als Hauptautor der MMLU-Benchmark (Massive Multitask Language Understanding), der sich zu einem der meistverwendeten Maßstäbe für die Bewertung des Allgemeinwissens von Sprachmodellen entwickelte.
Nach eigener Aussage prägte die Lektüre von Nick Bostroms Buch „Superintelligence” seine Hinwendung zur KI-Sicherheitsforschung. Er gründete das Center for AI Safety, das er seither leitet, und war 2023 Mitautor des Papers „An Overview of Catastrophic AI Risks”, das vier Risikokategorien unterscheidet: missbräuchliche Nutzung, Wettlaufdynamiken zwischen KI-Entwicklern, organisatorisches Versagen und autonom entgleisende KI-Systeme. Im selben Jahr organisierte er das kurze, vielzitierte „Statement on AI Risk”, das von zahlreichen prominenten Forschenden und Unternehmenschefs unterzeichnet wurde. Seit 2023 berät er zudem xAI in Sicherheitsfragen, gegen ein rein symbolisches Gehalt von einem Dollar und ohne Unternehmensanteile, um Interessenkonflikte zu vermeiden; seit November 2024 berät er unter denselben Bedingungen auch Scale AI.
Werdegang
Hendrycks wurde 1994 oder 1995 geboren und erwarb 2018 einen Bachelorabschluss an der University of Chicago. 2022 promovierte er an der UC Berkeley in Informatik. Bereits während seines Studiums veröffentlichte er zwei Arbeiten, die weit über den akademischen Kontext hinaus Wirkung entfalteten: 2016 die GELU-Aktivierungsfunktion, eine mathematische Funktion zur Steuerung, wie Neuronen in einem neuronalen Netz aktiviert werden, die sich zu einem De-facto-Standard in modernen Transformer-Architekturen entwickelte; und 2020 den MMLU-Benchmark, einen Testkatalog aus Multiple-Choice-Fragen über 57 Fachgebiete, der seither als einer der Standardmaßstäbe zur Bewertung des Allgemeinwissens großer Sprachmodelle dient.
Center for AI Safety und die Risikodebatte
Hendrycks gründete das Center for AI Safety (CAIS), eine gemeinnützige Forschungsorganisation, die er seither leitet und deren erklärtes Ziel die Reduzierung gesellschaftsweiter Risiken durch KI ist. 2023 war er Mitautor von „An Overview of Catastrophic AI Risks”, einem viel diskutierten Überblickspapier, das vier Risikokategorien unterscheidet: absichtlicher Missbrauch von KI-Systemen, gefährliche Wettlaufdynamiken zwischen konkurrierenden Entwicklern, organisatorisches Versagen innerhalb von KI-Laboren sowie das Risiko autonom entgleisender KI-Agenten.
Im selben Jahr organisierte er über das CAIS das „Statement on AI Risk”, einen einzelnen, bewusst knapp gehaltenen Satz, der die Eindämmung des Risikos einer KI-bedingten Auslöschung der Menschheit auf eine Stufe mit anderen gesellschaftlichen Großrisiken wie Pandemien und Atomkrieg stellte. Das Statement wurde von zahlreichen prominenten KI-Forschenden und Unternehmensführungen unterzeichnet und zählt zu den meistzitierten Dokumenten der öffentlichen KI-Risikodebatte. 2024 veröffentlichte Hendrycks zudem das Lehrbuch „Introduction to AI Safety, Ethics, and Society” sowie gemeinsam mit Scale AI den Benchmark „Humanity’s Last Exam”, der die Fähigkeiten fortgeschrittener Sprachmodelle an besonders anspruchsvollen Aufgaben nahe der Grenze menschlichen Expertenwissens testen soll.
Seit 2023 ist Hendrycks zudem Sicherheitsberater von xAI, dem KI-Unternehmen Elon Musks, gegen ein bewusst symbolisches Gehalt von einem US-Dollar und ohne Unternehmensbeteiligung – eine Konstruktion, die nach eigener Darstellung Interessenkonflikte zwischen seiner unabhängigen Sicherheitsarbeit und einer finanziellen Beteiligung an einem der von ihm beratenen Unternehmen vermeiden soll. Seit November 2024 berät er unter denselben Bedingungen auch Scale AI.
Verwandte Begriffe
- Elon Musk – Gründer von xAI, das Hendrycks seit 2023 in Sicherheitsfragen berät
- Alexandr Wang – Gründer von Scale AI, das Hendrycks seit 2024 berät
- AI Alignment – das Forschungsfeld, dem Hendrycks’ Arbeit zu KI-Sicherheit zuzuordnen ist
Quellenangaben
- Wikipedia: „Dan Hendrycks”, Stand September 2026 (per WebFetch eingesehen). https://en.wikipedia.org/wiki/Dan_Hendrycks