Dan Hendrycks ist ein US-amerikanischer Informatiker. Er ist Direktor des Center for AI Safety (CAIS), einer gemeinnützigen Forschungsorganisation mit Sitz in San Francisco, und zugleich Sicherheitsberater von Elon Musks Unternehmen xAI. Er zählt zu den einflussreichsten Figuren der akademisch und industriell geprägten KI-Sicherheitsbewegung.
Zusammenfassung
Hendrycks erwarb 2018 einen Bachelorabschluss an der University of Chicago und promovierte 2022 an der UC Berkeley in Informatik.
Zwei seiner Arbeiten erlangten besondere Bedeutung: 2016 führte er als Hauptautor die GELU-Aktivierungsfunktion (Gaussian Error Linear Units) ein, die heute in zahlreichen großen Sprachmodellen verwendet wird. 2020 folgte der MMLU-Benchmark (Massive Multitask Language Understanding), der sich zum Standardmaßstab für die Bewertung des Allgemeinwissens von Sprachmodellen entwickelte.
Nach eigener Aussage prägte die Lektüre von Nick Bostroms Buch „Superintelligence” seine Hinwendung zur KI-Sicherheitsforschung. Er gründete das Center for AI Safety, das er seither leitet. 2023 war er Mitautor des vielbeachteten Papers „An Overview of Catastrophic AI Risks”, das vier Risikokategorien unterscheidet: missbräuchliche Nutzung, Wettlaufdynamiken zwischen KI-Entwicklern, organisatorisches Versagen und autonom entgleisende KI-Systeme.
Im selben Jahr organisierte er das knappe, vielzitierte „Statement on AI Risk”, unterzeichnet von Hunderten prominenter Forschenden und Unternehmenschefs. Seit 2023 berät er xAI in Sicherheitsfragen. Die Bezahlung ist bewusst minimal: ein Dollar pro Jahr, ohne Anteile – um Interessenskonflikte auszuschließen. Seit November 2024 berät er auch Scale AI unter denselben Bedingungen.
Werdegang
Hendrycks erwarb 2018 einen Bachelorabschluss an der University of Chicago. 2022 promovierte er an der UC Berkeley in Informatik.
Bereits während seines Studiums veröffentlichte er zwei wegweisende Arbeiten.
2016 entwickelte er die GELU-Aktivierungsfunktion – eine mathematische Funktion, die Neuronaktivierung in neuronalen Netzen steuert und zum De-facto-Standard in modernen Transformer-Architekturen wurde. 2020 folgte der MMLU-Benchmark, ein Testkatalog über 57 Fachgebiete und heute ein Standardmaßstab zur Bewertung des Allgemeinwissens großer Sprachmodelle.
Center for AI Safety und die Risikodebatte
Hendrycks gründete das Center for AI Safety (CAIS), eine gemeinnützige Forschungsorganisation mit dem Ziel, gesellschaftsweite Risiken durch KI zu reduzieren. Er leitet sie bis heute.
2023 war er Mitautor des viel diskutierten Überblickspapiers „An Overview of Catastrophic AI Risks”. Dieses unterscheidet vier Risikokategorien: absichtlicher Missbrauch von KI-Systemen, Wettlaufdynamiken zwischen Entwicklern, organisatorisches Versagen innerhalb von KI-Laboren sowie das Risiko autonom entgleisender KI-Agenten.
Im selben Jahr organisierte er das „Statement on AI Risk” – einen knappen Satz, der das Risiko einer KI-bedingten Auslöschung der Menschheit auf die Stufe von Pandemien und Atomkrieg stellte. Das Statement wurde von Hunderten prominenten Forschenden und Führungskräften unterzeichnet und zählt zu den meistzitierten Dokumenten der KI-Risikodebatte.
2024 veröffentlichte Hendrycks das Lehrbuch „Introduction to AI Safety, Ethics, and Society” und arbeitete mit Scale AI am Benchmark „Humanity’s Last Exam”, der Sprachmodelle an Aufgaben nahe der Grenze menschlichen Expertenwissens testet.
Seit 2023 berät er xAI in Sicherheitsfragen – mit einem Dollar Jahresgehalt und ohne Anteile, um Interessenskonflikte zu vermeiden. Seit November 2024 berät er auch Scale AI unter denselben Bedingungen.
Verwandte Begriffe
- Elon Musk – Gründer von xAI, das Hendrycks seit 2023 in Sicherheitsfragen berät
- Alexandr Wang – Gründer von Scale AI, das Hendrycks seit 2024 berät
- AI Alignment – das Forschungsfeld, dem Hendrycks’ Arbeit zu KI-Sicherheit zuzuordnen ist
Quellenangaben
- Hendrycks, Dan / Gimpel, Kevin, 2016. Gaussian Error Linear Units (GELUs). arXiv: 1606.08415
- Hendrycks, Dan / Burns, Collin / Basart, Steven u. a., 2020. Measuring Massive Multitask Language Understanding. arXiv: 2009.03300
- Hendrycks, Dan / Mazeika, Mantas / Woodside, Thomas, 2023. An Overview of Catastrophic AI Risks. arXiv: 2306.12001
- Hendrycks, Dan, o. J. Dan Hendrycks – Homepage. University of California, Berkeley. people.eecs.berkeley.edu/~hendrycks/