Dario Amodei

Dario Amodei (* 1983 in San Francisco, USA) ist ein US-amerikanischer Informatiker, ausgebildeter Biophysiker und Mit-Gründer sowie CEO des KI-Sicherheits- und KI-Forschungsunternehmens Anthropic.

Vor der Gründung von Anthropic im Februar 2021 war er von 2016 bis 2020 Vice President of Research bei OpenAI. Dort leitete er unter anderem die Entwicklung von GPT-2 und GPT-3 sowie die Etablierung von Reinforcement Learning from Human Feedback (RLHF) als zentraler Trainingsmethode für große Sprachmodelle.

Anthropic verfolgt unter Amodeis Leitung eine Strategie, die KI-Sicherheitsforschung und kommerzielle Frontier-Modellentwicklung explizit verbindet. Das Unternehmen ist Entwickler der Claude-Modellfamilie und gilt seit etwa 2024 als einer der drei führenden Frontier-Anbieter neben OpenAI und Google DeepMind.

Mit dem Essay Machines of Loving Grace (Oktober 2024) hat Amodei eine der einflussreichsten programmatischen Schriften zur erwarteten Entwicklung mächtiger KI-Systeme im kommenden Jahrzehnt publiziert; im Juli 2026 folgte mit Policy on the AI Exponential ein weiterer programmatischer Essay.

Zusammenfassung

Dario Amodei verbindet in seiner wissenschaftlichen und unternehmerischen Trajektorie eine Reihe der und ideologisch wichtigsten Stränge der heutigen Frontier-KI-Forschung.

Wissenschaftlich ist er promovierter Biophysiker (Princeton 2011) mit anschließender Postdoc-Tätigkeit in der Computational-Neuroscience-Forschung an der Stanford University.

Er hat – zunächst bei Baidu Research und später bei OpenAI – substantielle Beiträge zur empirischen Erforschung von Skalierungsgesetzen geleistet (vgl. Eintrag Scaling Laws, Kaplan u. a. 2020). Hinzu kommen Beiträge zu Reinforcement Learning from Human Feedback (Christiano/Leike u. a. 2017 mit Amodei als Mit-Autor, Stiennon u. a. 2020) und zu Concrete Problems in AI Safety (Amodei u. a. 2016).

Ideologisch hat sich Amodei mehrfach öffentlich zum erwarteten Eintreten mächtiger oder transformativer KI in den 2020er Jahren bekannt. Sein Essay Machines of Loving Grace skizziert eine Zukunftsperspektive, in der KI-Systeme zwischen 2026 und 2030 zu fundamentalen Durchbrüchen in Biomedizin, Mental Health, Wirtschaftsentwicklung und Governance führen könnten.

Unternehmerisch hat er Anthropic von einer kleinen Ausgründung mit zunächst sieben ehemaligen OpenAI-Mitarbeitenden in eines der höchstbewerteten privaten KI-Unternehmen geführt; Stand August 2026 wird Anthropic mit einer Post-Money-Bewertung von 965 Milliarden US-Dollar gehandelt (Series H, 28. Mai 2026), mit substantiellen Investitionen unter anderem von Amazon und Google.

Anthropic unterscheidet sich von OpenAI vor allem durch das Konzept Constitutional AI (Bai u. a. 2022) und die Responsible Scaling Policy (September 2023, später aktualisiert).

Biografie

Frühe Jahre und Ausbildung

Dario Amodei wuchs als Sohn italienisch-amerikanischer Eltern in der San Francisco Bay Area auf. Sein Vater Riccardo Amodei stammte aus Italien und arbeitete als Lederhandwerker; seine Mutter Elena Engel ist Projektmanagerin und stammt aus einer jüdisch-amerikanischen Familie.

Amodei studierte zunächst Physik an der Stanford University, wechselte dann an die Princeton University, wo er 2011 in Biophysics mit einer Arbeit zur Modellierung neuronaler Schaltkreise promovierte (Doktorvater William Bialek).

Postdoktorale Phase und Baidu (2011–2015)

Nach der Promotion arbeitete Amodei als Postdoktorand am Stanford University School of Medicine in der Forschungsgruppe von Stephen Quake.

Anschließend wechselte er als wissenschaftlicher Mitarbeiter zu Baidu Research in Silicon Valley, wo er unter Andrew Ng an Deep Speech 2 (Amodei u. a. 2016, ICML 2016) arbeitete – einem End-to-End-Spracherkennungssystem für Englisch und Mandarin. Diese Arbeit gehört zu den frühen großen Demonstrationen der praktischen Wirkung von Skalierung auf neuronale Netze.

Google Brain (2015–2016)

Im Jahr 2015 wechselte Amodei zu Google Brain. Während dieser kurzen Phase arbeitete er an mehreren Sicherheitsforschungsprojekten. Zudem war er Mit-Autor der einflussreichen Arbeit Concrete Problems in AI Safety (Amodei u. a. 2016, arXiv 1606.06565), die eine erste systematische Taxonomie konkreter KI-Sicherheitsprobleme lieferte (negative side effects, reward hacking, scalable supervision, safe exploration, distributional shift).

OpenAI (2016–2020)

Im Juli 2016 wechselte Amodei zu OpenAI, wo er zunächst als Forscher tätig war und 2018 zum Vice President of Research befördert wurde.

In dieser Rolle leitete er die Entwicklung mehrerer Schlüsselprojekte. Dazu zählte die GPT-Reihe (mit GPT-2 im Februar 2019 und GPT-3 im Mai 2020).

Hinzu kam die Etablierung von Reinforcement Learning from Human Feedback als zentraler Trainingsmethode (Christiano/Leike u. a. 2017, Deep Reinforcement Learning from Human Preferences mit Amodei als Mit-Autor; Stiennon u. a. 2020 zur Anwendung auf Sprachzusammenfassung). Außerdem entstand die erste Skalierungsgesetz-Arbeit (Kaplan u. a. 2020, mit Amodei als letztem Co-Autor).

In dieser Zeit war Amodei in der Sekundärliteratur einer der einflussreichsten Verfechter der Skalierungshypothese – der Position, dass die qualitativen Fähigkeiten großer Sprachmodelle primär aus der Skalierung von Modellgröße, Daten und Rechenleistung entstehen.

Gründung von Anthropic (2021)

Ende Dezember 2020 verließ Amodei OpenAI; ihm folgten bis Anfang 2021 rund vierzehn weitere Mitarbeitende. Gemeinsam mit seiner Schwester Daniela Amodei und mehreren weiteren ehemaligen OpenAI-Mitarbeitenden – darunter Tom Brown (Lead-Autor der GPT-3-Arbeit), Sam McCandlish, Jack Clark, Jared Kaplan und Chris Olah. Die Gruppe gründete Anthropic mit Sitz in San Francisco. Daniela Amodei übernahm die Rolle der Präsidentin, Dario Amodei die des CEO.

Die in der Sekundärliteratur typisch wiedergegebene Begründung für die Ausgründung war die Wahrnehmung, dass OpenAI die Balance zwischen kommerziellen Produktzielen und Sicherheitsforschung nicht hinreichend hielt – Amodei und seine Mit-Gründer wollten ein Unternehmen aufbauen, in dem Sicherheitsforschung strukturell stärker verankert ist.

Die ersten substantiellen Finanzierungsrunden umfassten Investitionen unter anderem von Jaan Tallinn, Open Philanthropy, Sam Bankman-Fried und weiteren EA-affinen Geldgebern. Die im Verlauf der Jahre 2022/2023 öffentlich gewordene Verbindung zur Effective-Altruism-Community und insbesondere zu Sam Bankman-Fried (vor dessen FTX-Insolvenz im November 2022) wurde in der Sekundärliteratur kritisch diskutiert.

Aufstieg zu einem Frontier-Anbieter (2022–2026)

Anthropic veröffentlichte im März 2023 die erste Version seines Modells Claude. Im Verlauf der Jahre 2023 und 2024 folgten Claude 2 (Juli 2023), Claude 2.1 (November 2023), Claude 3 (Haiku/Sonnet/Opus, März 2024), Claude 3.5 Sonnet (Juni 2024) sowie Claude 3.5 Sonnet (New) und Computer Use (Oktober 2024).

Danach folgten Claude 3.7 Sonnet mit Extended Thinking (Februar 2025), Claude 4 (Mai 2025), Claude 4.5 (Oktober 2025) und Claude Opus 4.7 (Stand Mai 2026).

Am 30. Juni 2026 stellte Anthropic mit Claude Science ein eigenständiges Produkt für Forscher:innen und die Pharmaindustrie vor – thematisch anschlussfähig an die in Machines of Loving Grace skizzierte Erwartung biomedizinischer Durchbrüche durch mächtige KI.

Auf der Finanzierungsseite zog Anthropic substantielle strategische Investitionen an. Amazon kündigte im September 2023 eine Beteiligung von bis zu 4 Milliarden US-Dollar an, später erweitert auf 8 Milliarden US-Dollar; Google investierte parallel etwa 2 Milliarden US-Dollar.

Eine im März 2025 abgeschlossene Finanzierungsrunde brachte Anthropic auf eine Bewertung von 61,5 Milliarden US-Dollar, eine spätere Runde im Verlauf von 2025 auf über 180 Milliarden US-Dollar.

Es folgten die Series G (12. Februar 2026, 30 Mrd. USD Investment, 380 Mrd. USD Post-Money-Bewertung) und die Series H (28. Mai 2026, 65 Mrd. USD Investment, 965 Mrd. USD Post-Money-Bewertung, angeführt von Altimeter, Dragoneer, Greenoaks und Sequoia mit Coatue, GIC und ICONIQ als Co-Lead-Investoren).

Am 1. Juni 2026 reichte Anthropic vertraulich ein S-1-Formular bei der US-Börsenaufsicht SEC ein und bereitet damit einen Börsengang (IPO) vor.

Wissenschaftliches und programmatisches Werk

Concrete Problems in AI Safety (2016)

Die Arbeit Concrete Problems in AI Safety (Amodei, Olah, Steinhardt, Christiano, Schulman, Mané, arXiv 2016) lieferte eine erste systematische Taxonomie konkreter KI-Sicherheitsprobleme und prägt seither die Diskussion.

Die fünf identifizierten Problemklassen – Avoiding Negative Side Effects, Avoiding Reward Hacking, Scalable Oversight, Safe Exploration, Robustness to Distributional Shift – wurden zur Standardgliederung der KI-Sicherheitsforschung.

Deep Speech 2 (2016)

Deep Speech 2 (Amodei u. a., ICML 2016) demonstrierte als End-to-End-Spracherkennungssystem die praktische Wirkung von Skalierung in komplexen Anwendungsdomänen und gilt als methodische Vorbereitung der späteren großen Sprachmodelle.

RLHF-Arbeiten (2017–2020)

Amodei war Mit-Autor der einflussreichen Arbeit Deep Reinforcement Learning from Human Preferences (Christiano, Leike, Brown, Martic, Legg, Amodei, NeurIPS 2017), die die Grundlage für die spätere RLHF-Anwendung in Sprachmodellen legte. Learning to Summarize with Human Feedback (Stiennon u. a. 2020) übertrug das Verfahren auf Sprachzusammenfassung.

Scaling Laws (2020)

Scaling Laws for Neural Language Models (Kaplan, McCandlish, Henighan, Brown, Chess, Child, Gray, Radford, Wu, Amodei 2020) etablierte die heute kanonische Formulierung der Skalierungsgesetze (vgl. Eintrag Scaling Laws) und ist die methodisch zentrale empirische Grundlage der seitherigen Frontier-Modellentwicklung.

Constitutional AI (2022)

Constitutional AI: Harmlessness from AI Feedback (Bai u. a., Anthropic 2022) etablierte ein Verfahren, in dem KI-Systeme an expliziten Wertekatalogen (Konstitutionen) ausgerichtet werden und Feedback zur Trainingssteuerung teilweise vom KI-System selbst kommt (RLAIF – Reinforcement Learning from AI Feedback). Dies ist eine Anthropic-spezifische Variante des klassischen RLHF.

Responsible Scaling Policy (2023)

Im September 2023 publizierte Anthropic die Responsible Scaling Policy (RSP), die explizite Schwellenwerte für die Sicherheitsanforderungen an Modelle in Abhängigkeit von ihren Fähigkeiten formuliert.

Die RSP definiert mehrere AI Safety Levels (ASL-1 bis ASL-5) analog zur biosicherheitstechnischen Stufung. Im Verlauf der Jahre 2024 und 2025 wurde die RSP mehrfach aktualisiert und ist zur Vorlage vergleichbarer Anbieter-Selbstverpflichtungen geworden (Frontier Model Forum, EU AI Act-relevante Bewertungen).

Machines of Loving Grace (Oktober 2024)

Im Oktober 2024 publizierte Amodei den Essay Machines of Loving Grace: How AI Could Transform the World for the Better (darioamodei.com).

Der Text beschreibt eine Zukunftsperspektive, in der „mächtige KI” (von Amodei als Begriff bevorzugt gegenüber AGI) zwischen 2026 und 2030 zu fundamentalen Veränderungen in fünf Bereichen führen könnte. Dazu zählen Biologie und Gesundheit, Neurowissenschaft und Mental Health, wirtschaftliche Entwicklung und Armutsbekämpfung, Frieden und Governance sowie Arbeit und Sinngebung.

Der Essay ist eines der einflussreichsten programmatischen Dokumente der Frontier-KI-Debatte und wurde in der Sekundärliteratur unterschiedlich rezipiert – teils als nüchterne Programmatik, teils als technokratisch-utopische Vision.

Policy on the AI Exponential (Juli 2026)

Im Juli 2026 veröffentlichte Amodei auf darioamodei.com den programmatischen Text Policy on the AI Exponential – nach Machines of Loving Grace sein neuester öffentlicher Essay zur erwarteten Entwicklungsdynamik mächtiger KI-Systeme.

Senate-Testimony und Regulierungspositionen

Amodei hat mehrfach vor dem US-Senate ausgesagt – unter anderem im Juli 2023 im US-Senate Judiciary Committee zum Thema KI-Sicherheit und im Juli 2024 zu KI-Risiken in biologischen Kontexten. Er spricht sich öffentlich für staatliche Regulierung von Frontier-KI-Modellen aus und hat sich in mehreren Beiträgen für verbindliche Pre-Deployment-Tests, Computational Reporting und internationale Koordination ausgesprochen.

Einordnung

Amodei steht in mehreren Debatten an zentraler Stelle:

Frontier-Lab-Achse: Amodei ist neben Sam Altman, Ilya Sutskever und Demis Hassabis einer der vier einflussreichsten CEOs der Frontier-KI-Forschung. Innerhalb dieser Gruppe nimmt er die Position eines stark sicherheitsorientierten, zugleich aber explizit zur AGI-Möglichkeit bekennenden Akteurs ein.

TESCREAL-Anschluss: Amodei hat sich öffentlich nicht zum TESCREAL-Akronym (Gebru/Torres 2024) bekannt.

Seine programmatischen Positionen verbinden ihn jedoch mit mehreren Strängen des TESCREAL-Komplexes, insbesondere mit Longtermism, AI Alignment und Existenziellem Risiko. Dazu zählen die Erwartung mächtiger KI in den späten 2020er Jahren, die Bedeutung von Alignment-Forschung sowie die Verbindungen zu Effective-Altruism-Investoren (Tallinn, Open Philanthropy, ursprünglich SBF).

Machines of Loving Grace ist in der Sekundärliteratur als Beispiel der explizit transformativen KI-Erwartung diskutiert worden.

AI-Sicherheits-Forschungslinie: Mit Concrete Problems in AI Safety (2016), den RLHF-Arbeiten, Constitutional AI und der Responsible Scaling Policy gehört Amodei zu den prägenden Akteuren der KI-Sicherheitsforschung. Er verbindet die Themen AI Alignment, RLHF, Constitutional AI, Outer/Inner Alignment, Deceptive Alignment und Scalable Oversight.

Empirische Forschungsmethodologie: Amodei vertritt eine empirisch-experimentelle Methodologie der KI-Sicherheitsforschung – im Kontrast zu eher philosophisch-spekulativen Ansätzen des MIRI/LessWrong-Umfelds (Yudkowsky). Diese Differenz ist in der Sekundärliteratur als Verschiebung der Sicherheits-Community-Schwerpunkte seit etwa 2020 dokumentiert.

Öffentliche Prognosen. Amodei nennt von allen Frontier-CEOs die kürzesten Fristen. Beim Weltwirtschaftsforum in Davos im Januar 2026 sagte er, KI werde binnen eines Jahres die Arbeit der Software-Entwickler:innen übernehmen, binnen zweier Jahre in der Wissenschaft Nobelpreis-Niveau erreichen und binnen fünf Jahren die Hälfte aller Bürotätigkeiten ersetzen.

Der Kontrast zu Demis Hassabis bei derselben Veranstaltung ist aufschlussreich: Hassabis bezifferte die Wahrscheinlichkeit einer AGI innerhalb des Jahrzehnts auf 50 Prozent und hielt ein bis zwei weitere Durchbrüche für nötig. Beide leiten ein führendes Labor, beide haben Zugang zu unveröffentlichten Systemen – und kommen zu Einschätzungen, die um Größenordnungen auseinanderliegen. Das ist ein Argument gegen die Belastbarkeit solcher Angaben überhaupt.

Anschluss an die Geschwister-Konstellation: Daniela Amodei als Präsidentin und Mit-Gründerin von Anthropic ist eine in Frontier-Labs ungewöhnliche Konstellation; in der Sekundärliteratur wird die Verbindung der beiden als strukturprägend für die Unternehmenskultur von Anthropic diskutiert.

Kontroversen und Kritik

Substantielle Kritik betrifft mehrere Aspekte:

Verbindung zu Sam Bankman-Fried: Die ursprüngliche Investitions-Verbindung zu Sam Bankman-Fried (im Verlauf 2021/2022) wurde nach dessen FTX-Insolvenz im November 2022 in der Sekundärliteratur kritisch diskutiert. Anthropic hat in der Folge erklärt, dass aus dem Insolvenzverfahren stammende SBF-Anteile von der FTX-Insolvenzverwaltung an Drittparteien verkauft wurden.

Sicherheits-Rhetorik und Geschäftsstrategie: Wie bei anderen Frontier-Anbietern wird die Spannung zwischen erklärter Sicherheitsorientierung und tatsächlichem Wettbewerbsverhalten – also der Veröffentlichung immer leistungsfähigerer Modelle – kritisch diskutiert. Die Responsible Scaling Policy ist von Bender, Mitchell und anderen als vage und unzureichend durchsetzbar kritisiert worden.

Machines of Loving Grace-Rezeption: Der Essay wurde von technologisch-skeptischen Akteuren (Bender, Marcus, Mitchell, Whittaker) als technokratisch-utopisch kritisiert; aus der TESCREAL-kritischen Literatur (Gebru/Torres 2024) wird die Verbindung zu Longtermism und der angenommenen positiven Transformation durch KI-Skalierung kritisch beleuchtet.

Verhältnis zu Akzelerationismus: Amodei selbst hat sich mehrfach explizit von akzelerationistischen Positionen (e/acc, Marc Andreessen) abgegrenzt. Gleichzeitig wird in der Sekundärliteratur diskutiert, ob die Veröffentlichungsgeschwindigkeit der Claude-Modellfamilie der erklärten Vorsicht entspricht.

Marktkonzentration: Die Investitionen von Amazon (bis 8 Milliarden USD) und Google in Anthropic werden in der Sekundärliteratur unter Wettbewerbsgesichtspunkten diskutiert; mehrere Regulierungsbehörden (FTC, CMA, EU-Kommission) haben entsprechende Prüfungen eingeleitet.

Anthropomorphisierung und „Welfare”-Diskussion: Die seit 2024 von Anthropic verfolgte Linie der AI Welfare-Forschung (etwa unter Kyle Fish) wird teilweise als anthropomorphisierend kritisiert, teilweise als erweiterte Sicherheitsforschung verteidigt.

Quellenangaben

Kahn, Jeremy, 2026. AI Luminaries at Davos Clash Over How Close Human-Level Intelligence Really Is. Fortune, 23. Januar 2026. https://fortune.com/2026/01/23/deepmind-demis-hassabis-anthropic-dario-amodei-yann-lecun-ai-davos
Amodei, Dario / Olah, Chris / Steinhardt, Jacob / Christiano, Paul / Schulman, John / Mané, Dan, 2016. Concrete Problems in AI Safety. Google Brain / OpenAI. arXiv: 1606.06565.
Amodei, Dario u. a., 2016. Deep Speech 2: End-to-End Speech Recognition in English and Mandarin. In: Proceedings of the 33rd International Conference on Machine Learning (ICML 2016), S. 173–182. arXiv: 1512.02595.
Amodei, Dario, 2024. Machines of Loving Grace: How AI Could Transform the World for the Better. darioamodei.com, Oktober 2024.
Amodei, Dario, 2023. Testimony before the U.S. Senate Judiciary Committee, Subcommittee on Privacy, Technology, and the Law.
Amodei, Dario, 2026. Policy on the AI Exponential. darioamodei.com, Juli 2026.
Anthropic, 2023. Anthropic’s Responsible Scaling Policy. anthropic.com, September 2023, mehrfach aktualisiert 2024/2025.
Anthropic, 2026. Anthropic Raises $65B in Series H Funding. Anthropic, 28. Mai 2026. anthropic.com/news/series-h.
Anthropic, 2026. Anthropic Confidentially Submits Draft S-1 to the SEC. Anthropic, 1. Juni 2026. anthropic.com/news/confidential-draft-s1-sec.
Bai, Yuntao u. a., 2022. Constitutional AI: Harmlessness from AI Feedback. Anthropic. arXiv: 2212.08073.
Bender, Emily M. / Gebru, Timnit / McMillan-Major, Angelina / Shmitchell, Shmargaret, 2021. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT 2021), S. 610–623. DOI: 10.1145/3442188.3445922.
Brown, Tom B. u. a., 2020. Language Models are Few-Shot Learners. In: Advances in Neural Information Processing Systems 33 (NeurIPS 2020), S. 1877–1901. arXiv: 2005.14165.
Christiano, Paul F. / Leike, Jan / Brown, Tom B. / Martic, Miljan / Legg, Shane / Amodei, Dario, 2017. Deep Reinforcement Learning from Human Preferences. In: Advances in Neural Information Processing Systems 30 (NeurIPS 2017), S. 4299–4307. arXiv: 1706.03741.
CNBC, 2026. Anthropic confidentially files IPO prospectus with SEC, prepping Wall Street for landmark AI deal. CNBC, 1. Juni 2026. cnbc.com.
Gebru, Timnit / Torres, Émile P., 2024. The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence. In: First Monday 29 (4). DOI: 10.5210/fm.v29i4.13636.
Kaplan, Jared / McCandlish, Sam / Henighan, Tom / Brown, Tom B. / Chess, Benjamin / Child, Rewon / Gray, Scott / Radford, Alec / Wu, Jeffrey / Amodei, Dario, 2020. Scaling Laws for Neural Language Models. OpenAI. arXiv: 2001.08361.
Roose, Kevin, 2023. Inside the White-Hot Center of A.I. Doomerism. The New York Times, 11. Juli 2023.
STAT News, 2026. Anthropic Releases Claude Science, CEO Dario Amodei. statnews.com, 30. Juni 2026.
Stiennon, Nisan / Long, Long / Hou, Xinyu u. a., 2020. Learning to Summarize from Human Feedback. In: Advances in Neural Information Processing Systems 33 (NeurIPS 2020). arXiv: 2009.01325.
TechCrunch, 2026. Anthropic Raises $65 Billion, Nears $1T Valuation Ahead of IPO. TechCrunch, 28. Mai 2026. techcrunch.com.

← Zurück zur Lexikon-Übersicht