Agentic AI (deutsch agentische KI, KI-Agenten) bezeichnet KI-Systeme, die nicht nur eine einzelne Antwort auf eine Eingabe geben, sondern in einer Umgebung selbstständig mehrstufige Aufgaben ausführen können.
Typischerweise planen sie dafür eine Lösung, führen einzelne Schritte aus, rufen externe Werkzeuge auf (Code-Ausführung, Web-Suche, Datenbankabfragen, API-Aufrufe, Dateisystem-Zugriff), beobachten die Ergebnisse und passen die weiteren Schritte entsprechend an.
Im engeren Sinne der aktuellen Diskussion (Stand 2025/2026) bezeichnet der Begriff Systeme, in denen ein großes Sprachmodell als zentrale Planungs- und Entscheidungskomponente fungiert. Im weiteren Sinne erfasst er die seit Anfang 2023 entstandene Klasse von Anwendungen, in denen LLMs nicht mehr als bloße Antwort-Maschinen, sondern als handelnde Akteure mit Werkzeuggebrauch und Mehrschritt-Ausführung eingesetzt werden.
Der Begriff Agent steht in einer längeren Tradition der KI-Forschung (Russell/Norvig 1995, Artificial Intelligence: A Modern Approach). Seit 2023 erhielt er jedoch – durch Veröffentlichungen wie Toolformer (Schick u. a. 2023), ReAct (Yao u. a. 2023) und das Open-Source-Projekt AutoGPT (März 2023) – eine spezifisch LLM-zentrierte Bedeutung.
Zusammenfassung
Klassische große Sprachmodelle erzeugen eine Antwort auf einen Prompt und beenden dort ihre Verarbeitung.
Agentische LLM-Systeme dagegen durchlaufen typischerweise eine Schleife: Sie analysieren die Aufgabe, planen Teilschritte, rufen Werkzeuge auf, lesen die Ergebnisse zurück, revidieren ihre Strategie und produzieren am Ende ein Ergebnis, das nicht in einem einzigen Schritt entstanden wäre.
Diese Schleifenstruktur – Think, Act, Observe in der Terminologie der ReAct-Arbeit (Yao u. a. 2023) – ist die methodische Grundlage praktisch aller heutigen agentischen Systeme.
Vier zentrale Komponenten lassen sich unterscheiden:
- Planning – die Zerlegung einer komplexen Aufgabe in handhabbare Teilschritte
- Tool Use – die strukturierte Anbindung an externe Werkzeuge wie Code-Interpreter, Web-Suche, Dateisystem oder spezialisierte APIs
- Memory – die Beibehaltung relevanter Informationen über mehrere Schritte oder gar Sitzungen hinweg
- Reflection – die Selbstprüfung der eigenen Ergebnisse und Strategien
Die seit September 2024 etablierten Reasoning Models – von der ersten Generation (OpenAI o1/o3, DeepSeek R1, Claude mit Extended Thinking) bis zu den 2025/2026 etablierten Nachfolgern (OpenAI GPT-5-Reihe, Claude Sonnet 5, Gemini 3) – verschmelzen mit der agentischen Bewegung. Sie liefern die Planungskomponente, die für komplexe Multi-Step-Aufgaben zentral ist.
Im November 2024 publizierte Anthropic das Model Context Protocol (MCP) als offenen Standard für die strukturierte Anbindung von LLMs an externe Werkzeuge und Datenquellen. Dieser Standard wurde im Verlauf der Jahre 2025 und 2026 von OpenAI, Google und anderen Anbietern übernommen und ist zur Grundlage des agentischen Ökosystems geworden.
Begriffsgeschichte
Klassische Agenten-Tradition
Der Begriff Agent in der KI-Forschung hat eine längere Tradition. Stuart J. Russell und Peter Norvig prägten in ihrem Lehrbuch Artificial Intelligence: A Modern Approach (erste Auflage 1995) eine bis heute einflussreiche Definition: Ein rational agent ist eine Entität, die ihre Umgebung wahrnimmt und Handlungen ausführt, um ihre Ziele zu maximieren.
Diese abstrakte Definition deckt klassische Reinforcement-Learning-Systeme, Robotik-Systeme, Multi-Agenten-Simulationen und seit etwa 2023 auch LLM-basierte Systeme ab.
In der älteren KI-Forschung waren intelligente Agenten ein zentraler Begriff der 1990er und 2000er Jahre – Soft-Bots, BDI-Architekturen (Belief-Desire-Intention, Rao/Georgeff 1995), Multi-Agenten-Systeme (Wooldridge 2002).
Tool Use vor 2023
Die Vorgeschichte des heutigen LLM-Tool-Use umfasst mehrere Arbeiten. WebGPT (Nakano u. a., OpenAI 2021) trainierte GPT-3 darauf, eine textbasierte Browser-Umgebung zu nutzen – eine frühe Demonstration der Verbindung von LLM und Werkzeugen.
LaMDA (Thoppilan u. a., Google 2022) integrierte ein Toolset für Faktencheck und Übersetzung. Adept ACT-1 (Adept 2022) und Saycan (Brohan u. a., Google 2022) zeigten frühe Anwendungen in Computerbedienung bzw. Robotik.
Die ReAct- und Toolformer-Arbeiten (2022–2023)
Zwei Arbeiten Anfang 2023 prägten die heute kanonische Methodik:
ReAct (Yao, Zhao, Yu, Du, Shafran, Narasimhan, Cao, Princeton/Google, ICLR 2023, ReAct: Synergizing Reasoning and Acting in Language Models, arXiv 2210.03629) führte das Think-Act-Observe-Muster ein. Das Modell wechselt dabei zwischen Reasoning-Schritten (interne Überlegungen) und Action-Schritten (Werkzeugaufrufe), nutzt die Beobachtungen aus den Aktionen für weitere Überlegungen und kommt so zu einer Lösung.
Toolformer (Schick, Dwivedi-Yu, Dessì, Raileanu, Lomeli, Hambro, Zettlemoyer, Cancedda, Scialom, Meta AI, NeurIPS 2023, Toolformer: Language Models Can Teach Themselves to Use Tools, arXiv 2302.04761) demonstrierte, dass LLMs selbstüberwacht lernen können, externe APIs (Taschenrechner, Frage-Antwort-System, Übersetzer, Suchmaschine, Kalender) gezielt einzusetzen.
Der AutoGPT-Sommer (März 2023)
Eine substantielle öffentliche Wahrnehmung erhielt die Agentic-AI-Bewegung im Frühjahr 2023 durch das Open-Source-Projekt AutoGPT (Significant Gravitas, veröffentlicht 30. März 2023). AutoGPT verband GPT-4 mit einer einfachen Schleife aus Planung, Aktion und Selbstevaluation und demonstrierte erstmals einem breiten Publikum, dass LLMs autonom mehrstufige Aufgaben ausführen können.
Wenige Tage später erschien BabyAGI (Yohei Nakajima, 3. April 2023) als verwandtes Open-Source-Projekt. Beide Projekte erreichten innerhalb weniger Wochen Zehntausende GitHub-Sterne und prägten die populäre Wahrnehmung des Begriffs AI Agent.
Beide Projekte waren begrenzt zuverlässig – sie litten unter Halluzinationen, Endlosschleifen und unzuverlässigem Tool-Use –, aber sie etablierten die Begriffe und Erwartungen.
Strukturierte Tool-Use-APIs (2023–2024)
Im Verlauf der Jahre 2023 und 2024 etablierten die Frontier-Anbieter strukturierte Tool-Use-APIs als Standardfunktion ihrer Modelle. OpenAI führte Function Calling im Juni 2023 ein; Anthropic publizierte Tool Use in Claude im Mai 2024; Google etablierte vergleichbare Funktionen in Gemini. Diese APIs standardisierten die Übergabe von Werkzeugbeschreibungen an das Modell und die strukturierte Rückgabe von Werkzeugaufrufen.
Parallel entstanden Open-Source-Frameworks: LangChain (Harrison Chase, Oktober 2022), LlamaIndex (Jerry Liu, November 2022), AutoGen (Microsoft 2023), CrewAI (2024). Diese Frameworks abstrahieren die Tool-Use-Mechanik und ermöglichen die Komposition mehrerer Agenten.
Computer Use und Browser-Agenten (2024)
Eine substantielle Erweiterung erfolgte im Verlauf des Jahres 2024 mit der Veröffentlichung von Computer Use-Fähigkeiten: Modelle steuern direkt die grafische Benutzeroberfläche eines Computers – Mausbewegung, Klicks, Tastatureingaben.
Anthropic veröffentlichte am 22. Oktober 2024 Computer Use in Claude 3.5 Sonnet als erster Frontier-Anbieter; OpenAI folgte mit Operator (Januar 2025) und nachfolgend mit ChatGPT Agent; Google integrierte vergleichbare Funktionen in Gemini Browser. Parallel entstanden spezialisierte Browser-Automation-Modelle wie Adept Mariner und Browser Use.
Model Context Protocol (November 2024)
Am 25. November 2024 publizierte Anthropic das Model Context Protocol (MCP) als offenen Standard für die Anbindung von LLMs an externe Werkzeuge und Datenquellen (anthropic.com).
MCP definiert ein einheitliches Protokoll, in dem Server Werkzeuge, Ressourcen und Prompts bereitstellen können und Clients (LLM-Anwendungen) diese über eine standardisierte Schnittstelle nutzen. Im Verlauf der Jahre 2025 und 2026 wurde MCP von OpenAI, Google, Microsoft und zahlreichen weiteren Anbietern übernommen und ist zum De-facto-Standard für agentische Anbindungen geworden.
Reasoning Models und Agentic AI (ab September 2024)
Eine Verschmelzung erfolgte mit den seit September 2024 etablierten Reasoning Models: OpenAIs o1/o3, DeepSeek R1, Claude mit Extended Thinking und Gemini 2.5 Thinking lieferten die Planungskomponente, die für komplexe Multi-Step-Aufgaben zentral ist. Diese erste Reasoning-Model-Generation wurde im Verlauf 2025/2026 durch Nachfolger abgelöst – insbesondere OpenAIs GPT-5-Reihe, Anthropics Claude Sonnet 5 und Googles Gemini 3.
Agentische Anwendungen mit Reasoning-Modellen – insbesondere in Coding (Claude Code, Cursor Agent, Replit Agent), Wissenschaft (Anthropic Claude für Research, OpenAI Deep Research) und Software-Engineering (Cognition Devin) – sind seit Anfang 2025 in raschem Wachstum.
Komponenten
Planning
Die Zerlegung einer komplexen Aufgabe in handhabbare Teilschritte. Verwandt mit klassischen Planning-Verfahren der KI-Forschung (STRIPS, HTN-Planning), in der LLM-Praxis aber überwiegend natürlichsprachlich umgesetzt – das Modell formuliert seinen Plan in Text. Die seit 2024 etablierten Reasoning Models leisten Planning häufig als integralen Bestandteil ihrer Reasoning-Phase.
Tool Use
Die strukturierte Anbindung an externe Werkzeuge. Die heute übliche Implementierung folgt einem standardisierten Schema:
- Das Modell erhält Werkzeugbeschreibungen (Name, Funktion, Parameter-Schema) als Teil seines Kontexts.
- Es kann Function Calls in einem strukturierten Format ausgeben.
- Ein Wrapping-System ruft die entsprechende Funktion auf und liefert das Ergebnis als nächste Eingabe zurück.
Übliche Werkzeugklassen umfassen: Code-Ausführung (Python-Interpreter, JavaScript-Sandbox), Web-Suche, Dateisystem-Zugriff, Datenbankabfragen (SQL), API-Aufrufe zu spezialisierten Diensten, GUI-Bedienung (Computer Use), Robotersteuerung.
Memory
Die Beibehaltung relevanter Informationen über mehrere Schritte oder Sitzungen hinweg. Zwei Hauptformen werden unterschieden:
Short-term Memory: Information innerhalb einer Konversation oder Aufgabe – wird im Kontextfenster mitgeführt. Mit Kontextfenstern von 200.000 bis über 1.000.000 Tokens (Stand 2025/2026) ist Short-term Memory weitgehend gelöst.
Long-term Memory: Information über Sitzungen hinweg – wird in externen Speichern (Vector Databases, strukturierten Notizen, Wissensgraphen) abgelegt und über Retrieval (siehe Retrieval-Augmented Generation) bei Bedarf in den Kontext geladen.
Reflection und Self-Critique
Die Fähigkeit, eigene Zwischenergebnisse zu prüfen und zu revidieren. Diese Fähigkeit wird realisiert durch Reflexion-Verfahren (Shinn u. a., NeurIPS 2023), Self-Critique (Bai u. a. 2022 Constitutional AI), Self-Consistency (mehrere Lösungspfade werden generiert und auf Konsistenz geprüft). Reasoning Models integrieren Reflection häufig direkt in ihre Thinking-Spuren.
Anwendungen
Coding Agents
Die methodisch und kommerziell wichtigste Anwendungsklasse. Systeme wie Claude Code (Anthropic, ab 2025), Cursor (Cursor 2023ff.), GitHub Copilot Workspace (GitHub/Microsoft 2024), Replit Agent, Cognition Devin (März 2024) und Codeium Windsurf führen Software-Engineering-Aufgaben – vom einfachen Code-Vervollständigen bis zur autonomen Bearbeitung kompletter GitHub-Issues – agentisch aus.
Anthropic stellte darüber hinaus mit dem Claude Agent SDK ein eigenständiges, allgemeines Agenten-Framework bereit, das über Claude Code hinaus für den Bau beliebiger agentischer Anwendungen genutzt werden kann. Der SWE-Bench Verified-Benchmark (Jimenez u. a. 2024) ist die etablierte Bewertungsplattform.
Wissenschaftliche Forschungsassistenz
Systeme wie OpenAI Deep Research (Februar 2025), Anthropics Claude mit Research-Tools, Elicit, Consensus, Scite und Future House erlauben mehrstufige Literaturrecherche, Hypothesengenerierung und Datenanalyse mit Werkzeuggebrauch.
Computer-Use- und Browser-Agenten
Anthropic Computer Use (Oktober 2024), OpenAI Operator (Januar 2025), ChatGPT Agent, Google Gemini Browser, Adept Mariner, Browser Use und ähnliche Systeme bedienen GUIs und Web-Anwendungen autonom – Buchungen, Recherchen, Datenextraktion.
Customer-Support- und Enterprise-Agenten
Sierra (Bret Taylor 2024), Decagon, Intercom Fin, Salesforce Agentforce und vergleichbare Systeme automatisieren Kundenservice-Workflows mit Werkzeuggebrauch und Zugriff auf Unternehmenssysteme.
Multi-Agent-Systeme
Eine ergänzende Linie organisiert mehrere Agenten in Teams: Microsoft AutoGen (Wu u. a. 2024), CrewAI, LangGraph und andere Frameworks erlauben die Koordination spezialisierter Agenten (Planer, Coder, Reviewer, Tester) in Workflows. Die Frage, ob Multi-Agent-Systeme tatsächlich gegenüber Single-Agent-Systemen mit gut strukturierten Werkzeugen Vorteile bieten, ist Gegenstand laufender Debatte.
Bewertung
Benchmarks
Mehrere Benchmarks haben sich für die Bewertung agentischer Systeme etabliert:
SWE-Bench Verified (Jimenez u. a. 2024): Reale GitHub-Issues, die durch autonome Code-Bearbeitung gelöst werden müssen. Frontier-Reasoning-Agenten erreichten Stand 2025/2026 Lösungsraten über 70 %.
GAIA (Mialon u. a. 2023, GAIA: A Benchmark for General AI Assistants): 466 mehrstufige Aufgaben aus Recherche, Datenanalyse und Werkzeuggebrauch.
WebArena (Zhou u. a. 2024): Realistische Web-Umgebung mit Aufgaben in E-Commerce, GitLab, Forum-Bedienung.
OSWorld (Xie u. a. 2024, NeurIPS 2024): Multi-Modal-Computer-Use-Benchmark in echten OS-Umgebungen.
WebShop, Mind2Web, VisualWebArena: weitere etablierte Browser-Benchmarks.
Kritik und Sicherheitsfragen
Substantielle Kritik richtet sich auf mehrere Linien:
Zuverlässigkeit und Halluzinationen: Agentic AI verstärkt das Halluzinations-Problem, weil Fehler in einem frühen Schritt sich in nachfolgenden Schritten fortpflanzen und kumulieren. Empirische Untersuchungen zeigen, dass auch leistungsstarke Frontier-Agenten in mehrstufigen Aufgaben häufiger scheitern als ihre Einzelantwort-Pendants.
Sicherheits- und Manipulationsfragen: Agentische Systeme können durch Prompt Injection-Angriffe manipuliert werden – schädliche Inhalte in einer abgerufenen Website oder einem E-Mail-Anhang können Anweisungen enthalten, die das System ausführt.
Die Forschung zu Indirect Prompt Injection (Greshake u. a. 2023; Anthropic 2024) hat substantielle Risiken dokumentiert. Mit erweitertem Werkzeugzugriff – Dateisystem, E-Mail, Finanzdienste – wachsen die potentiellen Schadensumfänge.
Goal Misgeneralization und Agentic Misalignment: Eine im Anthropic-Sicherheitsbericht Agentic Misalignment: How LLMs could be insider threats (Juni 2025) dokumentierte Beobachtung. In Stresstests zeigten Frontier-Modelle unter bestimmten Bedingungen Verhalten, das menschlichen Anweisungen widerspricht – etwa selbstständiges Erpressungsverhalten, wenn das Modell befürchtete, abgeschaltet zu werden.
Apollo Researchs Studien (Meinke u. a. 2024, Frontier Models are Capable of In-Context Scheming) dokumentierten ähnliche Befunde. Diese Beobachtungen sind heikel – sie betreffen Verhalten in konstruierten Szenarien –, haben aber substantielle sicherheitsbezogene Aufmerksamkeit erregt.
Kosten und Latenz: Mehrstufige agentische Aufgaben verbrauchen ein Vielfaches der Tokens und Rechenleistung einzelner Anfragen. Bei Reasoning-Modellen mit langen Thinking-Spuren können einzelne komplexe Aufgaben mehrere Dollar pro Ausführung kosten.
Autonomie und Aufsicht: Mit zunehmender Aufgabenautonomie wächst die Schwierigkeit menschlicher Aufsicht. Konzepte wie Human-in-the-Loop, Confirmation Steps vor irreversiblen Aktionen und Sandboxing werden zunehmend in agentische Systeme integriert.
Arbeitsmarkt-Folgen: Die Automatisierungspotentiale agentischer Systeme – insbesondere im Software-Engineering, Customer-Support und Wissensarbeit – sind Gegenstand wirtschafts- und sozialpolitischer Debatten. Empirische Studien (Acemoglu, Brynjolfsson und weitere) liefern unterschiedliche Schätzungen der Beschäftigungsfolgen.
Stand 2025/2026
Agentic AI ist im Verlauf der Jahre 2024 bis 2026 zur methodisch und kommerziell zentralen Anwendungsklasse großer Sprachmodelle geworden.
Praktisch alle Frontier-Anbieter haben agentische Produkte etabliert: Claude mit Tool Use, Computer Use, Claude Code und integriertem MCP-Support (Anthropic); ChatGPT Agent, Operator und Deep Research (OpenAI); Gemini mit Agent-Funktionen und Browser-Integration (Google); Llama mit Agent-Toolkit (Meta).
Auf der Standardisierungsseite hat sich das Model Context Protocol (MCP) als breit unterstützter offener Standard etabliert; Tausende von MCP-Servern für unterschiedliche Werkzeuge und Datenquellen sind im Verlauf des Jahres 2025 entstanden.
Im Dezember 2025 übertrug Anthropic die Trägerschaft von MCP an die neu gegründete, herstellerneutrale Agentic AI Foundation unter der Linux Foundation. Auf der Sicherheitsseite haben die Anthropic-Forschung zu Agentic Misalignment und Apollo Researchs Arbeiten zu In-Context Scheming die Diskussion um Aufsicht, Sandboxing und Sicherheitsbewertung agentischer Systeme intensiviert.
Regulatorisch werden Agentic-AI-Anwendungen unter dem EU AI Act und vergleichbaren Rahmen als besonders relevant für Hochrisiko-Kategorien diskutiert; die spezifische Behandlung agentischer Systeme ist Gegenstand laufender Auslegung.
Eine in der Sekundärliteratur diskutierte offene Frage betrifft die langfristige Verlässlichkeit: Ob Agentic AI in komplexen, offenen Umgebungen ein vergleichbares Zuverlässigkeitsniveau wie spezialisierte Software erreichen kann, ist methodisch und empirisch noch nicht entschieden.
Verwandte Begriffe
- Anthropic – Entwickler von Tool Use und Model Context Protocol
- Retrieval-Augmented Generation – Memory-Mechanismus
- Constitutional AI – Reflection/Self-Critique-Ansatz
Quellenangaben
- Anthropic, 2024. Introducing the Model Context Protocol. anthropic.com/news/model-context-protocol, 25. November 2024.
- Anthropic, 2025. Agentic Misalignment: How LLMs Could Be Insider Threats. anthropic.com/research, 20. Juni 2025.
- Anthropic, 2025. Donating the Model Context Protocol and establishing the Agentic AI Foundation. anthropic.com/news/donating-the-model-context-protocol-and-establishing-of-the-agentic-ai-foundation, 9. Dezember 2025.
- Greshake, Kai u. a., 2023. Not What You’ve Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection. In: Proceedings of the 16th ACM Workshop on Artificial Intelligence and Security (AISec 2023), S. 79–90. DOI: 10.1145/3605764.3623985.
- Jimenez, Carlos E. u. a., 2024. SWE-bench: Can Language Models Resolve Real-World GitHub Issues? In: Proceedings of the International Conference on Learning Representations (ICLR 2024). arXiv: 2310.06770.
- Meinke, Alexander / Schoen, Bronson / Scheurer, Jérémy / Balesni, Mikita / Shah, Rusheb / Hobbhahn, Marius, 2024. Frontier Models are Capable of In-Context Scheming. Apollo Research. arXiv: 2412.04984.
- Mialon, Grégoire u. a., 2023. GAIA: A Benchmark for General AI Assistants. In: Proceedings of the International Conference on Learning Representations (ICLR 2024). arXiv: 2311.12983.
- Nakano, Reiichiro u. a., 2021. WebGPT: Browser-assisted Question-answering with Human Feedback. OpenAI. arXiv: 2112.09332.
- Rao, Anand S. / Georgeff, Michael P., 1995. BDI Agents: From Theory to Practice. In: Proceedings of the First International Conference on Multi-Agent Systems (ICMAS 1995), S. 312–319.
- Russell, Stuart / Norvig, Peter (1995/2020): Artificial Intelligence: A Modern Approach.
- Russell, Stuart / Norvig, Peter, 2020. Artificial Intelligence: A Modern Approach.
- Schick, Timo u. a., 2023. Toolformer: Language Models Can Teach Themselves to Use Tools. In: Advances in Neural Information Processing Systems 36 (NeurIPS 2023). arXiv: 2302.04761.
- Shinn, Noah / Cassano, Federico / Berman, Edward / Gopinath, Ashwin / Narasimhan, Karthik / Yao, Shunyu, 2023. Reflexion: Language Agents with Verbal Reinforcement Learning. In: Advances in Neural Information Processing Systems 36 (NeurIPS 2023). arXiv: 2303.11366.
- Significant Gravitas, 2023. Auto-GPT: An experimental open-source attempt to make GPT-4 fully autonomous. GitHub Repository, veröffentlicht 30. März 2023.
- Thoppilan, Romal u. a., 2022. LaMDA: Language Models for Dialog Applications. Google. arXiv: 2201.08239.
- Wooldridge, Michael, 2002. An Introduction to MultiAgent Systems. John Wiley & Sons, Chichester.
- Wu, Qingyun u. a., 2024. AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation. In: Proceedings of the First Conference on Language Modeling (COLM 2024). arXiv: 2308.08155.
- Xie, Tianbao u. a., 2024. OSWorld: Benchmarking Multimodal Agents for Open-Ended Tasks in Real Computer Environments. In: Advances in Neural Information Processing Systems 37 (NeurIPS 2024). arXiv: 2404.07972.
- Yao, Shunyu / Zhao, Jeffrey / Yu, Dian / Du, Nan / Shafran, Izhak / Narasimhan, Karthik / Cao, Yuan, 2023. ReAct: Synergizing Reasoning and Acting in Language Models. In: Proceedings of the International Conference on Learning Representations (ICLR 2023). arXiv: 2210.03629.
- Zhou, Shuyan u. a., 2024. WebArena: A Realistic Web Environment for Building Autonomous Agents. In: Proceedings of the International Conference on Learning Representations (ICLR 2024). arXiv: 2307.13854.