Tool Use

Tool Use bezeichnet die Fähigkeit eines Sprachmodells, während der Erzeugung einer Antwort gezielt externe Funktionen, APIs oder Programme aufzurufen – statt ausschließlich aus dem eigenen Kontext und den während des Trainings erworbenen Gewichten zu antworten.

Zusammenfassung

Ohne Tool Use ist ein Sprachmodell auf das beschränkt, was in seinem Kontextfenster steht und was während des Trainings in seine Gewichte eingegangen ist – beides ist zum Zeitpunkt der Antwort bereits abgeschlossen.

Tool Use durchbricht diese Geschlossenheit: Das Modell erzeugt einen strukturierten Aufruf an eine externe Funktion (einen Taschenrechner, eine Suchmaschine, eine Datenbankabfrage, eine beliebige API), erhält deren Ergebnis zurück und verarbeitet es im weiteren Antworttext.

Die Begriffsgeschichte verläuft in drei Etappen. Frühe Forschungsarbeiten zeigten ab 2022/2023, dass Modelle selbstständig lernen können, wann und wie sie ein Werkzeug einsetzen (Toolformer, ReAct).

Ab Mitte 2023 machten die Frontier-Anbieter daraus eine standardisierte API-Funktion (Function Calling, Tool Use) – jeweils in herstellereigener, nicht kompatibler Form. Ab Ende 2024 setzte sich mit dem Model Context Protocol (MCP) ein herstellerübergreifender Standard durch, der die Werkzeuganbindung selbst von den einzelnen Modell-APIs entkoppelt.

Begriffsgeschichte

Vorläufer: Werkzeugnutzung ohne strukturierte Schnittstelle (2021–2022)

Bevor Sprachmodelle strukturierte Funktionsaufrufe erzeugten, gab es Systeme, die Werkzeuge über eigens gebaute Umgebungen bedienten. WebGPT (Nakano u. a. 2021) trainierte GPT-3 darauf, eine textbasierte Browser-Umgebung für Websuche und Zitation zu bedienen. LaMDA (Thoppilan u. a. 2022) band ein Toolset für Faktencheck und Übersetzung an.

Einen anderen Weg ging das Start-up Adept mit ACT-1, vorgestellt am 14. September 2022 (Adept 2022). Das Modell bediente über eine Chrome-Erweiterung einen echten Browser: Es beobachtete, was auf der Seite geschah, und erzeugte Klicks, Tastatureingaben und Scrollbewegungen. Damit nahm ACT-1 vorweg, was ab Oktober 2024 unter dem Namen Computer Use zur Produktkategorie wurde.

Diese Systeme demonstrierten, dass die Verbindung von Sprachmodell und externem Werkzeug grundsätzlich funktioniert. Die Werkzeugauswahl war jedoch fest verdrahtet, nicht vom Modell selbst gelernt.

ReAct und Toolformer: das Modell entscheidet selbst (2022–2023)

Zwei Arbeiten begründeten die heute kanonische Methodik.

ReAct: Synergizing Reasoning and Acting in Language Models legten Shunyu Yao und Kollegen im Oktober 2022 als Vorabdruck vor; die Konferenzfassung erschien 2023 auf der ICLR (Yao u. a. 2023). Ihr Beitrag ist das Think-Act-Observe-Muster: Das Modell wechselt zwischen Reasoning-Schritten – internen Überlegungen in natürlicher Sprache – und Action-Schritten, in denen es ein Werkzeug aufruft.

Die Beobachtung aus der Aktion fließt in die nächste Überlegung ein. Damit lieferte ReAct die Kontrollstruktur: wann ein Werkzeug aufgerufen wird und wie das Ergebnis zurück in die Erzeugung eingebettet wird.

Toolformer: Language Models Can Teach Themselves to Use Tools stammt von einer Gruppe um Timo Schick bei Meta AI und erschien im Februar 2023 (Schick u. a. 2023). Ihr Befund: Ein Modell lernt selbstüberwacht, an welchen Stellen im Text ein Aufruf an einen Taschenrechner, ein Frage-Antwort-System, eine Suchmaschine, einen Kalender oder ein Übersetzungswerkzeug den weiteren Text verbessert – ohne dass Menschen dafür Beispiele annotieren müssen.

ReAct beantwortete damit die Frage der Steuerung, Toolformer die Frage des Erlernens; beide zusammen bildeten die konzeptionelle Grundlage der folgenden API-Funktionen.

Strukturierte APIs: Function Calling und Tool Use (2023–2024)

Im Verlauf der Jahre 2023 und 2024 machten die Frontier-Anbieter aus der Forschungsidee eine Standardfunktion ihrer Modell-APIs.

OpenAI führte Function Calling im Juni 2023 ein. Entwickler:innen übergeben eine Liste verfügbarer Funktionen samt JSON-Schema; das Modell entscheidet, ob und mit welchen Parametern es eine davon aufruft, und die Anwendung führt den eigentlichen Aufruf selbst aus.

Anthropic veröffentlichte eine vergleichbare Funktion unter dem Namen Tool Use zunächst im November 2023 als Beta-Funktion mit Claude 2.1 und stellte sie im Mai 2024 für die gesamte Claude-3-Modellfamilie allgemein verfügbar. Google ergänzte Function Calling in Gemini.

Diese APIs teilten dieselbe Grundidee – strukturierte JSON-Aufrufe statt Freitext –, waren aber jeweils herstellerspezifisch: Ein für OpenAI geschriebenes Funktionsschema ließ sich nicht ohne Anpassung gegen Claude oder Gemini verwenden.

Parallel entstanden Open-Source-Frameworks wie LangChain (Harrison Chase, Oktober 2022) und LlamaIndex (Jerry Liu, November 2022), die diese Mechanik hinter einer einheitlichen Programmierschnittstelle abstrahierten, ohne das zugrunde liegende Problem – fehlende Standardisierung zwischen den Modell-Anbietern – zu lösen.

Die kombinatorische Kehrseite zeigte sich zusätzlich bei Plugin-Ökosystemen wie ChatGPT Plugins (März 2023, von OpenAI im April 2024 eingestellt): Jede Verbindung zwischen einem Modell-Anbieter und einem Drittanbieter-Dienst erforderte eigene Integrationsarbeit auf beiden Seiten.

Model Context Protocol: der herstellerübergreifende Standard (2024–2026)

Am 25. November 2024 veröffentlichte Anthropic das Model Context Protocol (MCP) als offenen Standard. Es geht das Problem an der Wurzel an: Statt dass jede Anwendung jeden Werkzeugaufruf für jeden Modell-Anbieter neu implementiert, definiert MCP ein einheitliches, JSON-RPC-2.0-basiertes Protokoll. Auf der einen Seite stehen Server, die Werkzeuge, Ressourcen und Prompts bereitstellen, auf der anderen Clients – die LLM-Anwendungen, die sie nutzen.

OpenAI übernahm MCP im März 2025 in ChatGPT Desktop, die Responses API und das Agents SDK; Google DeepMind kündigte im April 2025 Unterstützung in Gemini-Produkten an. Microsoft, Block, Sourcegraph und zahlreiche weitere Unternehmen folgten.

Am 9. Dezember 2025 übertrug Anthropic die Trägerschaft des Standards an die neu gegründete Agentic AI Foundation, einen directed fund der Linux Foundation. Damit ist MCP Stand 2025/2026 zum De-facto-Standard für die Anbindung von LLMs an externe Werkzeuge geworden. Function Calling und Tool Use bleiben als modellinterne Mechanik bestehen, während MCP die Schicht darüber vereinheitlicht, über die Werkzeuge beschrieben und angeboten werden.

Methodische Grundlagen

Technisch läuft ein Tool-Use-Aufruf in vier Schritten ab, unabhängig davon, ob er über Function Calling, Claudes Tool Use oder MCP vermittelt wird:

Beschreibung. Der Anwendung übergibt dem Modell eine Liste verfügbarer Werkzeuge, meist als JSON-Schema mit Name, Beschreibung und erwarteten Parametern.
Entscheidung und Aufruf. Das Modell entscheidet anhand des Gesprächskontexts, ob ein Werkzeug benötigt wird, und erzeugt – statt freien Textes – einen strukturierten Aufruf mit Werkzeugname und Parametern.
Ausführung. Die Anwendung (nicht das Modell selbst) führt den eigentlichen Aufruf aus – etwa eine Datenbankabfrage oder einen API-Request – und fängt Fehler ab.
Rückgabe und Fortsetzung. Das Ergebnis wird dem Modell als weiteres Kontextelement zurückgegeben, das die Antwort damit fortsetzt oder einen weiteren Aufruf auslöst.

Das Modell erzeugt dabei nie selbst Code, der auf einem System ausgeführt wird – es erzeugt eine Beschreibung dessen, was aufgerufen werden soll.

Diese Trennung ist zugleich der Ansatzpunkt für Prompt Injection: Da die Beobachtung aus Schritt 4 nicht vom Modell selbst stammt, sondern aus einer möglicherweise kompromittierten externen Quelle, kann sie Anweisungen enthalten, die das Modell fälschlich als legitime Nutzeranweisung behandelt.

Anwendungsfelder

Tool Use ist die technische Grundvoraussetzung für Agentic AI im engeren Sinn: Ein Modell, das keine Werkzeuge aufrufen kann, kann keine mehrstufigen Aufgaben mit Weltbezug ausführen, sondern nur Text erzeugen.

Direkte Anwendungsfelder sind Websuche und Recherche, Code-Ausführung, Datenbankabfragen sowie die Steuerung von Drittanbieter-Diensten – Kalender, E-Mail, Projektmanagement-Software. Als eigener Erweiterungsschritt ab 2024 kommt Computer Use hinzu, bei dem das Werkzeug selbst die grafische Benutzeroberfläche eines Rechners ist. In Multi-Agent-Systemen verfügt typischerweise jede Instanz über ein eigenes, aufgabenspezifisches Werkzeug-Repertoire.

Kritik

Zuverlässigkeit statt Fähigkeit. Dass ein Modell einen Werkzeugaufruf grammatisch korrekt erzeugen kann, sagt wenig darüber, ob es das richtige Werkzeug zum richtigen Zeitpunkt mit den richtigen Parametern wählt. Frühe agentische Systeme wie AutoGPT (März 2023) scheiterten regelmäßig an genau dieser Lücke – nicht an der Schnittstelle, sondern an der Entscheidung, die Ergebnisse eines Aufrufs korrekt zu bewerten und darauf angemessen zu reagieren.

Sicherheitsfläche. Jeder zusätzliche Werkzeugaufruf vergrößert die Angriffsfläche eines Systems. Werkzeuge mit Schreibzugriff (Dateisystem, Zahlungsfunktionen, Code-Ausführung) verwandeln einen Sprachfehler des Modells oder eine erfolgreiche Prompt Injection in eine reale Handlung mit realen Folgen – ein Risiko, das rein textgenerierende Modelle nicht kennen.

Fragmentierung vor MCP. Vor der Durchsetzung eines gemeinsamen Standards band jede Integration Entwicklungsarbeit an einen einzelnen Modell-Anbieter. Ob MCP dieses Problem dauerhaft löst oder lediglich auf eine andere Ebene verschiebt – etwa auf die Frage, wer die Sicherheit und Vertrauenswürdigkeit einzelner MCP-Server prüft –, ist Stand 2025/2026 noch nicht abschließend beantwortet.

Quellenangaben

Adept, 2022. ACT-1: Transformer for Actions. adept.ai/blog/act-1, 14. September 2022.
Nakano, Reiichiro u. a., 2021. WebGPT: Browser-assisted Question-answering with Human Feedback. OpenAI. arXiv: 2112.09332.
Schick, Timo / Dwivedi-Yu, Jane / Dessì, Roberto / Raileanu, Roberta / Lomeli, Maria / Zettlemoyer, Luke / Cancedda, Nicola / Scialom, Thomas, 2023. Toolformer: Language Models Can Teach Themselves to Use Tools. In: Advances in Neural Information Processing Systems 36 (NeurIPS 2023). arXiv: 2302.04761.
Thoppilan, Romal u. a., 2022. LaMDA: Language Models for Dialog Applications. Google. arXiv: 2201.08239.
Yao, Shunyu / Zhao, Jeffrey / Yu, Dian / Du, Nan / Shafran, Izhak / Narasimhan, Karthik / Cao, Yuan, 2023. ReAct: Synergizing Reasoning and Acting in Language Models. In: Proceedings of the International Conference on Learning Representations (ICLR 2023). arXiv: 2210.03629.

← Zurück zur Lexikon-Übersicht