Blog

Harness Engineering

Harness Engineering (deutsch wörtlich Geschirr-Konstruktion, passender Agenten-Umfeld-Konstruktion) bezeichnet die seit Februar 2026 in der KI-Industrie als eigenständige Engineering-Disziplin etablierte Praxis, die Umgebung, das Werkzeug-Inventar, die Beschränkungen und die Rückkopplungs-Schleifen, die ein KI-Agenten-System umgeben, systematisch zu gestalten und iterativ zu verbessern – alles außer dem zugrundeliegenden Sprachmodell selbst.

Die formal-Kurzformel der Disziplin lautet Agent = Model + Harness; der Harness ist jener engineered wrapper, der Modell-Aufrufe in beschränkte, zustandsbehaftete, werkzeug-vermittelte Aufgaben-Ausführung verwandelt.

Der Begriff wurde am 5. Februar 2026 in einem Blog-Post von Mitchell Hashimoto (Mitgründer von HashiCorp, Co-Schöpfer von Terraform und Vagrant) geprägt, in dem er seine Praxis beschrieb, bei jedem Agenten-Fehler eine permanente Korrektur in die Agenten-Umgebung einzubauen – dort als fünfte Stufe seines Beitrags mit „Harness Engineering” betitelt.

Innerhalb weniger Wochen veröffentlichten OpenAI (Februar 2026) und Anthropic (November 2025 und März 2026) systematische Engineering-Berichte, die die Idee zu einer formalen Disziplin ausarbeiteten. Stand Mai 2026 ist Harness Engineering methodisch eine der zentralen praktischen Disziplinen in der Entwicklung agentischer KI-Anwendungen und Gegenstand laufender wissenschaftlicher Operationalisierung.

Zusammenfassung

Harness Engineering entstand aus der Beobachtung, dass die Zuverlässigkeit agentischer KI-Anwendungen substantiell weniger vom Sprachmodell selbst abhängt als von der Infrastruktur, die es umgibt.

Während Prompt Engineering sich auf die Optimierung einzelner Modell-Aufrufe und Context Engineering sich auf die Verwaltung des Kontext-Fensters konzentriert, adressiert Harness Engineering die Frage, wie ein Agent über Stunden autonom hunderte Entscheidungen ohne menschliche Aufsicht treffen kann.

Die Hauptthese – als binding constraint thesis in der akademischen Literatur formuliert (Li u. a. 2026) – argumentiert, dass die Performance-Varianz zwischen Frontier-Modellen in Long-Horizon-Aufgaben substantiell stärker durch das Harness als durch das Modell selbst getrieben wird.

Zentrale Komponenten umfassen den Thought-Action-Observation-Loop (TAO/ReAct), Context-Engineering-Pipelines, Tool-Definitionen, Memory-Systeme, State-Persistierung, Error-Recovery, Verifikations-Schleifen, Safety-Enforcement, Lifecycle-Management, Trace-Capture und Evaluations-Harnesses.

Wirkungsmächtige industrielle Implementierungen sind Claude Code (Anthropic, Februar 2025), OpenAI Codex (Februar 2026 – bekannt geworden durch den Bericht, dass ein Drei-Personen-Team in fünf Monaten etwa eine Million Produktions-Code-Zeilen ohne manuelles Codieren ausgeliefert habe), LangChain-Frameworks, Salesforce Agentforce und zahlreiche unternehmensinterne Plattformen.

Begriffsgeschichte

Vorgeschichte: Agentic AI und Codex-Tradition (2022–2025)

Die Vorgeschichte des Begriffs liegt in der Etablierung agentischer KI-Anwendungen ab etwa 2022/2023. ReAct (Yao u. a. ICLR 2023, arXiv 2210.03629) etablierte das Thought-Action-Observation-Reasoning-Schema, das zur Standard-Loop-Struktur agentischer Systeme wurde.

AutoGPT, BabyAGI und vergleichbare Frühphasen-Implementierungen (2023) demonstrierten die Machbarkeit autonomer mehrstufiger Agenten-Workflows, exponierten aber auch substantielle Zuverlässigkeits-Probleme. Computer Use (Anthropic, Oktober 2024) und Claude Code (Februar 2025) markierten den Übergang zu produktiv einsetzbaren agentischen Coding-Werkzeugen.

Eine Schlüssel-Beobachtung kristallisierte sich im Verlauf 2024/2025 in der Engineering-Praxis: Das Modell selbst war zunehmend nicht der primäre Engpass – entscheidend war die Konstruktion der Umgebung, in der das Modell operiert.

Hashimotos Blog-Post (5. Februar 2026)

Am 5. Februar 2026 publizierte Mitchell Hashimoto auf seiner persönlichen Website (mitchellh.com) den Blog-Post „My AI Adoption Journey” zur pragmatischen Adoption von KI-Coding-Agenten.

Hashimoto – Mitgründer von HashiCorp (gemeinsam mit Armon Dadgar 2012), Co-Schöpfer von Terraform und Vagrant, Schöpfer des Terminal-Emulators Ghostty – beschrieb eine Praxis, die er während der Arbeit mit Claude Code und OpenAI Codex entwickelt hatte: Bei jedem Agenten-Fehler engineerte er eine permanente Korrektur in die Umgebung des Agenten – über AGENTS.md-Anweisungen oder über benutzerdefinierte Tools (etwa Screenshots, gefilterte Tests, Verifikations-Skripte). Die fünfte Stufe seines Beitrags trägt den Titel „Harness Engineering”.

Die Pointe seines Blog-Posts, sinngemäß übersetzt: „Das ist der Punkt, an dem ich heute stehe. Ich bemühe mich ernsthaft, jedes Mal wenn ich sehe, dass ein Agent etwas Falsches tut, dies für die Zukunft zu verhindern.” (Original: „This is where I’m at today. I’m making an earnest effort whenever I see an agent do a Bad Thing to prevent it from ever doing that bad thing again.”) Hashimoto argumentierte, dass dies effektiver sei als wiederholtes manuelles Korrigieren derselben Fehler.

OpenAI- und Anthropic-Formalisierung (Februar–März 2026)

Innerhalb weniger Tage nach Hashimotos Post publizierte OpenAI im Februar 2026 einen Engineering-Blog-Post, der die Praxis als Harness Engineering formal benannte. OpenAI berichtete methodisch, dass ein Drei-Personen-Team durch Harness-Engineering-Praktiken in fünf Monaten etwa eine Million Zeilen produktiven Codes ausgeliefert habe, ohne manuell zu codieren – eine Beobachtung, die die methodische Wirkmacht der Praxis empirisch unterstrich.

Anthropic publizierte zwei zusammenhängende Engineering-Berichte: einen im November 2025 (Demystifying Evals for AI Agents, der die Evaluations-Harness-Konzeption einführte) und einen im März 2026 (Harness Design for Long-Running Application Development, der die Multi-Agent-Harness-Architektur dokumentierte).

Anthropic testete eine Drei-Agenten-Harness – Planner, Generator, Evaluator – gegen einen Solo-Agenten auf der Aufgabe, eine 2D-Retro-Game-Engine zu bauen. Der Planner erweiterte einen kurzen Prompt zu einem vollständigen Produkt-Spec; der Generator implementierte Features in Sprints; der Evaluator nutzte Playwright (Microsofts Open-Source-Browser-Automatisierung), um die Anwendung wie ein realer Benutzer zu testen.

Industrieweite Adoption (März–Mai 2026)

In den Folgewochen erschienen wirkungsmächtige Synthese-Arbeiten von zahlreichen Akteuren: Birgitta Bockeler publizierte auf Martin Fowlers Website (martinfowler.com) eine Synthese, die Harness Engineering in drei ineinandergreifende Subsysteme zerlegte – Context Engineering, architektonische Beschränkungen und Entropie-Management.

Red Hat, LangChain, Salesforce, Thoughtworks, HumanLayer, IBM und Google (Agent Development Kit) publizierten eigene Operationalisierungen. Bis April 2026 war der Begriff in der Tech-Industrie breit etabliert.

Akademische Operationalisierung (April–Mai 2026)

Parallel begann die akademische Operationalisierung. Eine Survey-Arbeit Agent Harness Engineering: A Survey (OpenReview eONq7FdiHa, April 2026) auditierte 63 harness-relevante Arbeiten und identifizierte eine substantielle Sichtbarkeits-Lücke zwischen akademischen Papers und öffentlichen Engineering-Notes.

Eine Preprint-Arbeit Harness Engineering for Language Agents: The Harness Layer as Control, Agency, and Runtime (Preprints.org 202603.1756, April 2026) schlug das CAR-Framework (Control, Agency, Runtime) zur Strukturierung der Harness-Layer vor und stellte das Konzept einer HarnessCard als leichtgewichtigen Reporting-Artefakt vor – analog zu Mitchell u. a. Model Cards for Model Reporting (FAT* 2019).

Konzept-Verwandtschaft und Abgrenzung

In der zeitgenössischen Sekundärliteratur wird die Verwandtschaft zu vorhergehenden Engineering-Disziplinen diskutiert.

Prompt Engineering (etwa 2022 etabliert) optimiert einzelne Modell-Aufrufe; Context Engineering (2024–2025) verwaltet das Kontext-Fenster; Harness Engineering (2026) addressiert das gesamte System um den Modell-Aufruf herum. Die Konsens-Charakterisierung lautet: „Wenn du nicht das Modell bist, bist du der Harness.”

Methodische Grundlagen

Agent = Model + Harness

Die Kurzformel der Disziplin. Sie operationalisiert die binding-constraint-These: Die Zuverlässigkeit eines KI-Agenten hängt weniger vom Modell ab als vom umgebenden System.

Thought-Action-Observation-Loop (TAO)

Das Herzstück des Harness – typisch als einfache while-Schleife implementiert, die die Schritte Prompt zusammenbauen → LLM aufrufen → Output parsen → Tool-Calls ausführen → Ergebnisse zurückführen → wiederholen bis fertig durchläuft. Anthropic beschreibt diese Implementierung als „dumme Schleife”, in der die gesamte Intelligenz im Modell selbst liegt.

Context Engineering als Sub-Disziplin

Das Zusammenstellen der Tokens, die das Modell sieht – System-Prompt, Tool-Definitionen, Memory-Files, Konversations-Historie, aktuelle Benutzer-Nachricht. Anthropics Zielsetzung: „Die kleinstmögliche Menge hochsignalhafter Tokens finden, die die Wahrscheinlichkeit des gewünschten Ergebnisses maximiert.”

Native Tool-Calling

Moderne Harnesses verlassen sich auf native Tool-Calling-Mechanismen, bei denen das Modell strukturierte tool_calls-Objekte zurückgibt, statt Frei-Text, der geparst werden muss.

Multi-Agent-Architektur

Eine wirkungsmächtige Operationalisierung: Statt einen Agenten zu überladen, wird die Arbeit auf spezialisierte Agenten verteilt – typisch Planner (Spezifikations-Erweiterung), Generator (Implementation), Evaluator (skeptische Bewertung). Der Evaluator ist kritisch, weil Agenten konsistent ihre eigene Arbeit zu großzügig bewerten – die Trennung von Generation und Evaluation erzeugt eine ehrliche Rückkopplungs-Schleife.

Sprint-Verträge

Anthropics Drei-Agenten-Harness verwendet Sprint-Verträge zwischen Generator und Evaluator – eine geteilte Definition von „fertig”, die vor der Implementierung festgelegt wird.

Mechanische Durchsetzung statt Verhaltens-Vorsatz

Eine Schlüsseleinsicht der frühen Praxis: Dem Modell zu sagen, etwas nicht zu tun, hört auf zu wirken, sobald der Kontext komprimiert wird. Stattdessen werden Verhaltens-Regeln durch mechanische Hooks und deterministische Linters durchgesetzt.

Eval-Harnesses

Eigenständig von der Agenten-Harness ist die Evaluations-Harness – die Infrastruktur zur systematischen Bewertung der Agenten-Performance. Anthropic publizierte hierzu Demystifying Evals for AI Agents (November 2025). Herausforderung: Agenten haben viele mögliche Trajektorien zu Erfolg oder Misserfolg, was klassische Input-Output-Evaluierung ungeeignet macht.

Trace Grading

Eine wirkungsmächtige Evaluations-Technik (OpenAI 2026): Direktes Bewerten von Agenten-Traces – besonders hilfreich für lange mehrstufige Aufgaben, bei denen das Endergebnis allein die Qualität des Prozesses nicht zeigt.

Context Resets und Kompression

Eine Praxis-Erkenntnis: Statt ausschließlich auf Kompression zu vertrauen, werden periodische Context-Resets durchgeführt – neue Client/Context-Sessions mit strukturierten Handoff-Artefakten zur Brücken-Bildung. Kompression bewahrt Kontinuität, eliminiert aber nicht „Context-Anxiety” (Agenten, die vorzeitig abschließen, wenn der Kontext sich füllt).

Entropie-Management

Birgitta Bockelers (martinfowler.com) dritte Subsystem-Kategorie: Periodische Agenten, die Dokumentations-Drift reparieren – eine Antwort auf die Beobachtung, dass agentisch verwaltete Codebases über Zeit Inkonsistenzen akkumulieren.

Anwendungsfelder

Autonome Coding-Agenten

Quantitativ wichtigste Anwendung. Claude Code, OpenAI Codex, Cursor, Devin (Cognition AI), Aider und vergleichbare Werkzeuge sind von Harness-Engineering-Praktiken geprägt. OpenAIs Codex-Beispiel (eine Million Zeilen Produktions-Code in fünf Monaten durch ein Drei-Personen-Team) wird als Schlüssel-Demonstration zitiert.

Customer-Operations und Sales

Anwendung in mehrstufigen Kunden-Interaktionen, Sales-Workflows und Support-Pipelines. Salesforce Agentforce ist ein wirkungsmächtiges Beispiel.

Wissensarbeit und Research

Beratungs-, Anwalts- und Finanz-Research-Workflows, in denen umfangreiche Dokument-Sammlungen über mehrere Schritte verarbeitet werden müssen.

Sicherheits- und Compliance-Anwendungen

Substantielle Anwendung in regulierten Industrien, in denen Audit-Trails, Trace-Capture und deterministische Verifikations-Schleifen zentrale Anforderungen sind.

Wissenschaftliche Anwendungen

In wissenschaftlichen Workflows (Literatur-Review, Daten-Analyse, Experimental-Design) zunehmend Anwendung von harness-engineerten Agenten.

Multi-Agent-Frameworks

Frameworks wie LangChain, LangGraph, Microsoft AutoGen, Google Agent Development Kit (ADK), CrewAI, OpenAI Agents SDK operationalisieren Harness-Engineering-Patterns als wiederverwendbare Komponenten.

Kontroversen und Kritik

Harness vs. Model – binding-constraint-These: Die zentrale Auseinandersetzung. Befürworter:innen der binding-constraint-These (Li u. a. 2026, OpenAI, Anthropic) argumentieren, dass Frontier-Modell-Verbesserungen zunehmend marginale Erträge liefern, während Harness-Investitionen substantielle Performance-Gewinne erzeugen.

Kritiker:innen argumentieren, dass diese These methodisch das Modell unterbewertet und dass Harness-Engineering bei besseren Modellen weniger relevant wird – eine empirisch noch nicht abschließend geklärte Frage.

Benchmark-Variabilität: Eine wichtige Folge-Beobachtung: Berichtete Agenten-Gewinne in Benchmarks (SWE-bench, AgentBench u. a.) sind teils Harness-sensitiv statt rein modell-getrieben. Dies wirft Fragen für Modell-Vergleiche auf und motivierte die Vorschläge für HarnessCards (Li u. a. 2026).

Sichtbarkeits-Gap zwischen Industrie und Akademie: Die Survey-Arbeit Agent Harness Engineering (April 2026) dokumentiert , dass die wirkungsmächtigsten Engineering-Praktiken in industriellen Blogs und Engineering-Notes publiziert werden, während akademische Papers verzögert reagieren. Dies erzeugt ein Reproduzierbarkeits-Problem.

Black-Box-Charakter und Audit-Probleme: Komplexe Harness-Stacks erzeugen Schwierigkeiten bei der Auditierbarkeit. Wenn ein Agent eine problematische Entscheidung trifft, ist oft unklar, ob die Ursache im Modell, im Context-Stack, in der Tool-Definition oder in einer Beschränkung liegt.

Vendor-Lock-in-Risiken: Harness-spezifische Investitionen (Tool-Definitionen, Memory-Schemata, Eval-Pipelines) sind teils anbieter-spezifisch. Dies wirft Migrations-Fragen auf, insbesondere bei Wechsel zwischen Modell-Anbietern.

Beschäftigungs- und Arbeitsplatz-Folgen: Harness Engineering ermöglicht substantielle Code- und Wissensarbeit-Automatisierung. Die Diskussion der Beschäftigungs-Folgen ist Gegenstand laufender Auseinandersetzung – verbunden mit der breiteren Tokenmaxxing-Debatte.

Akademische Lizenz und Marketing-Etablierung: Wie bei Physical AI wird die Frage diskutiert, ob die rasche Begriffs-Etablierung primär Marketing-Funktion erfüllt oder substantielle wissenschaftliche Klärung leistet.

Stand 2025/2026

Stand Mai 2026 ist Harness Engineering methodisch eine der zentralen praktischen Disziplinen in der Entwicklung agentischer KI-Anwendungen. Die Operationalisierung hat sich substantiell ausdifferenziert – von einer einfachen Engineering-Praxis (Hashimoto Februar 2026) zu einem strukturierten Forschungs-Feld mit eigenen Konferenz-Beiträgen, Survey-Arbeiten und akademischen Frameworks (CAR, HarnessCard).

Forschungslinien umfassen die Quantifizierung der binding-constraint-These, die Standardisierung von Harness-Reporting, die Verbindung zu Reasoning-Models und Foundation-Models, die Verbesserung der Sim-to-Real- und Multi-Agent-Coordination, sowie die Klärung der Verbindung zu Mechanistic Interpretability und AI-Safety-Forschung.

Industriell zentrale Plattformen und Frameworks umfassen Claude Code, OpenAI Codex, LangChain/LangGraph, Microsoft AutoGen, Google ADK, Salesforce Agentforce, CrewAI, OpenAI Agents SDK und zahlreiche unternehmensinterne Implementierungen.

Offene Fragen umfassen die langfristige Bewertung der binding-constraint-These (verlieren Harnesses Relevanz, wenn Modelle besser werden?), die regulatorische Klärung von Audit-Anforderungen für agentische Systeme, die Verbindung zu Beschäftigungs- und Arbeitsplatz-Diskussion, und die Standardisierung über Anbieter hinweg.

Verwandte Begriffe

Quellenangaben

  1. Anonymous, 2026. Harness Engineering for Language Agents: The Harness Layer as Control, Agency, and Runtime. Preprints.org 202603.1756, April 2026.
  2. Anthropic, 2026. Harness Design for Long-Running Application Development. anthropic.com/research, März 2026.
  3. Anthropic, 2025. Demystifying Evals for AI Agents. anthropic.com/research, November 2025.
  4. Anthropic, 2024. Introducing Computer Use. anthropic.com/news, 22. Oktober 2024.
  5. Anthropic, 2025. Claude 3.7 Sonnet and Claude Code. anthropic.com/news, 24. Februar 2025.
  6. Awesome Harness Engineering (Curated Resource List), 2026. Tools, Patterns, Evals, Memory, MCP, Permissions, Observability, Orchestration. github.com/ai-boost/awesome-harness-engineering.
  7. Bockeler, Birgitta, 2026. Harness Engineering – First Thoughts. martinfowler.com, 17. Februar 2026.
  8. Chawla, Avi, 2026. The Anatomy of an Agent Harness. Daily Dose of Data Science Blog, 6. April 2026.
  9. DEV Community (Truong, P.), 2026. Harness Engineering: The Emerging Discipline of Making AI Agents Reliable. dev.to, 26. April 2026.
  10. Hashimoto, Mitchell, 2026. My AI Adoption Journey. mitchellh.com, 5. Februar 2026.
  11. Li, Junjie / Xiao, Xi / Zhang, Yunbei u. a., 2026. Agent Harness Engineering: A Survey.
  12. Milvus Blog, 2026. What Is Harness Engineering for AI Agents? milvus.io, 8. April 2026.
  13. Mitchell, Margaret / Wu, Simone / Zaldivar, Andrew / Barnes, Parker / Vasserman, Lucy / Hutchinson, Ben / Spitzer, Elena / Raji, Inioluwa Deborah / Gebru, Timnit, 2019. Model Cards for Model Reporting. In: Proceedings of the Conference on Fairness, Accountability, and Transparency (FAT* 2019), S. 220–229. DOI: 10.1145/3287560.3287596.
  14. OpenAI, 2026. Harness Engineering: Designing the Environment Around Agents. openai.com/blog, Februar 2026.
  15. Tokita, Tom, 2026. I Didn’t Know I Was Doing Harness Engineering. dev.to, 13. Mai 2026.
  16. Yao, Shunyu / Zhao, Jeffrey / Yu, Dian / Du, Nan / Shafran, Izhak / Narasimhan, Karthik / Cao, Yuan, 2023. ReAct: Synergizing Reasoning and Acting in Language Models. In: Proceedings of the International Conference on Learning Representations (ICLR 2023). arXiv: 2210.03629.

← Zurück zur Lexikon-Übersicht