Human-in-the-Loop (HITL, deutsch „Mensch in der Schleife“) ist ein Gestaltungsprinzip für automatisierte Systeme: Ein Mensch bleibt in den Ablauf eingebunden und gibt bestimmte Schritte frei, bevor sie ausgeführt werden. Der Begriff beschreibt die Stelle des Menschen im Ablauf, nicht schon die Qualität seiner Kontrolle.
In einfachen Worten
Bei manchen Computersystemen muss ein Mensch mitentscheiden. Erst dann führt das System den nächsten Schritt aus. Dieses Prinzip heißt in der Fachsprache Human-in-the-Loop. Es gibt auch Systeme, die allein handeln, während ein Mensch zusieht und eingreifen kann. Wie viel Gewicht die menschliche Entscheidung hat, hängt von Zeit und Wissen ab. Nur dabeizusitzen reicht nicht für eine echte Kontrolle.
Zusammenfassung
Die Formel unterscheidet, wo der Mensch im Ablauf steht. Wirksam wird sie erst durch die Bedingungen, unter denen er entscheidet: Zeit, Information und die Möglichkeit, die Ausgabe zu verwerfen. Mit der menschlichen Aufsicht teilt das Prinzip das Ziel, unterscheidet sich aber im Zugriff. HITL beschreibt die Stelle im Ablauf, Aufsicht die Pflicht und Fähigkeit, ein System wirksam zu überwachen.
Drei Stellungen im Ablauf
Die Dreiteilung stammt aus der Debatte über unbemannte Waffensysteme. Human Rights Watch hält 2012 fest, dass solche Waffen häufig nach dem Maß menschlicher Beteiligung in drei Kategorien eingeteilt werden (Human Rights Watch 2012):
- Human-in-the-Loop: Das System wählt Ziele aus und setzt Gewalt nur auf menschlichen Befehl ein.
- Human-on-the-Loop: Das System wählt und handelt unter der Aufsicht einer Person, die die Aktionen überstimmen kann.
- Human-out-of-the-Loop: Das System wählt und handelt ohne menschliche Eingabe.
Dieselbe Studie zitiert die US-Luftwaffe: Menschen würden zunehmend nicht mehr „in the loop“, sondern „on the loop“ stehen und die Ausführung bestimmter Entscheidungen überwachen (Human Rights Watch 2012). Das Feld selbst beschreibt der Artikel über autonome Waffensysteme.
Stufen statt Schalter
Parasuraman, Sheridan und Wickens beschreiben Automatisierung 2000 nicht als Alles-oder-nichts-Frage. Sie unterscheiden vier Funktionsklassen: Informationsaufnahme, Informationsanalyse, Entscheidungs- und Handlungsauswahl sowie Handlungsausführung. Innerhalb jeder Klasse kann die Automatisierung von manuell bis vollautomatisch reichen.
Ein System kann daher in einer Funktion hoch automatisiert sein und in einer anderen den Menschen entscheiden lassen (Parasuraman u. a. 2000).
Für KI-Systeme heißt das: „Mensch in der Schleife“ ist je Funktion zu klären, nicht je Produkt. Wer die Auswahl von Kandidaten automatisiert, kann die Freigabe trotzdem dem Menschen überlassen. Wer dagegen die Vorsortierung automatisiert, kann den Menschen faktisch aus der entscheidenden Stelle herausnehmen. In der Diskussion um agentische KI gelten Bestätigungsschritte vor irreversiblen Aktionen als Umsetzung des Prinzips.
Rechtliche Anknüpfung
Die KI-Verordnung verwendet den Begriff nicht, regelt der Sache nach aber, was ein Mensch im Ablauf können muss.
Nach Artikel 14 Absatz 4 sollen die Aufsichtspersonen die Fähigkeiten und Grenzen des Systems verstehen und die Ausgabe richtig interpretieren können. Sie sollen die Ausgabe außer Acht lassen, außer Kraft setzen oder rückgängig machen und das System mit einer „Stopptaste“ unterbrechen können (Europäische Union 2024, Artikel 14 Absatz 4 Buchstaben a, c, d und e).
Der EU AI Act macht daraus eine Bauanforderung an Hochrisiko-Systeme.
Aus dem Datenschutzrecht kommt der verwandte Gedanke des Artikels 22 DSGVO, nicht ausschließlich einer automatisierten Entscheidung unterworfen zu werden.
Grenzen
Formale Beteiligung. Ein Mensch im Ablauf garantiert keine wirksame Kontrolle. Die Verordnung fordert deshalb, dass die Aufsichtspersonen die Ausgabe verstehen und sich einer möglichen Neigung zu übermäßigem Vertrauen bewusst bleiben. Dieser Automation Bias trifft nach dem Überblick von Parasuraman und Manzey Laien wie Fachleute und ließ sich durch Training oder Anweisungen nicht verhindern (Parasuraman/Manzey 2010).
Haftungszuweisung. Ein Mensch im Ablauf kann die Verantwortung tragen, ohne den Fehler abwenden zu können. Diese „Knautschzone“ behandelt der Artikel über die menschliche Aufsicht.
Skalierung. Je höher die Taktzahl, desto weniger Zeit bleibt je Fall. Wo Freigabe zur Formalie wird, verschiebt sich die Wirkung vom Eingriff auf die vorherige Regelsetzung.
Verwandte Begriffe
- Scalable Oversight – Aufsicht über Systeme, deren Ausgaben der Mensch nicht mehr selbst prüfen kann
- Nachvollziehbarkeit – Voraussetzung, damit Freigabe mehr ist als Zustimmung
- Verantwortung – wer bei Fehlern im Ablauf einsteht
- DSGVO – Artikel 22 zu automatisierten Einzelentscheidungen
Quellenangaben
- Europäische Union, 2024. Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz, Artikel 14. In: Amtsblatt der Europäischen Union L, 2024/1689, 12. Juli 2024. https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=OJ:L_202401689, abgerufen am 2. November 2026.
- Human Rights Watch, 2012. Losing Humanity: The Case against Killer Robots. Bericht, November 2012. https://www.hrw.org/sites/default/files/reports/arms1112_ForUpload.pdf, abgerufen am 2. November 2026.
- Parasuraman, Raja / Manzey, Dietrich H., 2010. Complacency and Bias in Human Use of Automation: An Attentional Integration. In: Human Factors 52 (3), S. 381–410. DOI: 10.1177/0018720810376055
- Parasuraman, Raja / Sheridan, Thomas B. / Wickens, Christopher D., 2000. A Model for Types and Levels of Human Interaction with Automation. In: IEEE Transactions on Systems, Man, and Cybernetics – Part A 30 (3), S. 286–297. DOI: 10.1109/3468.844354