Woran man Feigenblatt-HITL erkennt
Man nimmt den alten Prozess, setzt eine KI hinein, hängt am Ende einen Menschen dran, der abnickt — und nennt das Ganze „verantwortungsvolle KI". Drei Symptome, die in Projekten immer wieder auftauchen:
1. Der Mensch prüft, was er nicht verstehen kann. Das System liefert ein Ergebnis ohne Begründung, ohne Datenbasis, ohne Alternativen. Der „Prüfer" kann nur glauben oder raten. Das ist keine Aufsicht — das ist Abnick-Theater.
2. Die Freigabe ist eine Unterlassung. „Wird ausgeführt, wenn Sie nicht innerhalb von 24 Stunden widersprechen." Wer so baut, will keinen Menschen im Loop. Er will einen Menschen im Protokoll.
3. Der Loop ist statisch. Entweder wird alles geprüft (und das System erstickt an der Prüflast) oder nichts (und der Loop existiert nur auf der Folie). Beides ist Design-Verweigerung.
Wenn eines dieser Symptome auf Ihr System zutrifft, haben die Kritiker recht — bei Ihnen.
Was echtes HITL von der Checkbox unterscheidet
Der Unterschied liegt in einer einzigen Frage: Wurde der Prozess für die Zusammenarbeit von Mensch und KI neu designt — oder wurde die KI in den alten Prozess gestopft?
Echtes HITL bedeutet Redesign:
- Entscheidungspunkte explizit machen. Welche Schritte sind Vorbereitung, welche sind Entscheidung? Vor dem KI-Einsatz haben die wenigsten Organisationen diese Landkarte. Sie zu zeichnen ist der eigentliche Wert des Projekts — die IST-Aufnahme, über die ich in Erst das Doing, dann das Tool schreibe.
- Begründungspflicht für die Maschine. Jeder Vorschlag kommt mit Herleitung. Nicht als Feature, sondern als Voraussetzung dafür, dass Freigabe überhaupt möglich ist.
- Aktive Freigabe bei kritischen Aktionen. Versand, Bescheid, Buchung, Zahlung: aktives Go, kein Opt-out.
- Wachsende Autonomie. Der Freigabe-Radius entwickelt sich mit nachgewiesener Qualität — eng am Anfang, breiter mit jeder dokumentierten korrekten Entscheidung, jederzeit zurücknehmbar. Das ist der Kern des Ausbildungsprinzips.
So gebaut, ist HITL nicht die Bremse des Redesigns. Es ist das Redesign.
Der Effizienz-Einwand — und warum er umgekehrt stimmt
„Aber der Mensch im Loop macht alles langsamer."
Auf den einzelnen Vorgang bezogen: manchmal, um Sekunden. Auf das System bezogen: nein — aus drei Gründen.
Erstens sinkt die Fehlerfolgekosten-Kurve. Ein falscher Bescheid, eine falsche Bestellung, eine falsche Auskunft kosten ein Vielfaches der Freigabe-Sekunden.
Zweitens steigt die Nutzung. Systeme, denen Mitarbeitende trauen, werden eingesetzt statt umgangen. Schatten-Prozesse sind die teuerste Form der Ineffizienz.
Drittens wird der Loop mit der Zeit schlanker — nicht weil man die Kontrolle abschafft, sondern weil man sie dorthin verlagert, wo sie Wirkung hat: auf die kritischen Fälle, per Stichprobe, per Schwellenwert.
Die ehrliche Zusammenfassung
Die HITL-Kritiker leisten dem Thema einen Dienst: Sie zwingen alle, die den Begriff benutzen, zu zeigen, was dahintersteckt.
Wer HITL als Checkbox führt, sollte den Begriff streichen — er ist dann tatsächlich eine Komfortphrase.
Wer HITL als Architektur baut — Entscheidungspunkte, Begründungspflicht, aktive Freigabe, wachsende Autonomie, lückenlose Dokumentation — der hat nicht weniger Transformation gewagt, sondern mehr: Er hat den Prozess wirklich neu gedacht, statt nur ein Tool auszurollen.
Der Loop ist eine Menschen-Frage, lange bevor er eine Technik-Frage ist.
Quellen und weiterführende Links
Alle Links geprüft am 4. August 2026. Externe Inhalte können sich ändern.