Human in the Loop: Wer freigeben, urteilen und haften muss
KI-Workflows brauchen klare menschliche Entscheidungspunkte. Wo Agenturen und Marketing-Teams Verantwortung nicht delegieren können.
Wer KI-gestützte Workflows einführt, merkt schnell: Die Technik ist selten das eigentliche Problem. Schwieriger ist die Frage, an welchen Punkten ein Mensch das Ergebnis abnehmen, beurteilen oder freigeben muss — und wer das ist. Viele Teams überspringen diese Frage, weil die Automatisierung so reibungslos läuft. Genau das ist das Risiko. Die Maschine produziert ohne Pause; Verantwortung entsteht trotzdem nicht automatisch.
Der Begriff „Human in the Loop" klingt nach technischer Architektur. Er ist vor allem eine Governance-Entscheidung. Er legt fest, wo menschliches Urteil Pflicht ist — nicht optional, nicht nachgelagert, nicht delegierbar. Für Agenturen und Marketing-Teams, die KI bereits produktiv nutzen, ist das keine theoretische Überlegung mehr. Sie müssen diese Entscheidung für jeden relevanten Workflow treffen und dokumentieren.
Was der Begriff eigentlich meint — und was nicht
„Human in the Loop" beschreibt einen Designprinzip: Menschen prüfen, entscheiden oder genehmigen an definierten Stellen innerhalb eines automatisierten Prozesses. Das Gegenteil — „Human on the Loop" — bedeutet, Menschen beobachten den Prozess, können aber eingreifen. „Human out of the Loop" heißt: vollständige Autonomie des Systems.
In der Praxis von Agenturen und Marketing-Organisationen laufen die meisten Workflows irgendwo zwischen diesen Polen. Die Frage ist nicht, ob überhaupt Automatisierung stattfindet — das ist längst Realität. Die Frage ist, welche Entscheidungspunkte explizit menschlich bleiben müssen, weil dort Qualität, rechtliche Verantwortung oder Mandatsvertrauen auf dem Spiel stehen.
Der EU AI Act unterscheidet KI-Systeme nach Risikostufen und schreibt für Hochrisikoanwendungen menschliche Aufsicht explizit vor. Agenturen, die für Kunden aus regulierten Branchen arbeiten — Finanz, Pharma, öffentliche Verwaltung — betreffen diese Anforderungen direkt, oft ohne dass sie es als solches benennen.
Wo menschliches Urteil nicht ersetzbar ist
Es gibt Entscheidungspunkte, an denen Automatisierung formal möglich ist, aber Verantwortung nicht übertragbar bleibt. Drei davon sind in Agentur- und Marketing-Kontexten besonders relevant:
Tonalität und Mandatskonformität. KI-Systeme generieren Texte, die grammatisch korrekt und stilistisch plausibel sind. Sie treffen keine Aussage darüber, ob ein Inhalt zur Positionierung des Kunden passt, ob er rechtlich unbedenklich ist oder ob er mit dem vereinbarten Kommunikationsrahmen übereinstimmt. Diese Beurteilung gehört zum Kernauftrag einer Agentur — sie ist nicht automatisierbar, weil sie Kontextwissen voraussetzt, das außerhalb des Systems liegt.
Rechtlich relevante Inhalte. Werbliche Aussagen, Claims, Preiskommunikation, Disclaimers in regulierten Kategorien: Wenn ein System diese Inhalte generiert oder verändert, trägt die Agentur — nicht das Tool — die rechtliche Verantwortung gegenüber dem Kunden und Dritten. Die Freigabe durch eine qualifizierte Person ist kein bürokratischer Zwischenschritt, sondern haftungsrelevant.
Strategische Richtungsentscheidungen. Welche Botschaft läuft, welche nicht. Welcher A/B-Test als Sieger gilt und warum. Welche Kampagnenanpassung dem Kunden empfohlen wird. Algorithmen optimieren nach definierten Zielen — aber ob diese Ziele zur Markenstrategie passen und ob die Empfehlung im Gespräch mit dem Kunden vertretbar ist, bleibt eine menschliche Beurteilungsaufgabe.
Qualitätsgates: Wie man Freigabepunkte strukturiert
Ein funktionierender Human-in-the-Loop-Prozess braucht keine komplexe Infrastruktur. Er braucht Klarheit über drei Fragen: Was wird freigegeben? Von wem? Nach welchem Maßstab?
Qualitätsgates sind definierte Prüfpunkte in einem Workflow, an denen eine Person mit Entscheidungsbefugnis explizit abnimmt. Das klingt trivial. In der Praxis scheitert es regelmäßig daran, dass unklar ist, wer diese Person ist — oder dass niemand formell zuständig gemacht wurde, weil man annahm, das System erledige das schon.
Konkret sieht das für Content-Produktionsprozesse oft so aus: Generierung → interne Prüfung auf Sachfehler und Tonalität → Freigabe durch verantwortliche Redaktion → Kundenfreigabe (bei mandatspflichtigen Themen) → Veröffentlichung. Jeder Schritt hat einen Eigentümer. Jeder Schritt ist dokumentiert.
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) empfiehlt in seinen Orientierungshilfen für KI-Systeme explizit die Dokumentation von Entscheidungspunkten und die Nachvollziehbarkeit menschlicher Kontrolle. Das ist keine Empfehlung für Konzerne — das ist Grundlage für jeden, der KI-generierte Inhalte produktiv verantwortet.
Verantwortung lässt sich nicht automatisieren
Ein häufiger Denkfehler: Wenn ein KI-System gut genug ist, braucht man keine menschliche Kontrolle mehr. Das verwechselt Qualität mit Verantwortung. Selbst wenn ein System in 99 von 100 Fällen das richtige Ergebnis produziert — die Verantwortung für dieses Ergebnis trägt nicht das System, sondern die Organisation, die es einsetzt.
Das hat praktische Konsequenzen. Eine Agentur, die automatisiert Social-Media-Inhalte für einen Kunden ausspielt, ohne Freigabeprozess, ohne definierten Prüfpunkt, ohne dokumentierte Zuständigkeit, hat kein Workflow-Problem. Sie hat ein Governance-Problem — und im Schadensfall ein Haftungsproblem.
KI als Produktionslogik beginnt genau hier: nicht mit dem Tool, sondern mit der Entscheidung, welche Kontrollpunkte unverzichtbar sind. Wer das überspringt, baut Effizienz auf instabilem Fundament.
Der Gedanke, dass Führung unter KI-Bedingungen vor allem eine Frage der Haltung ist — nicht des Toolsets — greift auch hier: Führen unter KI-Bedingungen bedeutet, Verantwortungsstrukturen aktiv zu gestalten, nicht passiv zu beobachten, was die Automatisierung produziert.
Was Agenturen jetzt konkret tun können
Drei Maßnahmen, die unmittelbar umsetzbar sind, ohne umfangreiche Infrastruktur:
Workflow-Mapping mit expliziten Freigabepunkten. Für jeden KI-gestützten Prozess: Wo ist ein menschlicher Entscheid zwingend? Wer ist zuständig? Was ist der Prüfmaßstab? Das ist keine Projektmanagement-Übung, sondern Betriebsvoraussetzung.
Klare Ownership statt kollektiver Verantwortung. Wenn alle freigeben können, gibt niemand wirklich frei. Ein Qualitätsgate braucht eine namentlich benannte Person mit der Befugnis, auch abzulehnen. Das ist unbequem und notwendig.
Audit-Trails als Standard. Welche Version wurde von wem wann freigegeben? Das muss nicht aufwendig sein — aber es muss existieren. Nicht für den Regelfall, sondern für den Ausnahmefall, der früher oder später eintritt.
Human in the Loop ist keine Bremse auf Automatisierung. Es ist die Bedingung, unter der Automatisierung verantwortungsvoll skaliert werden kann. Wer diese Struktur baut, gewinnt Geschwindigkeit ohne Kontrollverlust. Wer sie weglässt, transferiert Risiko still an die Organisation — und bemerkt es erst, wenn etwas schiefläuft.