Human in the Loop

KI-Systeme liefern beeindruckende Ergebnisse, machen aber Fehler, etwa durch Halluzinationen oder fehlenden Kontext. Die Verantwortung für Entscheidungen bleibt beim Unternehmen. Human in the Loop legt deshalb fest, an welchen Stellen ein Mensch eingebunden ist, bevor ein Ergebnis Wirkung entfaltet. Besonders wichtig wird das Prinzip, wenn KI-Agenten selbstständig handeln, also E-Mails versenden, Daten ändern oder Bestellungen auslösen.

Wie funktioniert Human in the Loop?

Der Ablauf enthält definierte Prüfpunkte: Das System bereitet ein Ergebnis vor, ein Mensch prüft es und gibt es frei, korrigiert oder verwirft es. Korrekturen können zurückfließen und das System verbessern.

Üblich ist eine Abstufung nach dem Grad der Einbindung:

• Human in the Loop: Jede relevante Entscheidung braucht eine menschliche Freigabe.
• Human on the Loop: Das System arbeitet selbstständig, ein Mensch überwacht und kann eingreifen.
• Human out of the Loop: Der Ablauf ist vollständig automatisiert, im Einzelfall greift niemand ein.

Welche Stufe passt, hängt vom Risiko ab. Eine interne Notiz braucht kaum Kontrolle, Zahlungen, Kundenkommunikation oder Entscheidungen über Personen dagegen schon. Oft wird zusätzlich über Schwellenwerte gesteuert: Nur Fälle, in denen das System eine geringe Sicherheit meldet, landen bei einem Menschen.

Typische Beispiele

• Eine KI entwirft die Antwort auf ein Kundenticket, eine Mitarbeiterin oder ein Mitarbeiter prüft und versendet sie.
• Bei der automatischen Rechnungserfassung werden unsicher erkannte Felder zur manuellen Kontrolle markiert.
• Ein KI-Agent schlägt vor, ein Benutzerkonto zu deaktivieren, und führt die Aktion erst nach Bestätigung aus.
• Fachleute korrigieren Zuordnungen eines Klassifikationsmodells, die Korrekturen dienen als neue Trainingsbeispiele.

Worauf Unternehmen achten sollten

• Je Prozess festlegen, welche Aktionen eine Freigabe brauchen, insbesondere unumkehrbare.
• Die Prüfung praktikabel gestalten: Quellen anzeigen, Änderungen hervorheben, realistische Mengen einplanen, sonst wird die Freigabe zum bloßen Durchklicken. Methoden der Explainable AI helfen dabei.
• Freigaben protokollieren, damit nachvollziehbar bleibt, wer was bestätigt hat.
• Sicherstellen, dass Prüfende fachlich kompetent sind und tatsächlich ablehnen dürfen.
• Regulatorische Vorgaben beachten: Der EU AI Act verlangt etwa für Hochrisiko-Systeme eine wirksame menschliche Aufsicht.

Abgrenzung

Das Vier-Augen-Prinzip verlangt, dass zwei Personen eine Entscheidung prüfen. Human in the Loop überträgt diesen Gedanken auf das Zusammenspiel von Mensch und Maschine: Die KI bereitet vor, der Mensch entscheidet.