Human-in-the-Loop in der KI: Höhere Genauigkeit, weniger Risiko

Wenn Sie darüber nachdenken, Ihr Unternehmen mit KI zu verbessern, sind Sie nicht allein. Da KI-Chatbots der schnellst wachsende Kommunikationskanal sind, sind sie längst kein Luxus mehr – sondern werden erwartet.

Doch die Kontrolle abzugeben, kann beängstigend sein. Wichtige Abläufe an einen sogenannten ‚Black-Box-Algorithmus‘ zu übergeben, fühlt sich oft wie ein großer Vertrauensvorschuss an.

Und das ist es auch – deshalb setzen Unternehmen auf menschliches Eingreifen, um KI zu steuern. Nahezu alle AI-Agenten-Frameworks beinhalten Human-in-the-Loop – also menschliche Aufsicht über KI-Prozesse.

In diesem Artikel erkläre ich, was das ist, wie es funktioniert und gebe Beispiele, wie menschliches Eingreifen täglich genutzt wird, um Nutzer:innen mehr Kontrolle über KI-Chatbots und Agenten zu geben.

Was bedeutet Human-in-the-Loop?

Human-in-the-loop (HITL) ist ein kollaborativer Ansatz, bei dem menschliche Rückmeldungen genutzt werden, um die Fähigkeiten von KI zu verbessern oder zu erweitern. Das kann durch von Menschen annotierte Daten, korrigierte Modellausgaben oder das vollständige Übernehmen von Aufgaben durch Menschen geschehen, wenn die KI unsicher ist oder nicht weiterkommt.

Der Begriff ist etwas unscharf. Technisch gesehen bezeichnet er jede menschliche Beteiligung im Lebenszyklus von KI-Anwendungen – von Datenannotation und Modellevaluierung bis zu aktivem Lernen und Eskalationen.

In der Praxis bedeutet HITL-Funktionalität bei KI-Anbietern meist: Kontrolle über KI-Ausgaben – also die Möglichkeit, Antworten zu überprüfen und Chatbot-Interaktionen an menschliche Mitarbeitende weiterzuleiten.

Wie sind Menschen bei KI „im Loop“?

Eine gut funktionierende KI-Pipeline bietet an mehreren Stellen Möglichkeiten für menschliches Eingreifen.

KI wird darauf trainiert, Muster in Trainingsdaten zu erkennen und diese auf neue, unbekannte Daten zu übertragen. Wir bestimmen, welche Daten das Modell sieht – aber nicht, welche Muster es daraus ableitet.

In jedem Schritt – Datensammlung, Training und Einsatz – liegt es an Menschen, zu prüfen, ob das Modell wie gewünscht arbeitet.

Je nachdem, wo und wie das menschliche Eingreifen stattfindet, fällt es in eine der folgenden Kategorien:

Feedback für kontinuierliches Lernen geben

Sie kennen das vielleicht: ChatGPT fragt, welche von zwei Antworten besser ist? Dieses Feedback kann als neue Trainingsdaten für das Modell genutzt werden.

Feedback muss aber nicht immer explizit sein.

Denken Sie an Empfehlungen in sozialen Medien. Ein Vorhersagemodell schlägt ständig Inhalte basierend auf Ihrer Historie vor. Ihre Auswahl wird wiederum als Daten genutzt, um das Empfehlungsmodell laufend zu trainieren.

In diesem Fall sind Sie die menschliche Komponente. Durch Ihre Nutzung der App steuern Sie künftige Empfehlungen.

Hier schließt sich der Kreis: Das Modell wird mit Daten trainiert, Nutzer:innen interagieren damit, und diese Interaktionen erzeugen wiederum neue Daten, auf denen das Modell erneut trainiert wird.

Umgang mit eskalierten Situationen

HITL dient nicht immer der Verbesserung des Systems. Manchmal geht es darum, schwierige Fälle an Menschen weiterzugeben.

Denken Sie an einen Kundensupport-Chatbot. Er nimmt Ihrem Team einen Großteil der Arbeit ab, indem er 95 % der Fragen klar, präzise und korrekt beantwortet.

Aber dann gibt es diese 5 %.

Manche Fälle sind so speziell oder ungewöhnlich, dass sie außerhalb des Kompetenzbereichs der KI liegen. Auch wenn menschliches Eingreifen das Modell hier nicht verbessert, zeigt dieses Beispiel, wie Menschen und maschinelles Lernen symbiotisch zusammenarbeiten können.

Datenannotation für das Training

Genau genommen basiert praktisch jedes maschinelle Lernen auf einem HITL-Mechanismus. Deshalb beziehen wir uns bei HITL meist auf die oben genannten Kategorien.

Dennoch sollte die menschliche Arbeit und Expertise im Machine-Learning-Prozess nicht unerwähnt bleiben.

Daten sind das Rückgrat der KI – und sie sind auf Menschen angewiesen. KI-Modelle werden darauf trainiert, Labels anhand von Eingabedaten vorherzusagen. Labels sind die erwarteten Ausgaben der KI, und wir Menschen erstellen sie.

Beispiele für menschliche Datenannotation sind:

• Antworten auf Eingabeaufforderungen verfassen, um große Sprachmodelle (LLMs) zu trainieren
• Transkribieren von Audiodateien für Spracherkennungsmodelle.
• Annotieren von Objekten in Bildern für Objekterkennungsmodelle
• Markieren von Beispiel-E-Mails als Spam oder Nicht-Spam für den Spamfilter eines E-Mail-Clients

Bewertung der Modellleistung

Der Großteil der Zeit beim Entwickeln von KI-Modellen wird darauf verwendet, sie zu verbessern. Es gibt unzählige Kennzahlen wie Präzision und Recall, aber es braucht Fachwissen, um zu verstehen, wie das Modell arbeitet – und vor allem, was man dagegen tun kann.

Zum Beispiel könnte eine Forscherin feststellen, dass das Modell Bilder von Hunden gut erkennt, aber nicht Hotdogs. Das lässt sich meist beheben, indem man mehr oder vielfältigere Bilder von Hotdogs hinzufügt.

Manchmal hat ein Chatmodell Schwierigkeiten, sich an Informationen aus vorherigen Nachrichten zu erinnern. Ein:e Forscher:in passt dann meist die Architektur oder die Generierungsmethode des Modells an.

Vorteile von Human-in-the-Loop KI

KI kann zwar sehr effizient und gut darin sein, subtile Muster zu erkennen – aber Menschen sind intelligent.

HITL verbindet menschliche Feinfühligkeit mit der Effizienz von KI-Workflow-Automatisierung, sodass Antworten genau auf die Bedürfnisse von Nutzer:innen und Anbietern zugeschnitten werden können.

1. Genauigkeit und Zuverlässigkeit

Das ist ein Selbstläufer: Was ist besser als reine KI? KI, die korrigiert wurde.

Sie ist nicht nur für Spezialfälle optimiert, sondern auch zuverlässig, weil Nutzer:innen wissen, dass Ausgaben laufend überprüft und verbessert werden.

2. Abbau von Verzerrungen

Daten sind nicht perfekt – und das spiegelt sich in den Modellausgaben wider. Verzerrungen, also eine Tendenz zu bestimmten Ergebnissen, sind ein Problem im maschinellen Lernen und in der KI.

Beispiele sind rassistisch gefärbte Bildgenerierung oder die Bewertung von Qualifikationen nach Geschlecht – so spiegelt KI die Verzerrungen der Trainingsdaten wider.

Mit HITL können Menschen solche Probleme kennzeichnen und das Modell auf gerechtere Ergebnisse lenken.

3. Kontinuierliche Verbesserung und Anpassungsfähigkeit

Das Training endet nicht, sobald ein Modell im Einsatz ist. Mit HITL kann das Modell weiterhin mit neuen Daten trainiert werden, um auch auf unbekannte Fälle besser zu reagieren.

Zum Beispiel liefern Bearbeitungen von generiertem Text oder die Auswahl von Inhalten durch Nutzer:innen weitere Datenpunkte, mit denen das Modell besser werden kann.

Doch es reicht nicht, dass ein Modell sich verbessert – es muss sich auch verändern.

Wir passen uns ständig an eine sich verändernde Welt an – das ist bei KI nicht selbstverständlich. HITL verbindet Fachwissen und differenziertes Urteilsvermögen, damit die Modellausgaben mit der Zeit Schritt halten.

4. Transparenz und Vertrauen

Durch menschliches Eingreifen werden KI-Entscheidungen transparenter. Wenn Menschen Ausgaben korrigieren oder Fälle mit geringer Sicherheit bearbeiten, wissen Nutzer:innen, dass sie mit einem nachvollziehbaren Algorithmus interagieren.

So behalten wir die Kontrolle über die KI – und nicht umgekehrt.

Anwendungsbeispiele für Human-in-the-Loop

1. Autonomes Fahren

Mit einem erwarteten Marktwert von 3,9 Billionen USD in den nächsten zehn Jahren könnte autonomes Fahren das nächste große KI-Thema werden. Hier kommen Objekterkennungsmodelle und Entscheidungen im Sekundentakt zum Einsatz, um das Fahrverhalten eines Menschen zu simulieren.

Aber obwohl es so automatisiert wirkt, ist es stark auf Menschen angewiesen. Die Modelle beobachten ständig menschliches Fahrverhalten und vergleichen deren Entscheidungen mit den eigenen Vorhersagen.

2. Einzelhandel

Ein Chatbot für den Einzelhandel ist eine hervorragende Möglichkeit, Kundeninteraktionen zu automatisieren und trotzdem ein persönliches Erlebnis zu bieten. Mit HITL bleibt dieses Erlebnis reibungslos und auf Ihr Unternehmen abgestimmt. Zum Beispiel können Sie:

• Die Produktempfehlungen des Bots überprüfen und korrigieren
• Den Kunden zunächst seine Grundbedürfnisse schildern lassen, bevor er an einen menschlichen Mitarbeiter weitergeleitet wird

3. Finanzen

Finanz-Chatbots sind eine ideale Schnittstelle zwischen KI-Automatisierung und menschlicher Expertise.

Systeme zur Betrugserkennung sind sehr gut darin, verdächtige Aktivitäten bei Transaktionen zu erkennen. Aber nicht jede verdächtige Aktivität ist böswillig, und Sie möchten nicht, dass Ihre Karte jedes Mal gesperrt wird, wenn Sie Ihre Kaffee-Bestellung ändern.

HITL kann Fälle mit geringer Sicherheit und geringem Risiko an Menschen weiterleiten.

Auch bei der Bewertung von Kreditrisiken ist KI sehr leistungsfähig – sie kann Wahrscheinlichkeiten aus unterschiedlichsten, scheinbar nicht zusammenhängenden Daten berechnen. Allerdings sind diese Daten fast immer mit gewissen Verzerrungen behaftet.

Um Fairness zu gewährleisten und Vorurteile zu minimieren, braucht es oft die Unterstützung eines Menschen.

4. Gesundheitswesen

Der Reddit-Nutzer, dessen Leben von Claude gerettet wurde, ist der erste, der das Potenzial von KI im Gesundheitswesen hervorhebt.

Medizinische KI-Chatbots haben bereits einiges davon gezeigt, aber es geht noch weiter: KI kann bei der Diagnose anhand von MRT-Bildern helfen oder Folgeuntersuchungen auf Basis von Testergebnissen vorschlagen. Ganz auf Ärzte möchte ich aber nicht verzichten.

HITL bietet hier das Beste aus beiden Welten: Fälle erkennen, die Ärztinnen und Ärzte vielleicht übersehen hätten, und trotzdem die finale Entscheidung beim Menschen lassen.

Nutzen Sie Human-Augmented AI schon heute

Botpress hat tausende Bots mit nahtloser menschlicher Überwachung im Einsatz und ist die flexibelste Plattform für KI-Agenten auf dem Markt.

Botpress bietet eine HITL-Integration, einen visuellen Drag-and-Drop-Builder und die Bereitstellung auf allen gängigen Kommunikationskanälen (darunter Slack, Telegram, WhatsApp, Web). So müssen Sie bei der Nutzung von KI nicht auf den persönlichen Kontakt verzichten.

Jetzt loslegen. Kostenlos.

FAQs

Woran erkenne ich, ob mein KI-System menschliche Beteiligung (human-in-the-loop) benötigt?

Ihr KI-System benötigt wahrscheinlich menschliche Beteiligung, wenn es wichtige Entscheidungen trifft, häufig auf unklare oder seltene Situationen stößt, das Risiko besteht, voreingenommene oder schädliche Ergebnisse zu liefern, oder wenn absolute Genauigkeit und menschliches Urteilsvermögen für die Einhaltung von Vorschriften oder das Vertrauen der Kunden entscheidend sind.

Kann human-in-the-loop auch in nicht-technischen Geschäftsprozessen eingesetzt werden oder nur in KI-Modellen?

Human-in-the-loop kann auch in nicht-technischen Geschäftsprozessen wie der Überprüfung von Kundenbeschwerden oder der Moderation von Inhalten eingesetzt werden, da es bedeutet, menschliches Urteilsvermögen in jeden automatisierten Ablauf einzubringen, bei dem maschinelle Entscheidungen allein nicht ausreichen.

Bedeutet der Einsatz von human-in-the-loop, dass mein KI-System weniger fortschrittlich ist?

Der Einsatz von human-in-the-loop bedeutet nicht, dass Ihr KI-System weniger fortschrittlich ist. Es zeigt, dass Sie Sicherheit und Fairness priorisieren, indem Sie die Geschwindigkeit und Mustererkennung der KI mit menschlichem Urteilsvermögen für differenzierte Entscheidungen kombinieren – was oft unerlässlich ist.

Ist human-in-the-loop-KI für kleine Unternehmen kosteneffizient oder nur für große Unternehmen geeignet?

Human-in-the-loop-KI wird für kleine Unternehmen immer kosteneffizienter, da moderne Tools es ermöglichen, Menschen gezielt nur bei schwierigen Fällen einzubinden. So werden Personalkosten minimiert, während Genauigkeit und Vertrauen steigen – ganz ohne großes Team.

Wie viel kostet es, human-in-the-loop-Prozesse zu einem KI-System hinzuzufügen?

Die Kosten für die Integration von human-in-the-loop-Prozessen reichen von minimal – wenn Sie gelegentlich eigenes Personal einsetzen – bis hin zu erheblich, wenn Sie dedizierte Prüfer oder spezialisierte Dienstleister benötigen. Die Kosten hängen vor allem vom Umfang und der Komplexität der Aufgaben ab, die von Menschen übernommen werden müssen.