Human-in-the-Loop in der KI: Bessere Genauigkeit, weniger Risiko

Wenn Sie darüber nachdenken, Ihr Unternehmen mit KI zu verbessern, sind Sie nicht allein. Da KI-Chatbots der am schnellsten wachsende Kommunikationskanal sind, sind sie nicht länger ein Luxus, sondern eine Erwartung.

Aber diese Kontrolle aufzugeben, kann sich irgendwie beängstigend anfühlen. Das Auslagern wichtiger Vorgänge an einen so genannten "Blackbox-Algorithmus" kann sich wie ein großer Vertrauensvorschuss anfühlen.

Und das ist es auch, weshalb Unternehmen bei der Steuerung von KI auf menschliche Eingriffe angewiesen sind. Nahezu alle KI-Agenten-Frameworks beinhalten die menschliche Kontrolle über die KI-Operationen, die "Human-in-the-Loop".

In diesem Artikel erkläre ich, was das ist, wie es funktioniert, und gebe einige Beispiele dafür, wie menschliches Eingreifen täglich genutzt wird, um Nutzern mehr Kontrolle über KI-Chatbots und -Agenten zu geben.

Was bedeutet Human-in-the-Loop?

Human-in-the-Loop (HITL) ist ein kollaborativer Ansatz für die KI, bei dem menschlicher Input zur Verbesserung oder Erweiterung der Fähigkeiten der KI genutzt wird. Dies kann in Form von durch den Menschen kommentierten Daten, korrigierten Modellergebnissen oder durch die Übernahme von Aufgaben durch den Menschen in Fällen geschehen, in denen die KI unsicher ist oder als unwirksam erachtet wird.

Der Begriff kann ein wenig zweideutig sein. Technisch gesehen bezieht er sich auf jede menschliche Beteiligung am Lebenszyklus von KI-Anwendungen - von der Datenbeschriftung und Modellbewertung bis hin zum aktiven Lernen und zur Eskalation.

Wenn KI-Anbieter HITL-Funktionen anbieten, bedeutet dies in der Praxis in der Regel, dass sie die KI-Ergebnisse überwachen: Sie haben die Möglichkeit, Antworten zu überprüfen und Chatbot-Interaktionen an menschliche Agenten zu eskalieren.

Wie ist der Mensch bei der KI "im Spiel"?

Eine gut funktionierende KI-Pipeline wird mehrere Einstiegspunkte für Menschen haben.

KI wird darauf trainiert, Muster in ihren Trainingsdaten zu erkennen und diese Muster dann auf neue, ungesehene Daten zu verallgemeinern. Wir können entscheiden, welche Daten das Modell sieht, aber nicht, welche Muster es aus den Daten zieht.

Bei jedem Schritt des Prozesses - Datenerfassung, Schulung und Einsatz - müssen die Mitarbeiter sicherstellen, dass das Modell wie erwartet funktioniert.

Je nachdem, wo und wie dieser menschliche Eingriff erfolgt, kann er unter eine der folgenden Kategorien fallen:

Feedback für kontinuierliches Lernen

Sie kennen das, wenn ChatGPT Sie fragt, welche von zwei Antworten besser ist? Das Feedback kann als neue Daten behandelt werden, auf denen das Modell trainieren kann.

Das Feedback muss aber nicht explizit sein.

Denken Sie an Empfehlungen in sozialen Medien. Ein prädiktives Modell schlägt Ihnen ständig Inhalte vor, die auf Ihrer Vergangenheit basieren. Während Sie die Plattform nutzen, wird Ihre Auswahl an Inhalten als Daten verwendet, um das Empfehlungsmodell kontinuierlich zu trainieren.

In diesem Fall sind Sie der Mensch. Und indem Sie die App nutzen, dienen Sie als Leitfaden für zukünftige Empfehlungen. 

Hier schließt sich der Kreis: Das Modell wird auf Daten trainiert, die Nutzer interagieren mit dem Modell, und diese Interaktionen erzeugen wiederum Daten, auf denen das Modell erneut trainiert wird.

Umgang mit eskalierten Situationen

Bei HITL geht es nicht unbedingt um die Verbesserung des Systems. Manchmal geht es darum, schwierige Fälle an Menschen zu delegieren.

Nehmen Sie einen Chatbot für den Kundensupport. Er nimmt Ihrem Team einen großen Teil der Arbeit ab, indem er 95 % der Fragen klar, präzise und genau beantwortet.

Aber dann sind da noch diese 5 %.

Manche Fälle sind so spezifisch oder obskur, dass sie die KI überfordern. Auch wenn das menschliche Eingreifen das Modell in diesem Fall nicht verbessert, ist dies ein großartiges Beispiel dafür, wie Menschen und maschinelles Lernen symbiotisch zusammenarbeiten können.

Daten für das Training kommentieren

Technisch gesehen basiert so gut wie jedes maschinelle Lernen auf einem HITL-Mechanismus. Aus diesem Grund beziehen wir uns, wenn wir über HITL sprechen, hauptsächlich auf die oben genannten Kategorien.

Dennoch wäre ich nachlässig, wenn ich nicht auf die menschliche Arbeit und das Fachwissen in der maschinellen Lernschleife hinweisen würde.

Daten sind das Rückgrat der KI, und sie ist auf Menschen angewiesen. KI-Modelle werden darauf trainiert, auf der Grundlage von Eingabedaten Bezeichnungen vorherzusagen. Kennzeichnungen sind die erwartete Ausgabe der KI, und es liegt an uns Menschen, sie zu erstellen.

Einige Beispiele für die Kennzeichnung von Menschen sind:

• Handschriftliche Antworten auf Aufforderungen zum Trainieren großer SprachmodelleLLMs)
• Transkribieren von Audiodateien für Spracherkennungsmodelle.
• Annotieren von Objekten in Bildern für Objekterkennungsmodelle
• Markierung von Beispiel-E-Mails als Spam oder Nicht-Spam für den Spam-Detektor eines E-Mail-Clients

Bewertung der Modellleistung

Der Löwenanteil der Zeit, die für die Entwicklung von KI-Modellen aufgewendet wird, besteht darin, herauszufinden, wie man sie besser machen kann. Es gibt zwar unzählige Metriken, die Sie berechnen können, wie z. B. die Genauigkeit und die Wiedererkennung, aber man braucht Expertenwissen, um herauszufinden, wie das Modell funktioniert und - noch wichtiger - was man dagegen tun kann.

Ein Forscher könnte zum Beispiel feststellen, dass das Modell Bilder von Hunden gut erkennt, aber keine Hot Dogs. Das lässt sich in der Regel beheben, indem man die Bilder von Hot Dogs hinzufügt oder variiert.

Manchmal hat ein Chat-Modell Schwierigkeiten, sich an Informationen aus früheren Nachrichten zu erinnern. Ein Forscher wird dies in der Regel durch geringfügige Anpassungen an der Architektur oder der Generierungsmethode des Modells beheben.

Die Vorteile von Human-in-the-Loop AI

KI mag unglaublich effizient und effektiv bei der Erkennung subtiler Muster sein, aber Menschen sind schlau. 

Bei HITL geht es darum, menschliches Feingefühl mit der Effizienz der KI-Workflow-Automatisierung zu kombinieren, damit die Antworten auf die Bedürfnisse der Nutzer und Anbieter zugeschnitten sind.

1. Genauigkeit und Verlässlichkeit

Das hier ist ein Kinderspiel. Was ist besser als einfache KI? KI, die korrigiert wurde. 

Sie ist nicht nur für die Bewältigung von Grenzfällen optimiert, sondern auch insofern zuverlässig, als die Nutzer wissen, dass die Ergebnisse kontinuierlich überprüft und verbessert werden.

2. Abschwächung von Vorurteilen

Daten sind unvollkommen, und die Ergebnisse der Modelle spiegeln dies wider. Verzerrungen - die Bevorzugung bestimmter Ergebnisse gegenüber anderen - sind ein Problem bei maschinellem Lernen und KI.

Beispiele für die Art und Weise, wie KI die in den Trainingsdaten vorhandenen Vorurteile widerspiegelt, sind die Erzeugung rassistisch aufgeladener Bilder oder die Bestimmung der beruflichen Qualifikation nach Geschlecht.

Mit HITL können die Menschen diese Probleme aufzeigen und das Modell in Richtung gerechterer Ergebnisse lenken.

3. Kontinuierliche Verbesserung und Anpassungsfähigkeit

Das Training ist nicht vorbei, nur weil ein Modell in Produktion ist. Mit HITL kann das Modell weiterhin mit neuen Daten trainiert werden, um eine bessere Verallgemeinerung für unbekannte Fälle zu erreichen. 

Die Bearbeitung des generierten Textes oder die Verfolgung der Inhaltsauswahl der Nutzer liefert beispielsweise weitere Daten, die das Modell zur Verbesserung nutzen kann.

Aber es reicht nicht aus, dass sich ein Modell verbessert, es sollte sich auch verändern.

Es ist leicht, die Art und Weise, wie wir uns an eine sich ständig verändernde Welt anpassen, als selbstverständlich anzusehen. Bei der künstlichen Intelligenz ist das keine Selbstverständlichkeit. HITL kombiniert Fachwissen und differenziertes Urteilsvermögen, um die Leistung eines Modells auf der Höhe der Zeit zu halten.

4. Transparenz und Vertrauen

Die Einbindung von Menschen macht die Entscheidungen der KI transparenter. Wenn Menschen die Ergebnisse korrigieren oder Fälle mit geringer Sicherheit lösen, können die Nutzer sicher sein, dass sie mit einem vernünftigen Algorithmus interagieren.

Dadurch haben wir die Kontrolle über die KI und nicht umgekehrt.

Anwendungsfälle von Human-in-the-Loop

1. Selbstfahrende

Mit einem prognostizierten Marktwert von 3,9 BillionenUSD in den nächsten zehn Jahren könnte das selbstfahrende Auto die nächste große Herausforderung im Bereich der künstlichen Intelligenz darstellen. Es nutzt Modelle für die Objekterkennung und die augenblickliche Entscheidungsfindung, um das Fahren eines Menschen zu simulieren.

Aber für etwas, das so unbeteiligt ist, ist es ziemlich stark auf den Menschen angewiesen. Die Modelle beobachten ständig das menschliche Fahrverhalten und vergleichen ihre Entscheidungen mit ihren eigenen Vorhersagen.

2. Einzelhandel

Ein Chatbot für den Einzelhandel ist eine großartige Möglichkeit, Kundeninteraktionen zu automatisieren und gleichzeitig ein personalisiertes Erlebnis zu bieten. Mit HITL können Sie dieses Erlebnis reibungslos gestalten und auf Ihr Unternehmen abstimmen. Zum Beispiel könnten Sie:

• Überprüfung und Korrektur der Produktempfehlungen des Bots
• Lassen Sie den Kunden seine Grundbedürfnisse besprechen, bevor Sie ihn an einen menschlichen Mitarbeiter weiterleiten

3. Finanzen

Finanz-Chatbots sind eine großartige Möglichkeit, KI-Automatisierung und menschliches Fachwissen miteinander zu verknüpfen.

Betrugserkennungssysteme sind sehr gut darin, verdächtige Aktivitäten bei Transaktionen zu erkennen. Aber nicht alle verdächtigen Aktivitäten sind ruchlos, und Sie möchten nicht, dass Ihre Karte jedes Mal gesperrt wird, wenn Sie Ihre Kaffeebestellung ändern.

HITL kann Fälle mit geringer Sicherheit und geringem Risiko auf den Menschen verschieben.

Die Bewertung des Kreditrisikos ist ein weiterer Bereich, in dem die KI ihre Stärken ausspielt: Sie ist hervorragend in der Lage, Wahrscheinlichkeiten für alle Arten von scheinbar unzusammenhängenden Daten zu berechnen. Diese Daten enthalten jedoch mit ziemlicher Sicherheit eine gewisse Verzerrung. 

Um Fairness zu wahren und Voreingenommenheit abzumildern, bedarf es oft der Hilfe einer echten Person.

4. Gesundheitswesen

Der Reddit-Nutzer, dessen Leben von Claude gerettet wurde, wird der erste sein, der sich für das Potenzial von KI im Gesundheitswesen einsetzt.

Medizinische KI-Chatbots haben einen Teil ihres Potenzials aufgezeigt, aber es geht noch weiter: KI kann dabei helfen, eine Diagnose auf der Grundlage eines MRT-Befundes zu stellen, oder auf der Grundlage von Testergebnissen Folgeuntersuchungen vorschlagen. Aber ich bin nicht bereit, auf Ärzte zu verzichten.

HITL bietet das Beste aus beiden Welten: Es fängt Fälle auf, die Ärzte möglicherweise übersehen haben, erlaubt ihnen aber dennoch, die endgültige Entscheidung zu treffen.

Human-Augmented AI heute nutzen

Botpress verfügt über Tausende von Bots, die nahtlos von Menschen betreut werden, und ist die flexibelste KI-Agentenplattform auf dem Markt.

Botpress verfügt über eine HITL-Integration, einen visuellen Drag-and-Drop-Builder und eine Bereitstellung über alle gängigen Kommunikationskanäle (einschließlich Slack, Telegram, WhatsApp, Web), sodass der Einsatz von KI nicht bedeutet, dass Sie Ihre persönliche Note aufgeben müssen.

Beginnen Sie noch heute mit dem Bau. Es ist kostenlos.

FAQs

Woher weiß ich, ob mein KI-System die Beteiligung des Menschen benötigt?

Ihr KI-System benötigt wahrscheinlich die Beteiligung des Menschen, wenn es Entscheidungen trifft, bei denen viel auf dem Spiel steht, wenn es häufig mit mehrdeutigen oder seltenen Situationen konfrontiert wird, wenn die Gefahr besteht, dass es verzerrte oder schädliche Ergebnisse produziert, oder wenn es in Bereichen eingesetzt wird, in denen absolute Genauigkeit und menschliches Urteilsvermögen für die Einhaltung von Vorschriften oder das Vertrauen der Kunden unerlässlich sind.

Kann Human-in-the-Loop auch in nicht-technischen Geschäftsprozessen eingesetzt werden oder nur in KI-Modellen?

Human-in-the-Loop kann in nicht-technischen Geschäftsprozessen wie der Überprüfung von Kundenbeschwerden oder der Moderation von Inhalten eingesetzt werden, da es bedeutet, dass menschliches Urteilsvermögen in einen automatisierten Arbeitsablauf eingefügt wird, bei dem maschinelle Entscheidungen allein unzureichend sein könnten.

Bedeutet der Einsatz von Human-in-the-Loop, dass mein KI-System weniger fortschrittlich ist?

Der Einsatz von Human-in-the-Loop bedeutet nicht, dass Ihr KI-System weniger fortschrittlich ist. Es zeigt, dass Sie der Sicherheit und Fairness Vorrang einräumen, indem Sie die Geschwindigkeit und Mustererkennung der KI mit dem menschlichen Urteilsvermögen für differenzierte Entscheidungen kombinieren, was oft unerlässlich ist.

Ist Human-in-the-Loop-KI für kleine Unternehmen kosteneffizient oder nur für Großunternehmen?

Human-in-the-Loop-KI wird für kleine Unternehmen immer kosteneffizienter, da moderne Tools es ermöglichen, Menschen nur in kniffligen Fällen einzubeziehen und so die Arbeitskosten zu minimieren und gleichzeitig die Genauigkeit und das Vertrauen zu verbessern, ohne dass eine große Anzahl von Mitarbeitern erforderlich ist.

Wie viel kostet es, einem KI-System Prozesse hinzuzufügen, die von Menschen ausgeführt werden?

Das Hinzufügen von Prozessen, die von Menschen durchgeführt werden, kann minimale Kosten verursachen - wenn Sie gelegentlich internes Personal einsetzen - bis hin zu erheblichen Kosten in Höhe von Hunderten oder Tausenden von dollars pro Monat, wenn Sie spezielle Prüfer oder spezialisierte Auftragnehmer benötigen, wobei die Kosten größtenteils durch das Volumen und die Komplexität der Aufgaben bestimmt werden, die Menschen erledigen müssen.