- Human-in-the-loop (HITL) łączy nadzór człowieka z systemami AI w celu poprawy dokładności.
- Ludzie interweniują poprzez dodawanie adnotacji do danych, przeglądanie wyników AI, obsługę eskalacji i kierowanie ulepszeniami modelu.
- HITL zwiększa niezawodność, łagodzi uprzedzenia, umożliwia ciągłe uczenie się i sprawia, że systemy AI są bardziej przejrzyste.
- Przypadki użycia obejmują samojezdne samochody, boty detaliczne, kontrole ryzyka finansowego i decyzje dotyczące opieki zdrowotnej.
Jeśli myślisz o ulepszeniu swojej firmy za pomocą sztucznej inteligencji, nie jesteś sam. Ponieważ chatboty AI są najszybciej rozwijającym się kanałem komunikacji, nie są już luksusem - są oczekiwaniem.
Ale rezygnacja z tej kontroli może być przerażająca. Przekazanie kluczowych operacji tak zwanemu "algorytmowi czarnej skrzynki" może wydawać się dużym skokiem wiary.
I tak właśnie jest, dlatego firmy polegają na interwencji człowieka w celu kierowania sztuczną inteligencją. Prawie wszystkie struktury agentów A I obejmują ludzki nadzór nad operacjami AI.
W tym artykule wyjaśnię, co to jest, jak działa i podam kilka przykładów, w jaki sposób ludzka interwencja jest codziennie wykorzystywana, aby zapewnić użytkownikom większą kontrolę nad chatbotami i agentami AI.
Czym jest człowiek w pętli?
Human-in-the-loop (HITL) to oparte na współpracy podejście do sztucznej inteligencji, w którym wkład człowieka jest wykorzystywany do poprawy lub rozszerzenia możliwości sztucznej inteligencji. Może to mieć formę danych z adnotacjami człowieka, skorygowanych wyników modelu lub zlecania ludziom wykonywania kompletnych zadań w przypadkach, gdy sztuczna inteligencja jest niepewna lub uznana za nieskuteczną.
Termin ten może być nieco niejednoznaczny. Technicznie odnosi się on do wszelkiego zaangażowania człowieka w cykl życia aplikacji AI - od etykietowania danych i oceny modeli po aktywne uczenie się i eskalacje.
W praktyce, gdy dostawcy AI oferują funkcjonalność HITL, oznacza to zazwyczaj nadzór nad wynikami AI: możliwość przeglądania odpowiedzi i eskalowania interakcji chatbota do ludzkich agentów.
W jaki sposób ludzie są "w pętli" sztucznej inteligencji?
Dobrze naoliwiony rurociąg AI będzie miał kilka punktów wejścia dla ludzi.
Sztuczna inteligencja jest szkolona do odkrywania wzorców w danych treningowych, a następnie uogólniania tych wzorców na nowe, niewidoczne dane. Możemy decydować o tym, jakie dane widzi model, ale nie o tym, jakie wzorce z nich wyciąga.
Na każdym etapie procesu - gromadzenia danych, szkolenia i wdrażania - to ludzie muszą upewnić się, że model działa zgodnie z oczekiwaniami.
W zależności od tego, gdzie i w jaki sposób dochodzi do interwencji człowieka, może ona należeć do jednej z poniższych kategorii:
Przekazywanie informacji zwrotnych w celu ciągłego uczenia się
Wiesz, kiedy ChatGPT pyta Cię, która z dwóch odpowiedzi jest lepsza? Informacje zwrotne mogą być traktowane jako nowe dane do trenowania modelu.
Informacje zwrotne nie muszą być jednak wyraźne.
Pomyśl o rekomendacjach w mediach społecznościowych. Model predykcyjny stale sugeruje treści w oparciu o historię użytkownika. Gdy korzystasz z platformy, Twój wybór treści jest wykorzystywany jako dane do ciągłego szkolenia modelu rekomendacji.
W tym przypadku to Ty jesteś człowiekiem. Korzystając z aplikacji, służysz jako przewodnik dla przyszłych rekomendacji.
W tym miejscu wszystko zatacza koło: model jest trenowany na danych, użytkownicy wchodzą w interakcje z modelem, a te interakcje z kolei tworzą dane, na których model jest ponownie trenowany.
Obsługa eskalowanych sytuacji
HITL niekoniecznie polega na ulepszaniu systemu. Czasami chodzi o odroczenie trudnych przypadków do ludzi.
Weźmy pod uwagę chatbota do obsługi klienta. Odciąża on znaczną część pracy zespołu, odpowiadając na 95% pytań w sposób jasny, zwięzły i dokładny.
Ale jest jeszcze te 5%.
Niektóre przypadki będą hiper-specyficzne lub na tyle niejasne, że będą poza zasięgiem sztucznej inteligencji. Chociaż interwencja człowieka nie poprawia modelu w tym przypadku, jest to świetny przykład tego, jak ludzie i uczenie maszynowe mogą pracować w symbiozie.
Dodawanie adnotacji do danych na potrzeby szkolenia
Technicznie rzecz biorąc, prawie całe uczenie maszynowe opiera się na mechanizmie HITL. Z tego powodu, kiedy mówimy o HITL, odnosimy się głównie do powyższych kategorii.
To powiedziawszy, byłbym niedbały, gdybym nie zwrócił uwagi na ludzką pracę i wiedzę specjalistyczną w pętli uczenia maszynowego.
Dane są podstawą sztucznej inteligencji i opierają się na ludziach. Modele AI są szkolone do przewidywania etykiet na podstawie danych wejściowych. Etykiety są oczekiwanymi wynikami sztucznej inteligencji, a do nas, ludzi, należy ich tworzenie.
Niektóre przykłady etykietowania ludzi obejmują:
- Ręczne pisanie odpowiedzi na podpowiedzi w celu trenowania dużych modeli językowychLLMs)
- Transkrypcja plików audio dla modeli rozpoznawania mowy.
- Dodawanie adnotacji do obiektów na obrazach dla modeli wykrywania obiektów
- Oznaczanie przykładowych wiadomości e-mail jako spam lub nie spam dla wykrywacza spamu klienta poczty e-mail
Ocena wydajności modelu
Lwia część czasu spędzonego na budowaniu modeli sztucznej inteligencji to zastanawianie się, jak je ulepszyć. Chociaż istnieje nieskończona liczba wskaźników, które można obliczyć, takich jak precyzja i wycofanie, potrzeba wglądu eksperta, aby dowiedzieć się, jak działa model, a co ważniejsze, co z tym zrobić.
Na przykład badacz może zauważyć, że model świetnie radzi sobie z identyfikacją obrazów psów, ale nie hot dogów. Zasadniczo można to naprawić, dodając lub różnicując zdjęcia hot dogów.
Czasami model czatu będzie miał trudności z zapamiętywaniem informacji z poprzednich wiadomości. Badacz zazwyczaj radzi sobie z tym poprzez wprowadzanie niskopoziomowych zmian w architekturze modelu lub metodzie jego generowania.
Korzyści płynące z zastosowania sztucznej inteligencji "człowiek w pętli
Sztuczna inteligencja może być niezwykle wydajna i skuteczna w rozpoznawaniu subtelnych wzorców, ale ludzie są inteligentni.
HITL polega na połączeniu ludzkiego poziomu niuansów z wydajnością automatyzacji przepływu pracy AI, tak aby odpowiedzi były dostosowane do doświadczeń, których szukają użytkownicy i dostawcy.
1. Dokładność i niezawodność
To nie wymaga myślenia. Co jest lepsze od zwykłej sztucznej inteligencji? Sztuczna inteligencja, która została poprawiona.
Jest nie tylko zoptymalizowany pod kątem radzenia sobie z przypadkami brzegowymi, ale także niezawodny w tym sensie, że użytkownicy wiedzą, że wyniki będą stale sprawdzane i ulepszane.
2. Łagodzenie uprzedzeń
Dane są niedoskonałe, a wyniki modeli będą to odzwierciedlać. Stronniczość - skłanianie się ku pewnym wynikom, a nie innym - jest problemem w uczeniu maszynowym i sztucznej inteligencji.
Rzeczy takie jak generowanie obrazów na tle rasowym lub określanie kwalifikacji zawodowych na podstawie płci to przykłady sposobu, w jaki sztuczna inteligencja odzwierciedla uprzedzenia obecne w danych szkoleniowych.
HITL pozwala użytkownikom oznaczyć te kwestie i kierować modelem w kierunku bardziej sprawiedliwych wyników.
3. Ciągłe doskonalenie i zdolność adaptacji
Trening nie kończy się tylko dlatego, że model jest w produkcji. HITL pozwala modelowi nadal trenować na nowych danych, aby lepiej uogólniać niewidoczne przypadki.
Na przykład edytowanie wygenerowanego tekstu lub śledzenie wyboru treści przez użytkowników zapewnia więcej danych, które model może wykorzystać do ulepszenia.
Ale nie wystarczy, że model się poprawi; powinien się również zmienić.
Łatwo jest przyjąć za pewnik sposoby, w jakie dostosowujemy się do ciągle zmieniającego się świata. W przypadku sztucznej inteligencji nie jest to oczywiste. HITL łączy wiedzę specjalistyczną i zniuansowaną ocenę, aby wyniki modelu były dostosowane do czasów.
4. Przejrzystość i zaufanie
Zaangażowanie ludzi sprawia, że decyzje podejmowane przez SI są bardziej przejrzyste. Gdy ludzie korygują wyniki lub rozwiązują przypadki o niskiej pewności, użytkownicy mogą być pewni, że wchodzą w interakcję z rozsądnym algorytmem.
Dzięki temu to my mamy kontrolę nad SI, a nie odwrotnie.
Przypadki użycia Human-in-the-Loop
1. Samodzielna jazda
Przy prognozowanej wartości rynkowej sięgającej 3,9 blnUSD w ciągu następnej dekady, autonomiczna jazda może być kolejną wielką granicą w dziedzinie sztucznej inteligencji. Wykorzystuje modele wykrywania obiektów i podejmowanie decyzji z chwili na chwilę, aby symulować jazdę człowieka.
Ale jak na coś tak bezobsługowego, opiera się w dużej mierze na ludziach. Modele stale obserwują ludzkie wzorce jazdy i porównują ich decyzje z własnymi przewidywaniami.
2. Sprzedaż detaliczna
Chatbot w handlu detalicznym to świetny sposób na zautomatyzowanie interakcji z klientami przy jednoczesnym oferowaniu spersonalizowanych doświadczeń. HITL pozwala utrzymać to doświadczenie płynne i dostosowane do Twojej firmy. Na przykład:
- Sprawdzanie i korygowanie zaleceń dotyczących produktów bota
- Poproś klienta, aby omówił swoje podstawowe potrzeby przed wysłaniem do agenta.
3. Finanse
Chatboty finansowe to świetny sposób na połączenie automatyzacji AI z ludzką wiedzą.
Systemy wykrywania oszustw świetnie radzą sobie z wykrywaniem podejrzanych działań w transakcjach. Ale nie wszystkie podejrzane działania są nikczemne i nie chcesz, aby Twoja karta była anulowana za każdym razem, gdy zmieniasz zamówienie na kawę.
HITL może odroczyć przypadki o niskiej pewności i niskim ryzyku do ludzi.
Ocena ryzyka kredytowego to kolejny obszar, w którym sztuczna inteligencja przoduje - świetnie radzi sobie z obliczaniem prawdopodobieństwa na podstawie wszelkiego rodzaju pozornie niepowiązanych danych. Dane te prawie na pewno będą jednak zawierać pewne uprzedzenia.
Utrzymanie sprawiedliwości i łagodzenie uprzedzeń często wymaga pomocy prawdziwej osoby.
4. Opieka zdrowotna
Użytkownik reddita, któremu Claude uratowała życie, będzie pierwszym, który opowie się za potencjałem sztucznej inteligencji w opiece zdrowotnej.
Chatboty wykorzystujące sztuczną inteligencję w medycynie pokazały część jej potencjału, ale to nie wszystko: Sztuczna inteligencja może pomóc w ustaleniu diagnozy na podstawie odczytu MRI lub zasugerować dalsze działania na podstawie wyników testów. Nie jestem jednak gotowy na rezygnację z lekarzy.
HITL oferuje to, co najlepsze z obu światów: wychwytywanie przypadków, które lekarze mogli przeoczyć, jednocześnie pozwalając im na podjęcie ostatecznej decyzji.
Wykorzystaj sztuczną inteligencję wspomaganą przez człowieka już dziś
Botpress ma tysiące wdrożonych botów z płynnym nadzorem człowieka i jest najbardziej elastyczną platformą agentów AI na rynku.
Botpress jest wyposażony w integrację HITL, wizualny kreator typu "przeciągnij i upuść" oraz możliwość wdrażania we wszystkich popularnych kanałach komunikacji (w tym Slack, Telegram, WhatsApp, sieć), więc korzystanie ze sztucznej inteligencji nie oznacza rezygnacji z osobistego charakteru.
Zacznij budować już dziś. To nic nie kosztuje.
Najczęściej zadawane pytania
Skąd mam wiedzieć, czy mój system AI potrzebuje zaangażowania człowieka?
Twój system sztucznej inteligencji prawdopodobnie wymaga zaangażowania człowieka w pętli, jeśli podejmuje decyzje o wysokiej stawce, często napotyka niejednoznaczne lub rzadkie sytuacje, ryzykuje generowanie stronniczych lub szkodliwych wyników lub działa w obszarach, w których absolutna dokładność i ludzka ocena są niezbędne dla zgodności lub zaufania klientów.
Czy human-in-the-loop może być wykorzystywany w nietechnicznych procesach biznesowych, czy tylko w modelach AI?
Human-in-the-loop może być wykorzystywany w nietechnicznych procesach biznesowych, takich jak rozpatrywanie skarg klientów lub moderowanie treści, ponieważ oznacza wprowadzenie ludzkiej oceny do każdego zautomatyzowanego przepływu pracy, w którym same decyzje maszynowe mogą być niewystarczające.
Czy używanie człowieka w pętli oznacza, że mój system AI jest mniej zaawansowany?
Korzystanie z człowieka w pętli nie oznacza, że system AI jest mniej zaawansowany. Pokazuje, że priorytetowo traktujesz bezpieczeństwo i sprawiedliwość, łącząc szybkość AI i rozpoznawanie wzorców z ludzką oceną w celu podejmowania niuansowych decyzji, co często jest niezbędne.
Czy sztuczna inteligencja jest opłacalna dla małych firm, czy tylko dla dużych przedsiębiorstw?
Sztuczna inteligencja w pętli jest coraz bardziej opłacalna dla małych firm, ponieważ nowoczesne narzędzia pozwalają na selektywne angażowanie ludzi tylko w trudnych przypadkach, minimalizując koszty pracy przy jednoczesnej poprawie dokładności i zaufania bez konieczności zatrudniania dużej siły roboczej.
Ile kosztuje dodanie ludzkich procesów do systemu AI?
Dodanie procesów opartych na ludziach w pętli może kosztować od minimalnych - jeśli od czasu do czasu korzystasz z personelu wewnętrznego - do znacznych, sięgających setek lub tysięcy dollars miesięcznie, jeśli potrzebujesz dedykowanych recenzentów lub wyspecjalizowanych wykonawców, przy czym koszty zależą w dużej mierze od ilości i złożoności zadań, które ludzie muszą obsługiwać.
.png)
