人工智能中的 「人在回路中」： 精確度更高、風險更低

如果您正在考慮使用 AI 改善您的業務，您並不孤單。隨著 AI 聊天機器人成為成長最快的溝通管道，它們不再是奢侈品，而是人們的期望。

但放棄控制權可能會讓人感到有點害怕。將重要的作業交由所謂的「黑盒演算法」處理，可能會讓人覺得是信仰上的一大躍進。

而事實上也是如此，這就是為什麼企業需要仰賴人工介入來引導 AI。幾乎所有的AI 代理框架都包含人在環中 - 人類對 AI 運作的監督。

在這篇文章中，我會說明它是什麼、如何運作，並舉出一些例子，說明日常如何使用人為介入，讓使用者對AI 聊天機器人和代理有更多控制權。

什麼是人在環中？

Human-in-the-loop (HITL) 是一種人工智慧的協作方式，藉由人類的輸入來改善或擴展人工智慧的能力。其形式可以是人類註解的資料、修正後的模型輸出，或是在人工智慧不確定或被視為無效的情況下，由人類執行完整的任務。

這個詞可能有點含糊不清。嚴格來說，它是指人工智能應用程式生命週期中的任何人為參與 - 從資料標示與模型評估到主動學習與升級。

實際上，當 AI 供應商提供 HITL 功能時，通常意味著對 AI 輸出的監督：有機會檢視回覆並將聊天機器人互動升級至人類代理。

人類如何在 AI 中「處於環狀」？

一個運作良好的人工智慧管道會有數個人類的切入點。

AI 受過訓練，可以從訓練資料中發現模式，然後將這些模式概括到新的、未見過的資料中。我們可以決定模型看到哪些資料，但不能決定它從資料中得出哪些模式。

在過程中的每個步驟 - 資料收集、訓練和部署 - 都需要由人來確保模型能如預期般運作。

根據人為干預發生的地點和方式，它可以屬於以下任何一種類別：

提供回饋以持續學習

您知道ChatGPT 會問您兩個回覆中哪一個比較好？回饋可以視為模型訓練的新資料。

不過，回饋不一定要明確。

想想社交媒體的推薦。預測模型會根據您的歷史記錄不斷推薦內容。當您使用平台時，您選擇的內容會被用來作為持續訓練推薦模型的資料。

在這種情況下，您就是人類。在使用應用程式時，您將成為未來推薦的指南。 

這就是整個過程：模型在資料上進行訓練，使用者與模型互動，這些互動反過來又創造出資料，模型再次在這些資料上進行訓練。

處理升級情況

HITL 不一定是要改善系統。有時候，它是關於將困難的個案交由人類處理。

考慮使用客戶支援聊天機器人。它可以清楚、簡明、準確地回答 95% 的問題，為您的團隊分擔大量工作。

但還有那 5%。

有些案例非常特殊或晦澀，不在 AI 的能力範圍之內。雖然在這個案例中，人類的介入並沒有改善模型，但這卻是人類與機器學習共生合作的最佳範例。

註解訓練資料

技術上來說，幾乎所有的機器學習都是以 HITL 機制來建立的。因此，當我們談到 HITL 時，我們主要是指上述類別。

儘管如此，如果我不提醒大家注意機器學習環節中的人力勞動和專業知識，那就太失職了。

資料是人工智能的支柱，而人工智能則依賴人類。AI 模型經過訓練，可根據輸入資料 預測標籤。標籤是 AI 的預期輸出，而製作標籤則要靠我們人類。

一些人體標籤的例子包括

• 手寫回應 提示以訓練大型語言模型LLMs)
• 為語音辨識模型轉錄音訊檔案。
• 註解影像中的物件以建立物件偵測模型
• 為電子郵件用戶端的垃圾郵件偵測器將樣本電子郵件標記為垃圾郵件或非垃圾郵件

評估模型效能

建立 AI 模型所花的大部分時間都是在找出如何讓模型變得更好。雖然您可以計算無數的指標，例如精確度和召回率，但這需要專家的洞察力才能找出模型是如何運作的，更重要的是，該如何處理。

舉例來說，研究人員可能會注意到模型在識別狗的圖像時表現很好，但卻無法識別熱狗。這通常可以透過增加或分散熱狗的圖片來解決。

有時候，聊天模型在記憶先前訊息的資訊上會有困難。研究人員通常會透過對模型的架構或產生方法進行低階調整來解決這個問題。

Human-in-the-Loop AI 的優點

AI 在辨識微妙的模式上可能有驚人的效率和效能，但人是聰明的。 

HITL 是將人類的細微差異與AI 工作流程自動化的效率相結合，以便根據使用者和提供者所尋求的體驗量身打造回應。

1.精確度與可靠性

這一點不用多說。有什麼比普通的 AI 更好？經過修正的 AI。 

它不僅經過最佳化以處理邊緣案例，而且還非常可靠，因為使用者知道輸出結果會持續受到檢閱和改進。

2.偏差緩解

資料是不完美的，模型輸出也會反映出這一點。偏見 - 偏重於某些輸出而非其他輸出 - 是機器學習和人工智能的一個問題。

像是種族歧視的影像產生，或是以性別來決定工作資格，這些都是 AI 反映訓練資料中存在的偏見的例子。

HITL 可讓人們標示這些問題，並引導模型達到更公平的結果。

3.持續改進和適應性

模型投入生產後，訓練並未結束。HITL 可讓模型繼續在新資料上進行訓練，以便在未見過的案例中更好地歸納。 

例如，編輯已產生的文字或跟隨使用者的內容選擇，可提供更多可用於改善模型的資料。

但是，僅僅改善模型是不夠的，還應該改變。

我們很容易想當然地適應不斷變化的世界。對於 AI 而言，這並非必然。HITL 結合專業知識與細微的判斷，讓模型的輸出與時俱進。

4.透明度與信任

人類的參與讓人工智能的決策更加透明。由人來修正輸出或解決低確定性的情況，使用者可以放心，他們是在與一個合理的演算法互動。

它可以讓我們控制 AI，而不是反過來。

Human-in-the-Loop 使用案例

1.自動駕駛

預計未來十年內市場價值將達到3.9 兆USD ，自動駕駛可能是人工智慧的下一個重要領域。它利用物體偵測模型和每分每秒的決策來模擬人的駕駛。

但對於如此不需人工操作的東西來說，它在很大程度上依賴於人類。模型會不斷觀察人類的駕駛模式，並將他們的決策與自己的預測進行比較。

2.零售

零售聊天機器人是自動化客戶互動的好方法，同時仍能提供個人化的體驗。HITL 可讓您保持順暢的體驗，並與您的業務保持一致。例如，您可以

• 檢視並修正機器人的產品建議
• 在派遣人工座席之前，先讓客戶說明他們的基本需求

3.財務

財務聊天機器人是 AI 自動化與人類專業知識之間的絕佳對接方式。

詐欺偵測系統很擅長找出交易中的可疑活動。但並非所有可疑活動都是不法的，而且您也不希望每次訂購咖啡時，您的信用卡都會被取消。

HITL 可將低確定性、低風險的病例推遲至人類處理。

貸款風險評估是人工智能的另一個優勢領域 - 它擅長計算各種看似無關的資料的可能性。不過，這些資料幾乎一定會包含一些偏差。 

維護公平性和減少偏見往往需要真人的幫助。

4.醫療保健

被 Claude救了一命的 reddit 使用者將成為第一個擁護人工智慧在醫療照護領域潛力的人。

醫療 AI 聊天機器人已展示其部分潛力，但它的功能遠不止於此：AI 可以根據 MRI 讀數協助判斷診斷，或根據檢驗結果建議後續治療。但我還沒準備好放棄醫生。

HITL 提供了兩者的最佳選擇：既能捕捉醫生可能遺漏的病例，又能讓他們做出最後判斷。

立即使用人工增強型 AI

Botpress 部署了數以千計的機器人，並有無縫的人工監督，是市場上最靈活的 AI 代理平台。

Botpress 具備 HITL 整合、可視化拖放建立工具，並可部署於所有熱門的通訊管道 (包括Slack、Telegram、WhatsApp、Web)，因此使用 AI 並不代表要放棄個人風格。

今天就開始建立。這是免費的。

常見問題

我如何知道我的 AI 系統是否需要人工參與？

如果您的 AI 系統需要處理高風險的決策、經常遇見模稜兩可或罕見的情況、有可能產生偏見或有害的輸出，或是在絕對準確和人為判斷對於合規性或客戶信任至關重要的領域中運作，您的 AI 系統很可能需要人類的參與。

人在環能夠用在非技術性的業務流程中，還是只能用在 AI 模型中？

Human-in-the-loop 可以用在非技術性的業務流程中，例如審核客戶投訴或審查內容，因為它意味著在任何自動化工作流程中插入人為判斷，而在這些流程中，僅靠機器判斷可能是不夠的。

使用人為迴圈是否意味著我的 AI 系統不夠先進？

使用人為迴圈並不代表您的 AI 系統不夠先進。這顯示您透過結合 AI 的速度與模式識別，以及人類對細微決策的判斷，將安全性與公平性放在優先地位，而這往往是非常重要的。

人在迴圈的 AI 對小型企業而言是否符合成本效益，還是只適用於大型企業？

對於小型企業來說，人在邏輯中的人工智慧越來越符合成本效益，因為現代工具可讓您選擇性地只讓人在棘手的情況下參與，將人力成本降至最低，同時仍可提高精確度和信任度，而無需大量人力。

在 AI 系統中加入人為迴圈流程的成本是多少？

如果您需要專門的審核人員或專門的承包商，則增加人工納入迴圈流程的成本可能從最低（如果您偶爾使用內部員工）到最高（如果您需要專門的審核人員或專門的承包商，則每月可能需要數百或數dollars ）不等，成本主要取決於人工必須處理的任務的數量和複雜性。