使用多代理框架建立 AI 工作流程

代理在系統中登錄為可呼叫元件

在代理做任何事情之前，框架需要知道它的存在。這表示要告訴系統代理程式的名稱、負責的事項，以及可以存取哪些工具或資訊。

在大多數的架構中，這種設定是透過設定檔或一些程式碼來進行的，您可以在其中定義每個代理程式的角色以及如何啟動它。例如，您可以告訴系統

"這是規劃器。它會讀取使用者的輸入，然後決定下一步要做什麼。
""這是驗證器。它接收用戶資訊，並返回 booking_id 和用戶資訊。"

一旦註冊完成，框架就可以「呼叫」這些代理的名稱，也就是說，當輪到他們進入工作流程時，框架就知道該如何執行每個代理。

路由代理決定下一個執行的代理

規劃者代理或控制器功能處理AI 代理路由。它會查看最新的機器人輸出、目前的對話歷史，有時也會查看原始使用者輸入，以決定下一步要做什麼。

有些計畫器以提示為基礎 - 它們接收系統訊息，並輸出下一個要執行的代理程式名稱。

其他則使用硬體編碼的邏輯或流程圖，這取決於您所使用的AI 代理框架。

該架構取得該輸出，並使用該輸出呼叫下一個代理。路由器決定誰應該執行任務，而不是執行任務。

代理之間使用訊息傳遞資料

代理不會直接共用記憶體。當一個代理執行完畢，其輸出會打包成訊息 - 通常是字典或 JSON 物件 - 並傳送給下一個代理作為輸入。

框架會處理傳輸。它可以將訊息儲存在共用記憶體空間中，或是直接將訊息傳送到下一個代理的輸入介面中，視系統的結構而定。

訊息通常不只包含內容：

• 由誰傳送（代理人或使用者）
• 工作流程中的來源
• 應如何使用（例如，觸發、輸入、決定）
• 可選的指標，例如代幣數量或時間戳記

這種上下文有助於系統乾淨地路由任務，並保持代理彼此之間的解耦。

使用工作流程狀態和觸發器追蹤執行情況

框架會持續追蹤到目前為止所發生的事情 - 哪些代理程式執行了，它們傳回了什麼，以及還有什麼事情需要發生。這些資料儲存在狀態物件中，每一步驟之後都會更新。

觸發器決定接下來要做什麼。它們使用輸出值或條件來分支流程。

這可讓系統向前邁進，而無需在每個代理程式中硬性編碼邏輯。狀態驅動工作流程，而非代理程式本身。

擴充邏輯而不會使單一代理超載

單一的 AI 代理只能做這麼多，否則就會變成一堆提示、工具和不明確的職責。多代理體架構可讓您將邏輯分拆成各個專注的代理體，每個代理體處理一個明確的任務。

您可以將特定步驟 (例如擷取、驗證或執行) 指派給不同的代理，然後逐個擴充系統，而不必讓單一代理過於分散。

以完全可見的方式調試代理協作

當 AI 代理一起工作時，問題可能難以追蹤。框架可讓您知道每個代理程式得到了什麼、返回了什麼，以及在哪裡停滯不前。

您不需要猜測是哪裡出了問題 - 您只需檢查交接過程並直接修復。這種可視性讓 AI 代理合作變得易於管理。

跨工作流程重複使用代理

如果代理正常運作，就重複使用。框架可讓您將同樣的代理程式插入不同的流程中，而無需重新編寫。這樣可以保持一致性，並加快測試速度。

例如，檢查使用者輸入或認證的驗證代理可以用於客服聊天機器人和預約聊天機器人，只要適用相同的邏輯。

自動處理失敗和重試

當代理失敗時，框架可以重試、跳過或繼續前進。您不需要自己寫這個邏輯。  

內建的回退功能讓工作流程更可靠，不需要額外的工作，而這種可靠性正是現實世界系統的動力。

建立容易變更的代理流程

當您在代理之間分割任務時，您就不需要在每次發生變化時重新製作整個系統。

您可以在不觸及執行的情況下更新規劃器，或在不重寫其他程式的情況下變更一個代理的回應方式。

存取的便利性帶來了回報-Salesforce 報告指出，使用代理式 AI 的團隊每週能為每位員工節省 11 小時，這部分歸功於工作流程的適應性。

1. Botpress

Botpress 是一個可視化的開發平台，用來建立可跨步驟、角色和通路協調的 AI 代理。

您可以使用流程、記憶體、條件和工具呼叫來定義代理的行為方式，而不是在程式碼中編寫邏輯。

多重代理行為是圍繞指令、工作流程和外部工具而建立的。Botpress 流程中的每個節點都是一個重點單元，擁有自己的指令和範圍。

您可以在多個自主節點和靜態節點間分割推理、新增驗證層，或透過工具型決策邏輯路由使用者輸入，而不是在一個步驟中處理所有事情。

記憶體的範圍是針對每個流程，因此代理只需使用他們所需的記憶體。輸入和輸出都有明確的定義，並可透過內建的整合直接加入工具呼叫。

主要特點

• 使用流量和節點進行可視化代理協調
• 節點間的範圍記憶體與變數控制
• 多圈記憶、回退邏輯和重試
• 透過 API 呼叫、webhooks 和函式輸入使用工具

2.LangChain

LangChain 是一個開發人員至上的框架，可將提示、工具和記憶體串連在一起，建立由LLM應用程式。

一開始，它只是利用搜尋和計算器等工具來架構LLM 通話，但逐漸擴展成為一個龐大的生態系統。

其中一個版本的優先順序是 「代理」，然後是 「助理」，最後是 「可執行」。結果是一個功能強大的工具包，幾乎可以做任何事情，但往往需要花時間去瀏覽。

您可以指派工具套件，並在代理之間建立路由邏輯。它的優點在於模組化 - 元件可以重複使用、混合搭配，並與外部 API 完美整合。

但你會寫出比預期更多的膠水程式碼。而且隨著抽象的快速轉換，值得檢查您正在使用的方法是否仍是首選。

主要特點

• 提示、工具和記憶體的模組化鏈結
• 與LLMs、向量儲存和 API 整合
• 可選擇使用 LangSmith 進行追蹤和檢驗

3.CrewAI

CrewAI 可輕鬆建立多代理工作流程，其中每個代理都有明確的角色和任務。您可建立一個工作團隊、指派目標，而代理可透過共用的管理員進行協調。

這是建模代理協作的最快方法之一，而無需從頭開始編寫協調邏輯。

適用於規劃者與執行者配對、研究人員與審核人員流程等設定，或任何團隊型任務，因為這些任務的責任分工都很清楚。

但是一旦您開始增加複雜性，抽象就會變得緊湊。代理程式運行的方式和時間靈活性較低，而且修改行為通常意味著要跳出框架的預設值。

主要特點

• 具備名稱、目標和記憶的角色式代理程式設定
• 支援連續與平行的代理程式執行
• 共用機組記憶體以進行代理協作
• 與工具、功能和自訂提示輕鬆整合

4.AutoGPT

AutoGPT 是第一個展示當您給GPT 聊天機器人一個目標，然後讓它運行 - 計劃、思考、研究、執行，而不需要人類不斷輸入的專案。

您定義目標後，AutoGPT 就會循環推理步驟、建立子目標、呼叫工具，並一路調整策略。

這是一個巨大的躍進，讓代理行為感覺自主且動態。但它並不是為了精確度而建立的。

任務迴圈很脆弱，代理往往會陷入重寫相同計劃或追逐不相關的子任務的困境。

您可以將記憶體、工具和 API 連接在一起，但將所有東西拼接在一起往往會導致難以預測的流程，難以除錯或控制。

主要特點

• 具有自我提示和任務規劃功能的目標驅動型代理程式
• 自動子任務產生與執行迴圈
• 支援透過外掛程式和 API 呼叫使用工具
• 可使用自訂腳本、功能和整合進行擴充

5.自動生成

Autogen 是微軟的開放原始碼架構，專注於多代理對話，其中代理透過結構化、輪流的訊息進行互動。

當您想要控制每次交換時，例如在規劃 - 執行迴圈或人在迴圈系統中時，它就特別好用。

Autogen 在透明度方面大放異彩。您可以在對話中間注入函式、透過自訂邏輯路由決策，並追蹤每位代理說了什麼以及為什麼。

但擴充它需要工作。訊息協調很靈活，但並沒有抽象化 - 您仍需自行管理歷史記錄、代理配置和步驟邏輯。

對於研究設定、受控測試或可重複的代理行為，它是最精確的架構之一。

主要特點

• 回合制多機體通訊架構
• 支援人在迴圈和功能呼叫代理
• 透明訊息追蹤和自訂邏輯注入

步驟 1：找出您的單一代理邏輯中斷之處

在您的機器人或系統中尋找東西開始擴散的地方 - 長提示或連鎖的工具呼叫，感覺像是栓在上面的。那就是您的切入點。以下是一些容易發現的常見例子：

1. 退款流程可解析使用者輸入、檢查資格、發出退款並傳送確認訊息 - 全部都在一個循環中進行
2. 可在單一提示鏈中收集資料、驗證表單、指定使用者類型和觸發電子郵件的上線順序

與其重新設計整個系統，您只是在隔離已經出現裂痕的工作流程。

步驟 2：在接觸架構前先定義角色

找到亂七八糟的邏輯後，將它分解成真正的責任。

如果有東西在驗證輸入，那是一個代理。如果有東西在處理外部動作，那是另一個代理。

以簡明的語言寫明 - 足以揭露交接點。

一旦所有的東西都在你面前，你就會知道哪些是真正需要分開的，哪些是可以折疊的。這也讓您了解自己需要什麼樣的架構。

每個角色聽起來都應該是您可以自行測試的。

步驟 3：選擇架構

挑選適合您工作流程風格的平台。

• Visual:Botpress，如果您想要基於節點的流程和範圍記憶體。
• 程式碼第一：LangChain 或 CrewAI，如果您可以自如地使用 Python 進行邏輯佈線。

框架決定代理如何註冊、觸發和連線。

步驟 4：建立第一個工作流程

現在將這些角色轉換成代理。在您的架構中定義它們 - 給每個角色一個名稱、它的工作，以及它需要的任何工具或 API 存取權限。

一旦它們就位，就將它們連接起來。使用框架提供的任何路由，從一個代理移動到下一個代理。

我們的目標是讓一個完整的工作流程從頭到尾運作，並讓代理保持在他們的工作範圍內。

步驟 5：執行系統並檢查每次交接

觸發整個工作流程 - 從開始到結束 - 並追蹤所發生的事情。您應該觀察每個代理收到了什麼、它回傳了什麼，以及流程是否在它們之間順利移動。

如果代理收到混亂的輸入，可能是您的範圍設定錯誤。如果邏輯出乎意料地跳躍，您的路由需要修正。 

一旦交接乾淨，您就有了一個可運作的系統。

保持核心邏輯集中化

避免將重要的決策分散到多個代理。當關鍵推理發生在一個地方，而不是被分割成鬆散連結的片段時，維護和測試就會更容易。

預先定義代理的輸入和輸出

每個代理程式都應該有清楚定義的合約 - 它接收什麼、回傳什麼。這讓代理更容易更換或插入新的工作流程，而不會破壞流程邏輯。

記錄代理之間傳遞的每條訊息

如果您看不到代理之間在說什麼，您就無法調試任何東西。確保每個輸入和輸出都有足夠的上下文記錄，以便追溯整個流程。

使用範圍記憶體以降低雜訊和成本

只提供每個代理所需的上下文。全記憶體存取會導致臃腫的提示、更高的代號使用率，以及原本應該專注的代理無法預測的行為。

我如何知道我的 AI 專案是否真的需要多代理體架構，還是單一代理體就已經足夠？

如果您的單一代理程式的提示或工作流程變得太長或難以除錯，您的人工智慧專案很可能需要一個多代理程式框架，尤其是在處理多個不同的任務時，而較簡單的使用個案，例如基本的問與答或單一用途的機器人，通常只需要一個代理程式就能運作良好。

使用多重代理框架建置是否只適用於大型企業專案，還是也適合小型創業公司？

使用多重代理體架構進行建置不僅適用於大型企業，小型創業公司也能從中獲益，因為當複雜的任務被分割給專門的代理體，而不是將所有任務都堆疊在一個難以管理的大型迴圈中時，即使是一般的專案也能獲得更容易的除錯。

使用多重代理系統是否意味著我必須將所有事情分割成獨立的代理，還是我可以混合單一與多重代理的邏輯？ 

使用多重代理系統並不表示您必須將所有事情分割成不同的代理；您可以混合單一代理邏輯來處理簡單的任務，而將多重代理協調保留給複雜的工作流程。

多重代理系統與簡單地在應用程式中使用多個 API 或微服務有什麼不同？

多重代理系統與使用多個 API 或微服務不同，因為它能協調具有不同角色與推理能力的專門 AI 代理，傳遞結構化的訊息與狀態，而 API 與微服務只能處理離散的功能，無法獨立協調複雜的工作流程。

與運行單一大型LLM 相比，運行多代理系統的成本如何？

執行多代理系統的成本可能會比執行單一大型LLM 低，因為較小、專門的代理可以有效率地處理特定任務，而不會在長時間提示或重複上下文上浪費代幣，但它也會為管理協調和代理間通訊引入額外的開銷，因此節省的成本取決於您的使用個案複雜度。