Xây dựng quy trình làm việc AI với các khuôn khổ đa tác nhân

Các tác nhân được đăng ký là các thành phần có thể gọi được trong hệ thống

Trước khi một tác nhân có thể làm bất cứ điều gì, khuôn khổ cần biết nó tồn tại. Điều này có nghĩa là cho hệ thống biết tên của tác nhân, tác nhân chịu trách nhiệm cho việc gì và những công cụ hoặc thông tin nào mà nó có thể truy cập.

Trong hầu hết các khuôn khổ, thiết lập này diễn ra thông qua tệp cấu hình hoặc một số mã, trong đó bạn xác định vai trò của từng tác nhân và cách kích hoạt vai trò đó. Ví dụ, bạn có thể cho hệ thống biết:

“Đây là trình lập kế hoạch. Nó đọc dữ liệu đầu vào của người dùng và quyết định phải làm gì tiếp theo.”
“Đây là trình xác minh. Nó lấy thông tin người dùng và trả về booking_id và thông tin người dùng.”

Sau khi đăng ký, khuôn khổ có thể "gọi" các tác nhân này theo tên, nghĩa là nó biết cách chạy từng tác nhân khi đến lượt chúng trong quy trình làm việc.

Tác nhân định tuyến quyết định tác nhân nào chạy tiếp theo

Một tác nhân lập kế hoạch hoặc chức năng điều khiển xử lý định tuyến tác nhân AI . Nó xem xét đầu ra bot mới nhất, lịch sử hội thoại hiện tại và đôi khi là đầu vào ban đầu của người dùng để quyết định điều gì cần xảy ra tiếp theo.

Một số trình lập kế hoạch dựa trên lời nhắc — họ tiếp nhận thông báo hệ thống và đưa ra tên của tác nhân tiếp theo để chạy.

Những người khác sử dụng logic được mã hóa cứng hoặc biểu đồ luồng, tùy thuộc vào khuôn khổ tác nhân AI mà bạn đang làm việc.

Khung lấy đầu ra đó và sử dụng nó để gọi tác nhân tiếp theo. Bộ định tuyến quyết định ai nên thực hiện nhiệm vụ thay vì thực hiện nhiệm vụ.

Dữ liệu được truyền giữa các tác nhân bằng cách sử dụng tin nhắn

Các tác nhân không chia sẻ bộ nhớ trực tiếp. Khi một tác nhân chạy xong, đầu ra của nó được đóng gói thành một thông báo — thường là một từ điển hoặc đối tượng JSON — và được chuyển đến tác nhân tiếp theo làm đầu vào.

Khung xử lý việc chuyển giao. Nó lưu trữ thông điệp trong không gian bộ nhớ dùng chung hoặc chuyển trực tiếp đến giao diện đầu vào của tác nhân tiếp theo, tùy thuộc vào cách hệ thống được cấu trúc.

Tin nhắn thường bao gồm nhiều nội dung hơn là chỉ có nội dung:

• Ai đã gửi nó (đại lý hoặc người dùng)
• Nó đến từ đâu trong quy trình làm việc
• Cách sử dụng (ví dụ: kích hoạt, đầu vào, quyết định)
• Các số liệu tùy chọn như số lượng mã thông báo hoặc dấu thời gian

Bối cảnh này giúp hệ thống định tuyến các tác vụ một cách rõ ràng và tách biệt các tác nhân với nhau.

Việc thực hiện được theo dõi bằng cách sử dụng trạng thái quy trình làm việc và các kích hoạt

Khung theo dõi những gì đã xảy ra cho đến nay — tác nhân nào đã chạy, tác nhân nào đã trả về và tác nhân nào vẫn cần phải xảy ra. Điều này được lưu trữ trong đối tượng trạng thái, đối tượng này sẽ cập nhật sau mỗi bước.

Các trình kích hoạt quyết định điều gì sẽ xảy ra tiếp theo. Chúng sử dụng các giá trị đầu ra hoặc điều kiện để phân nhánh luồng.

Điều này cho phép hệ thống tiến triển mà không cần mã hóa logic cứng vào mọi tác nhân. Trạng thái điều khiển quy trình làm việc, không phải bản thân các tác nhân.

Logic mở rộng mà không làm quá tải một tác nhân duy nhất

Một tác nhân AI đơn lẻ chỉ có thể làm được nhiều như vậy trước khi nó trở thành một mớ hỗn độn các lời nhắc, công cụ và trách nhiệm không rõ ràng. Các khuôn khổ đa tác nhân cho phép bạn chia logic đó thành các tác nhân tập trung, mỗi tác nhân xử lý một nhiệm vụ rõ ràng.

Thay vì sử dụng một tác nhân duy nhất, bạn có thể chỉ định các bước cụ thể — như truy xuất, xác thực hoặc thực thi — để phân tách các tác nhân và phát triển hệ thống từng phần.

Cộng tác gỡ lỗi với khả năng hiển thị đầy đủ

Khi các tác nhân AI làm việc cùng nhau, các vấn đề có thể khó theo dõi. Các khuôn khổ cho bạn biết mỗi tác nhân nhận được gì, trả về gì và bị dừng ở đâu.

Bạn không đoán được điều gì đã hỏng — bạn kiểm tra các bản chuyển giao và sửa trực tiếp. Khả năng hiển thị này là điều khiến cho sự hợp tác của tác nhân AI trở nên dễ quản lý.

Tái sử dụng các tác nhân trên các quy trình công việc

Nếu một tác nhân hoạt động, hãy tái sử dụng nó. Các khuôn khổ cho phép bạn cắm cùng một tác nhân vào các luồng khác nhau mà không cần viết lại nó. Điều đó giúp mọi thứ nhất quán và giúp thử nghiệm nhanh hơn.

Ví dụ, một tác nhân xác thực kiểm tra thông tin đầu vào hoặc xác thực của người dùng có thể được sử dụng trong cả chatbot dịch vụ khách hàng và chatbot đặt chỗ , bất cứ nơi nào áp dụng cùng một logic.

Xử lý lỗi và thử lại tự động

Khi một tác nhân thất bại, khuôn khổ có thể thử lại, bỏ qua hoặc tiếp tục. Bạn không cần phải tự viết logic đó.  

Tính năng dự phòng tích hợp giúp quy trình làm việc đáng tin cậy hơn mà không cần thêm công việc, và độ tin cậy đó chính là sức mạnh của các hệ thống trong thế giới thực.

Xây dựng luồng tác nhân dễ thay đổi

Khi bạn phân chia nhiệm vụ cho nhiều tác nhân, bạn không cần phải làm lại toàn bộ hệ thống mỗi khi có thay đổi.

Bạn có thể cập nhật trình lập kế hoạch mà không cần tác động đến quá trình thực thi hoặc thay đổi cách phản hồi của một tác nhân mà không cần phải viết lại phần còn lại.

Sự dễ dàng tiếp cận đó mang lại hiệu quả—Salesforce báo cáo rằng các nhóm sử dụng AI của agentic tiết kiệm được 11 giờ cho mỗi nhân viên mỗi tuần, một phần là nhờ vào khả năng thích ứng của quy trình làm việc.

1. Botpress

Botpress là nền tảng phát triển trực quan để xây dựng các tác nhân AI có thể phối hợp qua các bước, vai trò và kênh.

Thay vì kết nối logic trong mã, bạn sẽ xác định cách các tác nhân hoạt động bằng cách sử dụng luồng, bộ nhớ, điều kiện và lệnh gọi công cụ.

Hành vi của nhiều tác nhân được xây dựng xung quanh các hướng dẫn, quy trình làm việc và các công cụ bên ngoài. Mỗi nút trong một Botpress dòng chảy hoạt động như một đơn vị tập trung, có hướng dẫn và phạm vi riêng.

Bạn có thể chia nhỏ lý luận trên nhiều Nút tự động và Nút tĩnh, thêm các lớp xác thực hoặc định tuyến dữ liệu đầu vào của người dùng thông qua logic quyết định dựa trên công cụ thay vì xử lý mọi thứ trong một bước.

Bộ nhớ được giới hạn cho từng luồng, do đó các tác nhân chỉ sử dụng những gì họ cần. Đầu vào và đầu ra được xác định rõ ràng và các lệnh gọi công cụ có thể được thêm trực tiếp thông qua tích hợp sẵn.

Các tính năng chính

• Phối hợp tác nhân trực quan bằng cách sử dụng luồng và nút
• Bộ nhớ có phạm vi và điều khiển biến giữa các nút
• Bộ nhớ nhiều vòng, logic dự phòng và thử lại
• Sử dụng công cụ thông qua lệnh gọi API, webhooks và đầu vào hàm

2. Chuỗi Lang

LangChain là một khuôn khổ dành cho nhà phát triển để xây dựng LLM - cung cấp năng lượng cho các ứng dụng bằng cách kết nối các chuỗi lời nhắc, công cụ và bộ nhớ.

Nó bắt đầu như một cách để cấu trúc LLM gọi bằng các công cụ như tìm kiếm và máy tính, nhưng dần dần mở rộng thành một hệ sinh thái rộng lớn.

Một bản phát hành ưu tiên "tác nhân", sau đó là "trợ lý", rồi đến "chạy được". Kết quả là một bộ công cụ mạnh mẽ có thể làm được hầu hết mọi thứ, nhưng thường mất thời gian để điều hướng.

Bạn có thể chỉ định bộ công cụ và xây dựng logic định tuyến trên các tác nhân. Điểm nổi bật của nó là tính mô-đun — các thành phần có thể tái sử dụng, kết hợp và kết hợp tốt với các API bên ngoài.

Nhưng bạn sẽ viết nhiều mã keo hơn dự kiến. Và với sự thay đổi nhanh chóng của các khái niệm trừu tượng, bạn nên kiểm tra xem phương pháp bạn đang sử dụng có còn là phương pháp được ưa chuộng hay không.

Các tính năng chính

• Chuỗi mô-đun của lời nhắc, công cụ và bộ nhớ
• Tích hợp với LLMs , kho vector và API
• Theo dõi và đánh giá tùy chọn với LangSmith

3. Phi hành đoànAI

CrewAI giúp dễ dàng xây dựng quy trình làm việc của nhiều tác nhân, trong đó mỗi tác nhân có vai trò và nhiệm vụ được xác định. Bạn tạo một nhóm, chỉ định mục tiêu và các tác nhân phối hợp thông qua một người quản lý chung.

Đây là một trong những cách nhanh nhất để mô hình hóa sự cộng tác của tác nhân mà không cần phải viết lại logic điều phối từ đầu.

Thích hợp cho các thiết lập như cặp người lập kế hoạch-thực hiện, luồng nghiên cứu-người đánh giá hoặc bất kỳ nhiệm vụ nào theo nhóm, trong đó trách nhiệm được phân chia rõ ràng.

Nhưng một khi bạn bắt đầu thêm độ phức tạp, sự trừu tượng trở nên chặt chẽ. Có ít sự linh hoạt hơn về cách thức và thời điểm các tác nhân chạy, và việc sửa đổi hành vi thường có nghĩa là bước ra ngoài các mặc định của khuôn khổ.

Các tính năng chính

• Thiết lập tác nhân dựa trên vai trò với tên, mục tiêu và bộ nhớ
• Hỗ trợ thực hiện tác nhân tuần tự và song song
• Bộ nhớ phi hành đoàn được chia sẻ để cộng tác với tác nhân
• Tích hợp dễ dàng với các công cụ, chức năng và lời nhắc tùy chỉnh

4. Tự động GPT

AutoGPT là dự án đầu tiên cho thấy giao diện khi bạn đưa cho chatbot GPT một mục tiêu và để nó chạy — lập kế hoạch, suy nghĩ, nghiên cứu và thực hiện mà không cần sự can thiệp liên tục của con người.

Bạn xác định mục tiêu và AutoGPT sẽ lặp lại các bước lý luận, tạo các mục tiêu phụ, gọi công cụ và điều chỉnh chiến lược trong suốt quá trình.

Đó là một bước tiến lớn trong việc khiến hành vi của tác nhân trở nên tự chủ và năng động. Nhưng nó không được xây dựng để đạt được độ chính xác.

Vòng lặp nhiệm vụ rất mong manh và các tác nhân có xu hướng bị mắc kẹt khi phải viết lại cùng một kế hoạch hoặc theo đuổi các nhiệm vụ phụ không liên quan.

Bạn có thể kết nối bộ nhớ, công cụ và API — nhưng việc ghép nối mọi thứ lại với nhau thường dẫn đến các luồng không thể đoán trước, khó gỡ lỗi hoặc điều hướng.

Các tính năng chính

• Tác nhân hướng mục tiêu với chức năng tự nhắc nhở và lập kế hoạch nhiệm vụ
• Tạo và thực hiện vòng lặp tác vụ con tự động
• Hỗ trợ sử dụng công cụ thông qua plugin và lệnh gọi API
• Có thể mở rộng với các tập lệnh, chức năng và tích hợp tùy chỉnh

5. Tự động sinh

Autogen là một khuôn khổ mã nguồn mở của Microsoft tập trung vào các cuộc trò chuyện giữa nhiều tác nhân, trong đó các tác nhân tương tác thông qua các tin nhắn có cấu trúc theo lượt.

Tính năng này đặc biệt hữu ích khi bạn muốn kiểm soát mọi giao dịch, chẳng hạn như trong các vòng lặp lập kế hoạch - thực hiện hoặc hệ thống có sự tham gia của con người .

Autogen tỏa sáng trong tính minh bạch. Bạn có thể đưa các chức năng vào giữa cuộc trò chuyện, định tuyến các quyết định thông qua logic tùy chỉnh và theo dõi chính xác những gì mỗi tác nhân đã nói và lý do tại sao.

Nhưng việc mở rộng quy mô cần có công sức. Việc sắp xếp tin nhắn linh hoạt nhưng không trừu tượng — bạn vẫn phải tự quản lý lịch sử, cấu hình tác nhân và logic bước.

Đối với các thiết lập nghiên cứu, thử nghiệm có kiểm soát hoặc hành vi của tác nhân có thể tái tạo, đây là một trong những khuôn khổ chính xác nhất hiện nay.

Các tính năng chính

• Khung giao tiếp đa tác nhân theo lượt
• Hỗ trợ các tác nhân gọi hàm và con người trong vòng lặp
• Theo dõi tin nhắn minh bạch và chèn logic tùy chỉnh

Bước 1: Xác định nơi logic tác nhân đơn lẻ của bạn bị hỏng

Hãy tìm một nơi trong bot hoặc hệ thống của bạn nơi mọi thứ bắt đầu lan rộng — lời nhắc dài hoặc các lệnh gọi công cụ được xâu chuỗi tạo cảm giác như được bắt vít. Đó là điểm vào của bạn. Sau đây là một số ví dụ phổ biến dễ nhận thấy:

1. Luồng hoàn tiền phân tích dữ liệu đầu vào của người dùng, kiểm tra tính đủ điều kiện, hoàn tiền và gửi xác nhận — tất cả trong một vòng lặp
2. Một chuỗi hướng dẫn thu thập dữ liệu, xác thực biểu mẫu, chỉ định loại người dùng và kích hoạt email trong một chuỗi nhắc nhở duy nhất

Thay vì thiết kế lại toàn bộ hệ thống, bạn chỉ cần cô lập quy trình làm việc đang có vấn đề.

Bước 2: Xác định vai trò trước khi bạn chạm vào khuôn khổ

Khi bạn đã tìm ra được logic phức tạp, hãy chia nhỏ nó thành những trách nhiệm thực sự.

Nếu có thứ gì đó xác thực đầu vào, thì đó là một tác nhân. Nếu có thứ gì đó xử lý hành động bên ngoài, thì đó là một tác nhân khác.

Viết ra bằng ngôn ngữ dễ hiểu — vừa đủ để nêu rõ nơi chuyển giao.

Và khi tất cả đã ở trước mắt bạn, bạn sẽ thấy những gì thực sự cần phải tách biệt và những gì có thể thu gọn. Nó cũng cho bạn cảm nhận về loại khuôn khổ bạn cần.

Mỗi vai trò đều phải giống như một thứ gì đó mà bạn có thể tự mình thử nghiệm.

Bước 3: Chọn khung

Chọn một nền tảng phù hợp với phong cách làm việc của bạn.

• Thị giác : Botpress , nếu bạn muốn luồng dựa trên nút và bộ nhớ có phạm vi.
• Code-first : LangChain hoặc CrewAI nếu bạn có thể lập trình logic bằng Python.

Khung này quyết định cách thức các tác nhân được đăng ký, kích hoạt và kết nối.

Bước 4: Xây dựng quy trình làm việc đầu tiên

Bây giờ hãy biến những vai trò đó thành các tác nhân. Xác định chúng trong khuôn khổ của bạn — đặt tên cho từng vai trò, công việc của vai trò và bất kỳ công cụ hoặc quyền truy cập API nào mà vai trò đó cần.

Khi đã vào đúng vị trí, hãy kết nối chúng. Sử dụng bất kỳ định tuyến nào mà khung cung cấp để di chuyển từ tác nhân này sang tác nhân khác.

Mục tiêu ở đây là có một quy trình làm việc hoàn chỉnh chạy xuyên suốt, với các tác nhân làm việc đúng nhiệm vụ của mình.

Bước 5: Chạy hệ thống và kiểm tra mọi lần chuyển giao

Kích hoạt toàn bộ quy trình làm việc — từ đầu đến cuối — và theo dõi những gì xảy ra. Bạn nên theo dõi những gì mỗi tác nhân nhận được, những gì nó trả về và liệu luồng có di chuyển rõ ràng giữa chúng hay không.

Nếu một tác nhân nhận được thông tin đầu vào nhầm lẫn, có thể bạn đã xác định sai phạm vi. Nếu logic nhảy đột ngột, bạn cần sửa lại định tuyến. 

Sau khi việc chuyển giao được thực hiện sạch sẽ, bạn sẽ có một hệ thống hoạt động.

Giữ logic cốt lõi tập trung

Tránh việc phân tán các quyết định quan trọng cho nhiều tác nhân. Sẽ dễ dàng hơn để duy trì và kiểm tra khi lý luận chính diễn ra ở một nơi thay vì bị chia thành nhiều phần rời rạc.

Xác định đầu vào và đầu ra của tác nhân ngay từ đầu

Mỗi tác nhân phải có hợp đồng được xác định rõ ràng — những gì tác nhân tiếp nhận, những gì tác nhân trả về. Điều này giúp các tác nhân dễ dàng hoán đổi hoặc cắm vào quy trình làm việc mới mà không làm gián đoạn logic luồng.

Ghi lại mọi tin nhắn được truyền giữa các tác nhân

Nếu bạn không thể thấy các tác nhân đang nói gì với nhau, bạn không thể gỡ lỗi bất cứ điều gì. Đảm bảo mọi đầu vào và đầu ra đều được ghi lại với đủ ngữ cảnh để theo dõi ngược lại luồng.

Sử dụng bộ nhớ có phạm vi để giảm tiếng ồn và chi phí

Chỉ cung cấp cho mỗi tác nhân ngữ cảnh mà nó cần. Truy cập bộ nhớ đầy đủ dẫn đến lời nhắc phình to, sử dụng mã thông báo nhiều hơn và hành vi không thể đoán trước từ các tác nhân được cho là tập trung.

Làm sao tôi biết được dự án AI của mình có thực sự cần một khuôn khổ đa tác nhân hay chỉ cần một tác nhân duy nhất là đủ?

Dự án AI của bạn có thể cần một khuôn khổ đa tác nhân nếu lời nhắc hoặc quy trình làm việc của tác nhân duy nhất trở nên quá dài hoặc khó gỡ lỗi, đặc biệt là khi xử lý nhiều tác vụ riêng biệt, trong khi các trường hợp sử dụng đơn giản hơn như Hỏi & Đáp cơ bản hoặc bot có mục đích đơn lẻ thường hoạt động tốt chỉ với một tác nhân.

Xây dựng bằng khuôn khổ đa tác nhân chỉ dành cho các dự án doanh nghiệp lớn hay nó cũng phù hợp với các công ty khởi nghiệp nhỏ?

Xây dựng bằng khuôn khổ đa tác nhân không chỉ dành cho các doanh nghiệp lớn — các công ty khởi nghiệp nhỏ cũng có thể hưởng lợi, vì ngay cả các dự án khiêm tốn cũng có thể gỡ lỗi dễ dàng hơn khi các tác vụ phức tạp được chia cho các tác nhân chuyên biệt thay vì dồn tất cả mọi thứ vào một vòng lặp lớn, khó quản lý.

Sử dụng hệ thống đa tác nhân có nghĩa là tôi phải chia mọi thứ thành các tác nhân riêng biệt hay tôi có thể kết hợp logic tác nhân đơn và đa tác nhân? 

Sử dụng hệ thống đa tác nhân không có nghĩa là bạn phải chia mọi thứ thành các tác nhân riêng biệt; bạn có thể kết hợp logic tác nhân đơn lẻ cho các tác vụ đơn giản trong khi vẫn dành sự phối hợp đa tác nhân cho các quy trình làm việc phức tạp.

Hệ thống đa tác nhân khác với việc chỉ sử dụng nhiều API hoặc dịch vụ vi mô trong ứng dụng của tôi như thế nào?

Hệ thống đa tác nhân khác với việc sử dụng nhiều API hoặc dịch vụ vi mô vì nó phối hợp các tác nhân AI chuyên biệt với các vai trò và khả năng lập luận riêng biệt để truyền tải thông điệp có cấu trúc và trạng thái, trong khi API và dịch vụ vi mô xử lý các chức năng riêng biệt nhưng không điều phối độc lập các quy trình làm việc phức tạp.

Chi phí vận hành hệ thống đa tác nhân so với việc vận hành một hệ thống lớn duy nhất như thế nào? LLM ?

Chi phí vận hành hệ thống đa tác nhân có thể thấp hơn so với việc vận hành một hệ thống lớn duy nhất LLM vì các tác nhân nhỏ hơn, chuyên biệt hơn có thể xử lý các tác vụ cụ thể một cách hiệu quả mà không lãng phí mã thông báo vào các lời nhắc dài hoặc ngữ cảnh lặp lại, nhưng nó cũng tạo thêm chi phí quản lý cho việc phối hợp và giao tiếp giữa các tác nhân, do đó, khoản tiết kiệm phụ thuộc vào độ phức tạp của trường hợp sử dụng của bạn.