Membina Aliran Kerja AI dengan Rangka Kerja Berbilang Ejen

Kebanyakan pembangun yang cuba membina ejen AI bermula dengan satu gelung model bahasa besar — satu arahan sistem dan mungkin satu atau dua alat — dan untuk tugas kecil, itu sudah mencukupi.

Tetapi apabila anda mahukan struktur, sistem mula menjadi tidak teratur. Hasil menjadi tidak dapat dijangka, aliran kerja sukar untuk dikesan pepijat, dan anda membazir token pada pengulangan bukannya kemajuan.

Aliran kerja multi-ejen membolehkan anda membina ejen AI yang berfungsi seperti satu pasukan dengan peranan yang jelas dan ketelusan dalam membuat keputusan serta bekerjasama ke arah matlamat yang sama.

Apakah itu Rangka Kerja Berbilang Ejen?

Rangka kerja multi-ejen ialah infrastruktur yang anda gunakan untuk membina, menjalankan, dan mengurus beberapa ejen AI secara terkoordinasi.

Ia adalah infrastruktur yang mengendalikan cara ejen berkomunikasi dan bagaimana tugas bergerak antara mereka.

Jika anda bekerja dengan sistem multi-ejen, rangka kerja inilah yang menjadikannya berfungsi.

Pada asasnya, ia menukar model bahasa besar (LLM) mentah menjadi ejen yang terhad skopnya, setiap satu dengan peranan dan cara operasi yang boleh dijangka.

Daripada menulis logik orkestrasi dari awal, rangka kerja memberi anda struktur, kawalan, dan kebolehulangan.

Rangka Kerja Berbilang Ejen: Konsep Utama

Bagaimana Rangka Kerja Berbilang Ejen Berfungsi?

Rangka kerja multi-ejen memberi struktur kepada cara ejen dicetuskan, cara mereka menghantar data, dan bagaimana sistem menjejak kemajuan.

Ia menyediakan blok binaan untuk menyelaras ejen dengan cara yang boleh diskalakan mengikut kerumitan dan boleh digunakan dalam pelaksanaan dunia sebenar.

Salah satu contohnya ialah menggunakan tetapan multi-ejen untuk menggerakkan chatbot WhatsApp. Dalam kes ini, ejen yang berbeza boleh mengendalikan tugas seperti tempahan, pemprosesan bayaran balik, atau pengesahan, bekerjasama di belakang tabir tanpa bergantung pada satu bot monolitik.

Ejen didaftarkan sebagai komponen yang boleh dipanggil dalam sistem

Sebelum ejen boleh melakukan apa-apa, rangka kerja perlu tahu ia wujud. Ini bermakna memberitahu sistem nama ejen, tanggungjawabnya, dan alat atau maklumat yang boleh diaksesnya.

Dalam kebanyakan rangka kerja, tetapan ini dilakukan melalui fail konfigurasi atau kod, di mana anda menentukan peranan setiap ejen dan cara mengaktifkannya. Sebagai contoh, anda boleh memberitahu sistem:

“Ini ialah perancang. Ia membaca input pengguna dan menentukan tindakan seterusnya.”
“Ini ialah pemeriksa. Ia mengambil maklumat pengguna dan mengembalikan booking_id dan maklumat pengguna.”

Setelah didaftarkan, rangka kerja boleh “memanggil” ejen ini mengikut nama, bermakna ia tahu cara menjalankan setiap satu apabila tiba giliran mereka dalam aliran kerja.

Ejen penghala menentukan ejen mana yang berjalan seterusnya

Ejen perancang atau fungsi pengawal mengendalikan penghalaan ejen AI. Ia melihat output bot terkini, sejarah perbualan semasa, dan kadangkala input asal pengguna untuk menentukan apa yang perlu dilakukan seterusnya.

Sesetengah perancang berasaskan arahan — mereka menerima mesej sistem dan mengeluarkan nama ejen seterusnya yang akan dijalankan.

Yang lain menggunakan logik tetap atau graf aliran, bergantung pada rangka kerja ejen AI yang anda gunakan.

Rangka kerja mengambil output itu dan menggunakannya untuk memanggil ejen seterusnya. Penghala menentukan siapa yang patut melakukan tugas, bukannya melakukannya sendiri.

Data dihantar antara ejen menggunakan mesej

Ejen tidak berkongsi memori secara langsung. Apabila satu ejen selesai, outputnya dibungkus dalam satu mesej — biasanya kamus atau objek JSON — dan dihantar kepada ejen seterusnya sebagai input.

Rangka kerja mengendalikan pemindahan ini. Ia sama ada menyimpan mesej dalam ruang memori bersama atau menghantarnya terus ke antara muka input ejen seterusnya, bergantung pada struktur sistem.

Mesej selalunya mengandungi lebih daripada sekadar kandungan:

• Siapa yang menghantarnya (ejen atau pengguna)
• Dari mana ia datang dalam aliran kerja
• Cara ia patut digunakan (cth., pencetus, input, keputusan)
• Metrik pilihan seperti kiraan token atau cap masa

Konteks ini membantu sistem menghala tugas dengan jelas dan memastikan ejen tidak saling bergantung secara langsung.

Pelaksanaan dijejak menggunakan keadaan aliran kerja dan pencetus

Rangka kerja menjejak apa yang telah berlaku setakat ini — ejen mana yang telah dijalankan, apa yang mereka pulangkan, dan apa yang masih perlu dilakukan. Ini disimpan dalam objek keadaan, yang dikemas kini selepas setiap langkah.

Pencetus menentukan apa yang berlaku seterusnya. Ia menggunakan nilai output atau syarat untuk mencabang aliran.

Ini membolehkan sistem bergerak ke hadapan tanpa perlu menulis logik tetap dalam setiap ejen. Keadaan yang menggerakkan aliran kerja, bukan ejen itu sendiri.

Manfaat Utama Menggunakan Rangka Kerja Berbilang Ejen

Skalakan logik tanpa membebankan satu ejen

Satu ejen AI hanya boleh melakukan setakat tertentu sebelum ia menjadi rumit dengan arahan, alat, dan tanggungjawab yang tidak jelas.

Daripada membebankan satu ejen, anda boleh menetapkan langkah khusus — seperti pengambilan, pengesahan, atau pelaksanaan — kepada ejen berasingan dan mengembangkan sistem secara berperingkat.

Jejak kerjasama ejen dengan keterlihatan penuh

Apabila ejen AI bekerjasama, isu boleh menjadi sukar untuk dikesan. Rangka kerja menunjukkan apa yang diterima setiap ejen, apa yang dipulangkan, dan di mana ia terhenti.

Anda tidak perlu meneka apa yang rosak — anda boleh periksa pemindahan tugas dan membetulkannya secara langsung. Keterlihatan seperti inilah yang menjadikan kerjasama ejen AI boleh diurus.

Guna semula ejen merentasi aliran kerja

Jika ejen berfungsi, guna semula ia. Rangka kerja membolehkan anda memasukkan ejen yang sama ke dalam aliran yang berbeza tanpa perlu menulis semula. Ini memastikan konsistensi dan mempercepat ujian.

Sebagai contoh, ejen pengesahan yang memeriksa input pengguna atau pengesahan boleh digunakan dalam kedua-dua chatbot khidmat pelanggan dan chatbot tempahan, di mana sahaja logik yang sama diperlukan.

Urus kegagalan dan cubaan semula secara automatik

Apabila ejen gagal, rangka kerja boleh mencuba semula, melangkau, atau teruskan. Anda tidak perlu menulis logik itu sendiri.

Ciri fallback terbina dalam menjadikan aliran kerja lebih boleh dipercayai tanpa usaha tambahan, dan kebolehpercayaan seperti inilah yang menggerakkan sistem dunia sebenar.

Bina aliran ejen yang mudah diubah

Apabila anda membahagikan tugas antara ejen, anda tidak perlu mengubah keseluruhan sistem setiap kali ada perubahan.

Anda boleh mengemas kini perancang tanpa menyentuh pelaksanaan, atau menukar cara satu ejen bertindak balas tanpa menulis semula yang lain.

Kemudahan akses ini sangat berbaloi—Salesforce melaporkan bahawa pasukan yang menggunakan AI berasaskan ejen menjimatkan 11 jam setiap pekerja setiap minggu, sebahagiannya kerana kebolehsuaian aliran kerja.

5 Rangka Kerja Berbilang Ejen Terbaik

Memilih rangka kerja multi-ejen bergantung pada apa yang anda bina dan berapa banyak kawalan yang anda mahukan terhadap cara ejen bertindak, berkomunikasi, dan pulih daripada kegagalan.

Rangka kerja terbaik menawarkan kompromi berbeza — ada yang bagus untuk aliran kerja berstruktur, yang lain memberi lebih fleksibiliti tetapi kurang jelas.

Anda perlukan sesuatu yang sesuai dengan keperluan pasukan anda dan sejauh mana anda mahu membangunkan sistem.

1. Botpress

Botpress ialah platform pembangunan visual untuk membina ejen AI yang boleh berkoordinasi merentasi langkah, peranan, dan saluran.

Daripada menulis logik dalam kod, anda menentukan tingkah laku ejen menggunakan aliran, memori, syarat, dan panggilan alat.

Tingkah laku multi-ejen dibina berdasarkan arahan, aliran kerja, dan alat luaran. Setiap nod dalam aliran Botpress bertindak sebagai unit fokus, dengan arahan dan skop tersendiri.

Anda boleh membahagikan penaakulan merentasi beberapa Nod Autonomi dan Statik, menambah lapisan pengesahan, atau menghala input pengguna melalui logik keputusan berasaskan alat, bukannya mengendalikan semuanya dalam satu langkah.

Memori dihadkan kepada setiap aliran, jadi ejen hanya menggunakan apa yang diperlukan. Input dan output ditakrifkan dengan jelas, dan panggilan alat boleh ditambah terus melalui integrasi terbina dalam.

Ciri Utama

• Orkestrasi ejen secara visual menggunakan aliran dan nod
• Kawalan memori dan pembolehubah terhad skop antara nod
• Memori berbilang giliran, logik fallback, dan cubaan semula
• Penggunaan alat melalui panggilan API, webhook, dan input fungsi

2. LangChain

LangChain ialah rangka kerja berorientasikan pembangun untuk membina aplikasi berkuasa LLM dengan menghubungkan rangkaian arahan, alat, dan memori.

Ia bermula sebagai cara untuk menyusun panggilan LLM dengan alat seperti carian dan kalkulator, tetapi secara beransur-ansur berkembang menjadi ekosistem yang luas.

Satu keluaran mengutamakan “ejen”, kemudian “pembantu”, kemudian “boleh dijalankan”. Hasilnya ialah set alat yang berkuasa dan boleh melakukan hampir apa sahaja, tetapi selalunya mengambil masa untuk dikuasai.

Anda boleh menetapkan kit alat dan membina logik penghalaan merentasi ejen. Kelebihannya ialah modulariti — komponen boleh diguna semula, dicampur dan dipadankan, serta diintegrasikan dengan baik dengan API luaran.

Tetapi anda akan menulis lebih banyak kod penghubung daripada yang dijangka. Dan dengan abstraksi yang sering berubah, berbaloi untuk menyemak sama ada kaedah yang anda gunakan masih yang disyorkan.

Ciri Utama

• Rangkaian modular arahan, alat, dan memori
• Boleh diintegrasikan dengan LLM, stor vektor, dan API
• Penjejakan dan penilaian pilihan dengan LangSmith

3. CrewAI

CrewAI memudahkan pembinaan aliran kerja multi-ejen di mana setiap ejen mempunyai peranan dan tugas yang ditetapkan. Anda cipta satu kru, tetapkan matlamat, dan ejen berkoordinasi melalui pengurus bersama.

Ia antara cara terpantas untuk memodelkan kerjasama ejen tanpa menulis logik orkestrasi dari awal.

Sesuai untuk tetapan seperti pasangan perancang–pelaksana, aliran penyelidikan–penyemak, atau mana-mana tugas berpasukan di mana tanggungjawab dibahagikan dengan jelas.

Tetapi apabila anda mula menambah kerumitan, abstraksi menjadi ketat. Kurang fleksibiliti tentang bagaimana dan bila ejen dijalankan, dan mengubah tingkah laku selalunya memerlukan keluar dari tetapan lalai rangka kerja.

Ciri Utama

• Tetapan ejen berasaskan peranan dengan nama, matlamat, dan memori
• Menyokong pelaksanaan ejen secara berurutan dan selari
• Memori kru bersama untuk kerjasama ejen
• Integrasi mudah dengan alat, fungsi, dan arahan tersuai

4. AutoGPT

AutoGPT ialah projek pertama yang menunjukkan bagaimana chatbot GPT boleh diberikan matlamat dan dibiarkan berjalan — merancang, berfikir, membuat kajian, dan melaksanakan tanpa input manusia berterusan.

Anda tetapkan objektif, dan AutoGPT mengulangi langkah penaakulan, mencipta sub-matlamat, memanggil alat, dan melaraskan strateginya sepanjang proses.

Ia merupakan lonjakan besar dalam menjadikan tingkah laku ejen terasa autonomi dan dinamik. Tetapi ia tidak dibina untuk ketepatan.

Gelung tugasnya rapuh, dan ejen cenderung terperangkap mengulang rancangan yang sama atau mengejar sub-tugas yang tidak berkaitan.

Anda boleh sambungkan memori, alat, dan API — tetapi menggabungkan semuanya sering membawa kepada aliran yang tidak dapat dijangka dan sukar dikesan pepijat atau dikawal.

Ciri Utama

• Ejen berasaskan matlamat dengan arahan kendiri dan perancangan tugas
• Penjanaan sub-tugas automatik dan gelung pelaksanaan
• Menyokong penggunaan alat melalui pemalam dan panggilan API
• Boleh dikembangkan dengan skrip, fungsi, dan integrasi tersuai

5. Autogen

Autogen ialah rangka kerja sumber terbuka dari Microsoft yang memfokuskan pada perbualan multi-ejen, di mana ejen berinteraksi melalui mesej berstruktur dan berasaskan giliran.

Ia sangat berguna apabila anda mahukan kawalan ke atas setiap pertukaran, seperti dalam gelung perancangan – pelaksanaan atau sistem manusia-dalam-giliran.

Autogen menonjol dalam ketelusan. Anda boleh menyuntik fungsi di tengah perbualan, menghala keputusan melalui logik tersuai, dan menjejak dengan tepat apa yang dikatakan setiap ejen dan sebabnya.

Tetapi untuk meningkatkan skala, ia memerlukan usaha. Orkestrasi mesej adalah fleksibel, tetapi tidak diabstrakkan — anda masih perlu mengurus sejarah, konfigurasi ejen, dan logik langkah sendiri.

Untuk penyelidikan, ujian terkawal, atau tingkah laku ejen yang boleh diulang, ini adalah antara rangka kerja yang paling tepat tersedia.

Ciri Utama

• Rangka kerja komunikasi berbilang ejen secara giliran
• Menyokong ejen manusia-dalam-giliran dan pemanggilan fungsi
• Penjejakan mesej yang telus dan suntikan logik tersuai

Cara Membina dengan Rangka Kerja Berbilang Ejen

Cara paling mudah untuk bermula ialah memilih satu aliran kerja sebenar — sesuatu yang sudah terlalu rumit untuk satu ejen — dan pecahkan kepada beberapa bahagian mudah.

Fikirkan tentang chatbot penjana prospek, aliran tempahan, atau apa-apa sahaja di mana logik, pengesahan, dan tindakan menjadi berselirat.

Berikan setiap langkah ejennya sendiri, kemudian sambungkan langkah-langkah itu menggunakan alat penghalaan dan pemesejan rangka kerja.

Langkah 1: Kenal pasti di mana logik ejen tunggal anda mula bermasalah

Cari bahagian dalam bot atau sistem anda di mana perkara mula menjadi rumit — arahan panjang atau panggilan alat berantai yang terasa seperti ditampal. Itulah titik permulaan anda. Berikut beberapa contoh biasa yang mudah dikenali:

1. Aliran bayaran balik yang mentafsir input pengguna, menyemak kelayakan, memproses bayaran balik, dan menghantar pengesahan — semuanya dalam satu kitaran
2. Urutan onboarding yang mengumpul data, mengesahkan borang, menetapkan jenis pengguna, dan mencetuskan emel dalam satu rantai arahan

Daripada mereka bentuk semula seluruh sistem, anda hanya mengasingkan aliran kerja yang sudah menunjukkan masalah.

Langkah 2: Tetapkan peranan sebelum anda sentuh rangka kerja

Setelah anda temui logik yang berserabut, pecahkan kepada tanggungjawab sebenar.

Jika sesuatu mengesahkan input, itu satu ejen. Jika sesuatu mengurus tindakan luaran, itu ejen lain.

Tulis dalam bahasa mudah — cukup untuk menunjukkan di mana penyerahan berlaku.

Dan apabila semuanya di hadapan anda, anda akan nampak apa yang benar-benar perlu diasingkan dan apa yang boleh digabungkan. Ia juga membantu anda memahami jenis rangka kerja yang diperlukan.

Setiap peranan sepatutnya kedengaran seperti sesuatu yang boleh diuji secara berasingan.

Langkah 3: Pilih rangka kerja

Pilih platform yang sesuai dengan gaya aliran kerja anda.

• Visual: Botpress, jika anda mahukan aliran berasaskan nod dan memori terhad.
• Kod-utama: LangChain atau CrewAI jika anda selesa menyusun logik dalam Python.

Rangka kerja menentukan bagaimana ejen didaftarkan, dicetuskan, dan dihubungkan.

Langkah 4: Bina aliran kerja pertama

Sekarang tukarkan peranan itu kepada ejen. Tetapkan mereka dalam rangka kerja anda — berikan setiap satu nama, tugas, dan akses alat atau API yang diperlukan.

Setelah semuanya siap, sambungkan mereka. Gunakan apa sahaja penghalaan yang disediakan rangka kerja untuk bergerak dari satu ejen ke ejen seterusnya.

Matlamat di sini ialah mendapatkan satu aliran kerja lengkap berjalan dari mula hingga akhir, dengan ejen yang kekal pada peranan masing-masing.

Langkah 5: Jalankan sistem dan periksa setiap penyerahan tugas

Cetuskan keseluruhan aliran kerja — dari awal hingga akhir — dan jejak apa yang berlaku. Anda perlu memerhati apa yang diterima setiap ejen, apa yang dikembalikan, dan sama ada aliran bergerak lancar antara mereka.

Jika ejen menerima input yang mengelirukan, mungkin skopnya tidak betul. Jika logik melompat secara tidak dijangka, penghalaan anda perlu dibaiki.

Apabila penyerahan tugas sudah lancar, anda mempunyai sistem yang berfungsi.

Amalan Terbaik untuk Menggunakan Rangka Kerja Berbilang Ejen

Memilih rangka kerja hanyalah permulaan. Apa yang lebih penting ialah bagaimana anda mereka bentuk, menguji, dan mengurus aliran kerja yang anda bina dengannya.

Apabila sistem AI menjadi lebih modular dan autonomi, kebolehjejakannya semakin sukar.

Pastikan logik teras dipusatkan

Elakkan menyebarkan keputusan kritikal ke beberapa ejen. Ia lebih mudah diselenggara dan diuji apabila penaakulan utama berlaku di satu tempat berbanding dipecahkan kepada bahagian yang longgar.

Tetapkan input dan output ejen dari awal

Setiap ejen perlu mempunyai kontrak yang jelas — apa yang diterima, apa yang dikembalikan. Ini memudahkan ejen ditukar atau digunakan dalam aliran kerja baru tanpa menjejaskan logik aliran.

Log setiap mesej yang dihantar antara ejen

Jika anda tidak dapat melihat apa yang ejen saling katakan, anda tidak boleh menyahpepijat apa-apa. Pastikan setiap input dan output direkodkan dengan konteks yang cukup untuk dijejak semula dalam aliran.

Gunakan memori terhad untuk kurangkan gangguan dan kos

Berikan setiap ejen hanya konteks yang diperlukan. Akses memori penuh menyebabkan arahan menjadi panjang, penggunaan token meningkat, dan tingkah laku ejen menjadi tidak menentu.

Mula Bina AI yang Boleh Berkoordinasi

Kebanyakan sistem gagal apabila koordinasi sebenar diperlukan. Botpress memberi anda kawalan bagaimana ejen menyerahkan tugas — dengan peranan dan logik yang jelas, anda boleh menguji dan memahami.

Ia juga membolehkan anda memindahkan data dengan lancar antara aliran. Anda boleh menjejak setiap langkah dengan log berbilang giliran yang menunjukkan alat mana dipanggil, sebab ia dijalankan, dan bagaimana ia digunakan dalam aliran kerja.

Daripada menala arahan dan mengawal halusinasi, anda fokus pada fungsi sebenar — membina ejen yang berfungsi seperti perisian.

Mula membina hari ini — ia percuma.

Soalan Lazim

Bagaimana saya tahu sama ada projek AI saya benar-benar memerlukan rangka kerja berbilang ejen, atau satu ejen sudah mencukupi?

Projek AI anda mungkin memerlukan rangka kerja berbilang ejen jika arahan atau aliran kerja ejen tunggal anda menjadi terlalu panjang atau sukar untuk dinyahpepijat, terutamanya apabila mengendalikan pelbagai tugas berbeza, manakala kes penggunaan mudah seperti soal jawab asas atau bot satu tujuan biasanya memadai dengan satu ejen sahaja.

Adakah membina dengan rangka kerja berbilang ejen hanya untuk projek perusahaan besar, atau sesuai juga untuk syarikat permulaan kecil?

Membina dengan rangka kerja berbilang ejen bukan hanya untuk perusahaan besar — syarikat permulaan kecil juga boleh mendapat manfaat, kerana walaupun projek sederhana menjadi lebih mudah dinyahpepijat apabila tugas kompleks dipecahkan kepada ejen khusus berbanding mengumpulkan semuanya dalam satu kitaran besar yang sukar diurus.

Adakah menggunakan sistem berbilang ejen bermakna saya perlu memecahkan semua kepada ejen berasingan, atau boleh saya gabungkan logik ejen tunggal dan berbilang ejen?

Menggunakan sistem berbilang ejen tidak bermakna anda perlu memecahkan semua kepada ejen berasingan; anda boleh gabungkan logik ejen tunggal untuk tugas mudah dan gunakan orkestrasi berbilang ejen untuk aliran kerja yang kompleks.

Bagaimana sistem berbilang ejen berbeza daripada hanya menggunakan pelbagai API atau mikroservis dalam aplikasi saya?

Sistem berbilang ejen berbeza daripada menggunakan pelbagai API atau mikroservis kerana ia menyelaras ejen AI khusus dengan peranan dan keupayaan penaakulan tersendiri yang bertukar mesej dan keadaan berstruktur, manakala API dan mikroservis mengendalikan fungsi berasingan tetapi tidak mengorkestrasi aliran kerja kompleks secara bebas.

Bagaimana kos menjalankan sistem berbilang ejen berbanding menjalankan satu LLM besar?

Kos menjalankan sistem berbilang ejen boleh jadi lebih rendah berbanding satu LLM besar kerana ejen kecil yang khusus boleh mengendalikan tugas tertentu dengan cekap tanpa membazir token untuk arahan panjang atau konteks berulang, tetapi ia juga memperkenalkan kos tambahan untuk mengurus orkestrasi dan komunikasi antara ejen, jadi penjimatan bergantung pada kerumitan kes penggunaan anda.