- Rangka kerja berbilang ejen membahagikan tugas yang kompleks merentas ejen khusus dan bukannya satu gergasi LLM gelung.
- Ejen berkomunikasi melalui mesej, diuruskan dengan logik penghalaan dan keadaan aliran kerja dikongsi.
- Faedah termasuk penyahpepijatan yang lebih baik, logik boleh guna semula, penskalaan yang lebih mudah dan pengendalian ralat yang boleh dipercayai.
- Alat seperti Botpress , LangChain, dan CrewAI membantu pembangun membina sistem ejen yang diselaraskan dengan lebih pantas.
Kebanyakan pembangun yang cuba membina ejen AI bermula dengan satu gelung model bahasa yang besar — gesaan sistem dan mungkin satu atau dua alat — dan untuk tugasan kecil, itu sudah memadai.
Tetapi sebaik sahaja anda mahukan struktur, sistem mula bercelaru. Output menjadi tidak dapat diramalkan, aliran kerja menjadi sukar untuk dinyahpepijat dan anda membakar token pada pengulangan dan bukannya kemajuan.
Aliran kerja berbilang ejen membolehkan anda membina ejen AI yang berkelakuan lebih seperti pasukan dengan peranan dan keterlihatan yang jelas tentang cara keputusan dibuat dan berfungsi ke arah matlamat yang sama.
Apakah Rangka Kerja Pelbagai Agen?
Rangka kerja berbilang ejen ialah infrastruktur yang anda gunakan untuk membina, menjalankan dan mengurus berbilang ejen AI dalam penyelarasan.
Infrastruktur yang mengendalikan cara ejen berkomunikasi dan cara tugas bergerak di antara mereka.
Jika anda bekerja dengan sistem berbilang ejen , rangka kerja itulah yang menjadikannya beroperasi.
Pada terasnya, ia mengubah model bahasa besar mentah ( LLMs ) menjadi ejen berskop, masing-masing mempunyai peranan dan cara yang boleh diramal untuk beroperasi.
Daripada menulis logik orkestrasi dari awal, rangka kerja memberi anda struktur, kawalan dan kebolehulangan.
Rangka Kerja Berbilang Ejen: Konsep Utama
Bagaimanakah Rangka Kerja Berbilang Ejen Berfungsi?
Rangka kerja berbilang ejen memberikan struktur kepada cara ejen dicetuskan, cara mereka menghantar data dan cara sistem menjejaki kemajuan.
Mereka menyediakan blok binaan untuk menyelaraskan ejen dengan cara yang berskala dengan kerumitan dan menjadikannya boleh digunakan melalui penggunaan dunia sebenar.
Satu contoh ialah menggunakan persediaan berbilang ejen untuk menghidupkan chatbot WhatsApp . Dalam kes ini, ejen yang berbeza boleh mengendalikan tugas seperti tempahan, pemprosesan bayaran balik atau pengesahan, bekerja bersama di belakang tabir tanpa bergantung pada satu persediaan bot monolitik.
.webp)
Ejen didaftarkan sebagai komponen yang boleh dipanggil dalam sistem
Sebelum ejen boleh melakukan apa-apa, rangka kerja perlu tahu ia wujud. Ini bermakna memberitahu sistem nama ejen, perkara yang bertanggungjawab dan alat atau maklumat yang boleh diakses olehnya.
Dalam kebanyakan rangka kerja, persediaan ini berlaku melalui fail konfigurasi atau beberapa kod, di mana anda menentukan peranan setiap ejen dan cara mengaktifkannya. Sebagai contoh, anda mungkin memberitahu sistem:
"Ini adalah perancang. Ia membaca input pengguna dan memutuskan perkara yang perlu dilakukan seterusnya."
"Ini ialah pengesah. Ia mengambil maklumat pengguna dan mengembalikan booking_id dan maklumat pengguna."
Setelah didaftarkan, rangka kerja boleh "memanggil" ejen ini dengan nama, bermakna ia tahu cara menjalankan setiap satu apabila tiba giliran mereka dalam aliran kerja.
Ejen penghalaan memutuskan ejen mana yang akan dijalankan seterusnya
Ejen perancang atau fungsi pengawal mengendalikan penghalaan ejen AI . Ia melihat pada output bot terbaharu, sejarah perbualan semasa dan kadangkala input pengguna asal untuk memutuskan perkara yang perlu berlaku seterusnya.
Sesetengah perancang adalah berasaskan segera — mereka menerima mesej sistem dan mengeluarkan nama ejen seterusnya untuk dijalankan.
Yang lain menggunakan logik atau graf aliran berkod keras, bergantung pada rangka kerja ejen AI yang anda gunakan.
Rangka kerja mengambil output itu dan menggunakannya untuk memanggil ejen seterusnya. Penghala memutuskan siapa yang harus melakukan tugas dan bukannya melakukan tugas itu.
Data dihantar antara ejen menggunakan mesej
Ejen tidak berkongsi ingatan secara langsung. Apabila seseorang selesai berjalan, outputnya dibungkus ke dalam mesej - biasanya kamus atau objek JSON - dan dihantar ke ejen seterusnya sebagai input.
Rangka kerja mengendalikan pemindahan. Ia sama ada menyimpan mesej dalam ruang memori yang dikongsi atau menghantarnya terus ke antara muka input ejen seterusnya, bergantung pada cara sistem distrukturkan.
Mesej selalunya merangkumi lebih daripada sekadar kandungan:
- Siapa yang menghantarnya (ejen atau pengguna)
- Dari mana ia datang dalam aliran kerja
- Bagaimana ia harus digunakan (cth, pencetus, input, keputusan)
- Metrik pilihan seperti kiraan token atau cap masa
Konteks ini membantu tugasan laluan sistem dengan bersih dan memastikan ejen dipisahkan antara satu sama lain.
Pelaksanaan dijejaki menggunakan keadaan aliran kerja dan pencetus
Rangka kerja itu menjejaki apa yang berlaku setakat ini — ejen mana yang dijalankan, perkara yang mereka kembalikan dan perkara yang masih perlu berlaku. Ini disimpan dalam objek keadaan, yang dikemas kini selepas setiap langkah.
Pencetus menentukan perkara seterusnya. Mereka menggunakan nilai atau keadaan output untuk mencabangkan aliran.
Ini membolehkan sistem bergerak ke hadapan tanpa logik pengekodan keras ke dalam setiap ejen. Negeri memacu aliran kerja, bukan ejen itu sendiri.
Faedah Utama Menggunakan Rangka Kerja Pelbagai Agen
Skala logik tanpa membebankan ejen tunggal
Ejen AI tunggal hanya boleh melakukan banyak perkara sebelum ia bertukar menjadi gesaan, alatan dan tanggungjawab yang tidak jelas. Rangka kerja berbilang ejen membolehkan anda membahagikan logik itu kepada ejen terfokus, masing-masing mengendalikan satu tugas yang jelas.
Daripada meregangkan ejen tunggal, anda boleh menetapkan langkah tertentu — seperti mendapatkan semula, pengesahan atau pelaksanaan — untuk memisahkan ejen dan mengembangkan sistem sekeping demi sekeping.
Kerjasama ejen nyahpepijat dengan keterlihatan penuh
Apabila ejen AI bekerjasama, isu boleh menjadi sukar untuk dikesan. Rangka kerja menunjukkan kepada anda perkara yang diperoleh oleh setiap ejen, perkara yang dipulangkan dan tempat ia terhenti.
Anda tidak meneka apa yang patah — anda periksa handoff dan betulkan terus. Keterlihatan jenis inilah yang menjadikan kerjasama ejen AI boleh diurus.
Gunakan semula ejen merentas aliran kerja
Jika ejen bekerja, gunakan semula. Rangka kerja membolehkan anda memasukkan ejen yang sama ke dalam aliran yang berbeza tanpa menulisnya semula. Itu memastikan perkara itu konsisten dan menjadikan ujian lebih cepat.
Contohnya, ejen pengesahan yang menyemak input atau pengesahan pengguna boleh digunakan dalam kedua-dua bot sembang perkhidmatan pelanggan dan bot sembang tempahan , di mana-mana sahaja logik yang sama digunakan.
Mengendalikan kegagalan dan cuba semula secara automatik
Apabila ejen gagal, rangka kerja boleh mencuba semula, melangkaunya atau bergerak ke hadapan. Anda tidak perlu menulis logik itu sendiri.
Sandaran terbina dalam menjadikan aliran kerja lebih dipercayai tanpa kerja tambahan, dan jenis kebolehpercayaan itulah yang menguatkan sistem dunia sebenar.
Bina aliran ejen yang mudah diubah
Apabila anda membahagikan tugas kepada ejen, anda tidak perlu mengolah semula keseluruhan sistem setiap kali sesuatu berubah.
Anda boleh mengemas kini perancang tanpa menyentuh pelaksanaan, atau menukar cara satu ejen bertindak balas tanpa menulis semula yang lain.
Kemudahan akses itu membuahkan hasil—Salesforce melaporkan bahawa pasukan yang menggunakan AI agen menjimatkan 11 jam setiap pekerja setiap minggu, sebahagiannya disebabkan oleh kebolehsuaian aliran kerja.
5 Rangka Kerja Berbilang Ejen Teratas
Memilih rangka kerja berbilang ejen bergantung pada perkara yang anda bina dan sejauh mana kawalan yang anda mahukan terhadap cara ejen berkelakuan, berkomunikasi dan pulih daripada kegagalan.
Rangka kerja terbaik menawarkan pertukaran yang berbeza — sesetengahnya bagus untuk aliran kerja berstruktur, yang lain memberi anda lebih fleksibiliti pada kos kejelasan.
Anda akan inginkan sesuatu yang sepadan dengan keperluan pasukan anda dan sejauh mana anda merancang untuk mengambil sistem.
1. Botpress
.webp)
Botpress ialah platform pembangunan visual untuk membina ejen AI yang boleh menyelaraskan merentas langkah, peranan dan saluran.
Daripada pendawaian logik dalam kod, anda mentakrifkan cara ejen bertindak menggunakan aliran, memori, keadaan dan panggilan alat.
Tingkah laku berbilang ejen dibina berdasarkan arahan, aliran kerja dan alatan luaran. Setiap nod dalam a Botpress aliran bertindak sebagai unit berfokus, dengan arahan dan skopnya sendiri.
Anda boleh membahagikan penaakulan merentas berbilang Nod Autonomi dan Statik, menambah lapisan pengesahan atau mengarahkan input pengguna melalui logik keputusan berasaskan alat dan bukannya mengendalikan semuanya dalam satu langkah.
Memori adalah skop kepada setiap aliran, jadi ejen hanya menggunakan apa yang mereka perlukan. Input dan output ditakrifkan dengan jelas, dan panggilan alat boleh ditambah terus melalui penyepaduan terbina dalam .
Ciri-ciri Utama
- Orkestrasi ejen visual menggunakan aliran dan nod
- Memori berskop dan kawalan berubah antara nod
- Memori berbilang pusingan, logik sandaran dan cuba semula
- Penggunaan alat melalui panggilan API, webhooks dan input fungsi
2. LangChain

LangChain ialah rangka kerja pertama pembangun untuk membina LLM -aplikasi yang dikuasakan dengan menyambungkan rangkaian gesaan, alatan dan memori.
Ia bermula sebagai satu cara untuk menstruktur LLM panggilan dengan alatan seperti carian dan kalkulator, tetapi secara beransur-ansur berkembang menjadi ekosistem yang luas.
Satu keluaran mengutamakan "ejen", kemudian "pembantu", kemudian "boleh lari". Hasilnya ialah kit alat berkuasa yang boleh melakukan hampir semua perkara, tetapi ia sering mengambil masa untuk menavigasi.
Anda boleh menetapkan kit alat dan membina logik penghalaan merentas ejen. Di mana ia bersinar ialah modulariti — komponen boleh diguna semula, campur dan padan dan disepadukan dengan baik dengan API luaran.
Tetapi anda akan menulis lebih banyak kod gam daripada yang dijangkakan. Dan dengan abstraksi yang beralih pantas, anda patut menyemak sama ada kaedah yang anda gunakan masih menjadi pilihan.
Ciri-ciri Utama
- Rangkaian modular bagi gesaan, alatan dan ingatan
- Bersepadu dengan LLMs , kedai vektor dan API
- Pengesanan dan eval pilihan dengan LangSmith
3. KrewAI

CrewAI memudahkan untuk membina aliran kerja berbilang ejen di mana setiap ejen mempunyai peranan dan tugas yang ditentukan. Anda membuat krew, menetapkan matlamat, dan ejen menyelaraskan melalui pengurus kongsi.
Ini adalah salah satu cara terpantas untuk memodelkan kerjasama ejen tanpa menulis logik orkestrasi dari awal.
Sesuai untuk persediaan seperti pasangan perancang–pelaksana, aliran penyemak penyelidikan atau sebarang tugas berasaskan pasukan yang tanggungjawab dibahagikan dengan bersih.
Tetapi sebaik sahaja anda mula menambah kerumitan, abstraksi menjadi ketat. Terdapat kurang fleksibiliti tentang cara dan masa ejen berjalan, dan mengubah suai tingkah laku selalunya bermakna melangkah keluar daripada lalai rangka kerja.
Ciri-ciri Utama
- Persediaan ejen berasaskan peranan dengan nama, matlamat dan ingatan
- Menyokong pelaksanaan ejen berurutan dan selari
- Memori krew dikongsi untuk kerjasama ejen
- Penyepaduan mudah dengan alatan, fungsi dan gesaan tersuai
4. AutoGPT

AutoGPT ialah projek pertama yang menunjukkan rupa apabila anda memberikan GPT chatbot matlamat dan biarkan ia berjalan — merancang, berfikir, menyelidik dan melaksanakan tanpa input manusia yang berterusan.
Anda mentakrifkan objektif dan AutoGPT bergelung melalui langkah-langkah penaakulan, mencipta submatlamat, alat panggilan dan melaraskan strateginya sepanjang jalan.
Ia adalah satu lonjakan besar dalam menjadikan tingkah laku agen berasa autonomi dan dinamik. Tetapi ia tidak dibina untuk ketepatan.
Gelung tugasan rapuh dan ejen cenderung untuk terperangkap menulis semula pelan yang sama atau mengejar subtugas yang tidak berkaitan.
Anda boleh menyambungkan memori, alatan dan API — tetapi menggabungkan segala-galanya sering membawa kepada aliran yang tidak dapat diramalkan yang sukar untuk dinyahpepijat atau dikemudi.
Ciri-ciri Utama
- Ejen dipacu matlamat dengan dorongan kendiri dan perancangan tugas
- Penjanaan subtugas automatik dan gelung pelaksanaan
- Menyokong penggunaan alat melalui pemalam dan panggilan API
- Boleh dikembangkan dengan skrip, fungsi dan penyepaduan tersuai
5. Autogen

Autogen ialah rangka kerja sumber terbuka daripada Microsoft yang memfokuskan pada perbualan berbilang ejen, di mana ejen berinteraksi melalui mesej berasaskan giliran berstruktur.
Ia amat baik apabila anda mahukan kawalan ke atas setiap pertukaran, seperti dalam perancangan – gelung pelaksanaan atau sistem manusia-dalam-gelung .
Autogen bersinar dalam ketelusan. Anda boleh menyuntik fungsi pertengahan konvo, keputusan laluan melalui logik tersuai, dan mengesan dengan tepat apa yang dikatakan oleh setiap ejen dan sebabnya.
Tetapi penskalaan ia memerlukan kerja. Orkestrasi mesej adalah fleksibel, tetapi tidak disarikan — anda masih menguruskan sejarah, konfigurasi ejen dan logik langkah sendiri.
Untuk persediaan penyelidikan, ujian terkawal atau tingkah laku ejen yang boleh dihasilkan semula, ini merupakan salah satu rangka kerja yang paling tepat di luar sana.
Ciri-ciri Utama
- Rangka kerja komunikasi pelbagai ejen berasaskan giliran
- Menyokong ejen manusia dalam gelung dan panggilan fungsi
- Pengesanan mesej telus dan suntikan logik tersuai
Cara Membina dengan Rangka Kerja Pelbagai Agen
Cara paling mudah untuk bermula ialah memilih satu aliran kerja sebenar — sesuatu yang sudah terlalu rumit untuk satu ejen — dan pecahkannya kepada beberapa bahagian mudah.
Fikirkan chatbot penjanaan petunjuk , aliran tempahan atau apa-apa sahaja yang logik, pengesahan dan tindakan semakin kusut.
Berikan setiap langkah ejennya, kemudian sambungkannya menggunakan penghalaan rangka kerja dan alatan mesej.
Langkah 1: Kenal pasti di mana logik ejen tunggal anda rosak
Cari tempat dalam bot atau sistem anda di mana keadaan mula merebak — gesaan panjang atau panggilan alat berantai yang terasa terkunci. Itulah titik masuk anda. Berikut adalah beberapa contoh biasa yang mudah dikesan:
- Aliran bayaran balik yang menghuraikan input pengguna, menyemak kelayakan, mengeluarkan bayaran balik dan menghantar pengesahan — semuanya dalam satu gelung
- Urutan onboarding yang mengumpul data, mengesahkan borang, menetapkan jenis pengguna dan mencetuskan e-mel dalam rantaian gesaan tunggal
Daripada mereka bentuk semula keseluruhan sistem, anda hanya mengasingkan aliran kerja yang sudah menunjukkan keretakan.
Langkah 2: Tentukan peranan sebelum anda menyentuh rangka kerja
Sebaik sahaja anda telah menemui logik yang tidak kemas, pecahkannya menjadi tanggungjawab sebenar.
Jika ada sesuatu yang mengesahkan input, itu adalah satu ejen. Jika sesuatu mengendalikan tindakan luaran, itu adalah satu lagi.
Tuliskannya dalam bahasa biasa — cukup untuk mendedahkan tempat penyerahan itu.
Dan apabila semuanya berada di hadapan anda, anda akan melihat apa yang sebenarnya perlu dipisahkan dan apa yang boleh runtuh. Ia juga memberi anda rasa untuk jenis rangka kerja yang anda perlukan.
Setiap peranan sepatutnya terdengar seperti sesuatu yang anda boleh uji sendiri.
Langkah 3: Pilih rangka kerja
Pilih platform yang sesuai dengan gaya aliran kerja anda.
- Visual : Botpress , jika anda mahu aliran berasaskan nod dan memori berskop.
- Pertama kod : LangChain atau CrewAI jika anda selesa menggunakan logik pendawaian dalam Python.
Rangka kerja menentukan cara ejen didaftarkan, dicetuskan dan disambungkan.
Langkah 4: Bina aliran kerja pertama
Sekarang tukar peranan tersebut menjadi ejen. Tentukan mereka dalam rangka kerja anda — berikan setiap satu nama, tugasnya dan apa sahaja alat atau akses API yang diperlukannya.
Setelah mereka berada di tempatnya, sambungkannya. Gunakan apa sahaja penghalaan yang disediakan oleh rangka kerja untuk berpindah dari satu ejen ke ejen seterusnya.
Matlamat di sini ialah untuk mendapatkan satu aliran kerja lengkap berjalan dari hujung ke hujung, dengan ejen yang kekal di lorong mereka.
Langkah 5: Jalankan sistem dan periksa setiap serahan
Cetuskan aliran kerja penuh — dari awal hingga akhir — dan jejaki perkara yang berlaku. Anda harus memerhatikan apa yang diterima oleh setiap ejen, apa yang dipulangkan, dan sama ada aliran bergerak dengan bersih di antara mereka.
Jika ejen mendapat input yang keliru, anda mungkin telah melakukan perkara yang salah. Jika logik melompat secara tidak dijangka, penghalaan anda perlu diperbaiki.
Setelah penyerahan bersih, anda mempunyai sistem kerja.
Amalan Terbaik untuk Menggunakan Rangka Kerja Berbilang Ejen
Memilih rangka kerja hanyalah titik permulaan. Perkara yang lebih penting ialah cara anda mereka bentuk, menguji dan mengurus aliran kerja yang anda bina dengannya.
Apabila sistem AI menjadi lebih modular dan autonomi, kebolehkesanan menjadi lebih sukar.
Pastikan logik teras terpusat
Elakkan daripada menyebarkan keputusan kritikal merentasi pelbagai ejen. Lebih mudah untuk dikekalkan dan diuji apabila penaakulan utama berlaku di satu tempat dan bukannya dipecahkan pada bahagian yang bersambung longgar.
Tentukan input dan output ejen di hadapan
Setiap ejen harus mempunyai kontrak yang jelas — apa yang diperlukan, apa yang dipulangkan. Ini menjadikan ejen lebih mudah untuk menukar atau memasukkan aliran kerja baharu tanpa melanggar logik aliran.
Log setiap mesej yang dihantar antara ejen
Jika anda tidak dapat melihat apa yang ejen katakan antara satu sama lain, anda tidak boleh nyahpepijat apa-apa. Pastikan setiap input dan output dilog dengan konteks yang mencukupi untuk mengesan kembali melalui aliran.
Gunakan memori berskop untuk mengurangkan bunyi dan kos
Beri setiap ejen hanya konteks yang diperlukan. Akses memori penuh membawa kepada gesaan kembung, penggunaan token yang lebih tinggi dan tingkah laku yang tidak dapat diramalkan daripada ejen yang sepatutnya difokuskan.
Mulakan Bina AI Yang Boleh Menyelaras
Kebanyakan sistem runtuh apabila penyelarasan sebenar diperlukan. Botpress memberi anda kawalan ke atas cara ejen menyerahkan tugas — dengan peranan dan logik yang ditentukan, anda boleh menguji dan memahami.
Ia juga membolehkan anda menghantar data dengan bersih antara aliran. Anda boleh mengesan setiap langkah dengan log berbilang pusingan yang menunjukkan alat yang dipanggil, sebab ia dijalankan dan cara ia digunakan dalam aliran kerja.
Daripada penalaan segera dan kawalan halusinasi, anda menumpukan pada fungsi sebenar — membina ejen yang berkelakuan seperti perisian.
Mula membina hari ini — ia percuma.
Soalan lazim
Bagaimanakah saya tahu jika projek AI saya sebenarnya memerlukan rangka kerja berbilang ejen, atau jika satu ejen sudah mencukupi?
Projek AI anda berkemungkinan memerlukan rangka kerja berbilang ejen jika gesaan atau aliran kerja ejen tunggal anda menjadi terlalu panjang atau sukar untuk dinyahpepijat, terutamanya apabila mengendalikan berbilang tugas yang berbeza, manakala kes penggunaan yang lebih mudah seperti Soal Jawab asas atau bot guna tunggal selalunya berfungsi dengan baik dengan hanya satu ejen.
Adakah membina dengan rangka kerja berbilang ejen hanya untuk projek perusahaan besar, atau adakah ia sesuai untuk pemula kecil juga?
Membina dengan rangka kerja berbilang ejen bukan hanya untuk perusahaan besar — pemula kecil juga boleh mendapat manfaat, kerana projek sederhana pun mendapat penyahpepijatan yang lebih mudah apabila tugas yang kompleks dibahagikan kepada ejen khusus dan bukannya mengumpul segala-galanya ke dalam satu gelung besar yang sukar diurus.
Adakah menggunakan sistem berbilang ejen bermakna saya perlu membahagikan semuanya kepada ejen yang berasingan, atau bolehkah saya mencampurkan logik tunggal dan berbilang ejen?
Menggunakan sistem berbilang ejen tidak bermakna anda perlu membahagikan semuanya kepada ejen yang berasingan; anda boleh mencampurkan logik ejen tunggal untuk tugasan mudah sambil menempah orkestrasi berbilang ejen untuk aliran kerja yang kompleks.
Bagaimanakah sistem berbilang ejen berbeza daripada hanya menggunakan berbilang API atau perkhidmatan mikro dalam aplikasi saya?
Sistem berbilang ejen berbeza daripada menggunakan berbilang API atau perkhidmatan mikro kerana ia menyelaraskan ejen AI khusus dengan peranan dan keupayaan penaakulan yang berbeza yang menghantar mesej dan keadaan berstruktur, manakala API dan perkhidmatan mikro mengendalikan fungsi diskret tetapi tidak mengatur aliran kerja kompleks secara bebas.
Bagaimanakah kos menjalankan sistem berbilang ejen berbanding dengan menjalankan satu besar LLM ?
Kos menjalankan sistem berbilang ejen boleh lebih rendah daripada menjalankan satu besar LLM kerana ejen yang lebih kecil dan khusus boleh mengendalikan tugas tertentu dengan cekap tanpa membuang token pada gesaan yang panjang atau konteks berulang, tetapi ia juga memperkenalkan overhed tambahan untuk mengurus orkestrasi dan komunikasi antara ejen, jadi penjimatan bergantung pada kerumitan kes penggunaan anda.