Membangun Alur Kerja AI dengan Kerangka Kerja Multi-Agen

Agen terdaftar sebagai komponen yang dapat dipanggil dalam sistem

Sebelum agen dapat melakukan apa pun, kerangka kerja harus tahu bahwa agen itu ada. Ini berarti memberi tahu sistem nama agen, apa yang menjadi tanggung jawabnya, dan alat atau informasi apa yang dapat diaksesnya.

Pada sebagian besar kerangka kerja, penyiapan ini dilakukan melalui berkas konfigurasi atau kode, di mana Anda mendefinisikan peran masing-masing agen dan cara mengaktifkannya. Sebagai contoh, Anda dapat memberi tahu sistem:

"Ini adalah perencana. Alat ini membaca masukan dari pengguna dan memutuskan apa yang harus dilakukan selanjutnya."
"Ini adalah verifikator. Ini mengambil informasi pengguna dan mengembalikan booking_id dan informasi pengguna."

Setelah terdaftar, kerangka kerja dapat "memanggil" agen-agen ini berdasarkan namanya, yang berarti kerangka kerja tahu bagaimana menjalankan masing-masing agen ketika tiba gilirannya dalam alur kerja.

Agen perutean memutuskan agen mana yang akan berjalan selanjutnya

Agen perencana atau fungsi pengontrol menangani perutean agen AI. Fungsi ini melihat output bot terbaru, riwayat percakapan saat ini, dan terkadang input pengguna asli untuk memutuskan apa yang harus dilakukan selanjutnya.

Beberapa perencana berbasis prompt - mereka menerima pesan sistem dan mengeluarkan nama agen berikutnya yang akan dijalankan.

Yang lain menggunakan logika yang dikodekan atau grafik aliran, tergantung pada kerangka kerja agen AI yang Anda gunakan.

Kerangka kerja mengambil keluaran itu dan menggunakannya untuk memanggil agen berikutnya. Router memutuskan siapa yang harus melakukan tugas, bukan melakukan tugas.

Data diteruskan antar agen menggunakan pesan

Agen tidak berbagi memori secara langsung. Ketika satu agen selesai berjalan, keluarannya dikemas ke dalam sebuah pesan - biasanya berupa kamus atau objek JSON - dan diteruskan ke agen berikutnya sebagai masukan.

Kerangka kerja menangani transfer tersebut. Framework ini menyimpan pesan dalam ruang memori bersama atau meneruskannya langsung ke antarmuka input agen berikutnya, tergantung pada bagaimana sistem disusun.

Pesan sering kali mencakup lebih dari sekadar konten:

• Siapa yang mengirimnya (agen atau pengguna)
• Dari mana asalnya dalam alur kerja
• Bagaimana cara menggunakannya (misalnya, pemicu, masukan, keputusan)
• Metrik opsional seperti jumlah token atau stempel waktu

Konteks ini membantu sistem merutekan tugas-tugas dengan bersih dan membuat agen-agen terpisah satu sama lain.

Eksekusi dilacak menggunakan status alur kerja dan pemicu

Kerangka kerja ini melacak apa yang telah terjadi sejauh ini - agen mana yang berlari, apa yang mereka kembalikan, dan apa yang masih harus dilakukan. Ini disimpan dalam sebuah objek state, yang diperbarui setelah setiap langkah.

Pemicu memutuskan apa yang akan terjadi selanjutnya. Mereka menggunakan nilai output atau kondisi untuk mencabang aliran.

Hal ini memungkinkan sistem bergerak maju tanpa logika pengkodean ke dalam setiap agen. State mendorong alur kerja, bukan agen itu sendiri.

Logika skala tanpa membebani satu agen secara berlebihan

Satu agen AI hanya dapat melakukan banyak hal sebelum berubah menjadi berantakan dengan berbagai perintah, alat, dan tanggung jawab yang tidak jelas. Kerangka kerja multi-agen memungkinkan Anda membagi logika tersebut menjadi beberapa agen yang terfokus, masing-masing menangani satu tugas yang jelas.

Alih-alih meregangkan agen tunggal, Anda dapat menetapkan langkah-langkah spesifik - seperti pengambilan, validasi, atau eksekusi - untuk memisahkan agen dan mengembangkan sistem sedikit demi sedikit.

Kolaborasi agen debug dengan visibilitas penuh

Ketika agen AI bekerja bersama, masalah bisa jadi sulit dilacak. Kerangka kerja menunjukkan kepada Anda apa yang didapatkan oleh setiap agen, apa yang dikembalikannya, dan di mana agen tersebut terhenti.

Anda tidak menebak-nebak apa yang rusak - Anda memeriksa handoff dan memperbaikinya secara langsung. Visibilitas seperti inilah yang membuat kolaborasi agen AI dapat dikelola.

Menggunakan kembali agen di seluruh alur kerja

Jika sebuah agen berfungsi, gunakan kembali. Framework memungkinkan Anda memasang agen yang sama ke dalam alur yang berbeda tanpa menulis ulang. Hal ini membuat segala sesuatunya tetap konsisten dan membuat pengujian menjadi lebih cepat.

Misalnya, agen validasi yang memeriksa input atau autentikasi pengguna dapat digunakan di chatbot layanan pelanggan dan chatbot pemesanan, di mana pun logika yang sama berlaku.

Menangani kegagalan dan percobaan ulang secara otomatis

Ketika sebuah agen gagal, kerangka kerja dapat mencoba kembali, melewatinya, atau melanjutkan. Anda tidak perlu menulis logika itu sendiri.  

Fallback bawaan membuat alur kerja lebih andal tanpa kerja ekstra, dan keandalan seperti itulah yang menggerakkan sistem dunia nyata.

Membangun alur agen yang mudah diubah

Ketika Anda membagi tugas ke beberapa agen, Anda tidak perlu mengerjakan ulang seluruh sistem setiap kali ada perubahan.

Anda dapat memperbarui perencana tanpa menyentuh eksekusi, atau mengubah cara satu agen merespons tanpa menulis ulang yang lainnya.

Kemudahan akses tersebut membuahkan hasil-Salesforce melaporkan bahwa tim yang menggunakan AI agentic menghemat 11 jam per karyawan setiap minggunya, sebagian berkat kemampuan beradaptasi alur kerja.

1. Botpress

Botpress adalah platform pengembangan visual untuk membangun agen AI yang dapat berkoordinasi di seluruh langkah, peran, dan saluran.

Alih-alih memasang logika dalam kode, Anda mendefinisikan bagaimana agen berperilaku menggunakan aliran, memori, kondisi, dan panggilan alat.

Perilaku multi-agen dibangun di sekitar instruksi, alur kerja, dan alat eksternal. Setiap node dalam alur Botpress bertindak sebagai unit yang terfokus, dengan instruksi dan cakupannya sendiri.

Anda dapat membagi penalaran di beberapa Node Otonom dan Node Statis, menambahkan lapisan validasi, atau merutekan input pengguna melalui logika keputusan berbasis alat alih-alih menangani semuanya dalam satu langkah.

Memori dibatasi untuk setiap aliran, sehingga agen hanya menggunakan apa yang mereka butuhkan. Input dan output didefinisikan dengan jelas, dan pemanggilan alat dapat ditambahkan secara langsung melalui integrasi bawaan.

Fitur Utama

• Orkestrasi agen visual menggunakan aliran dan node
• Memori yang dicakup dan kontrol variabel antar node
• Memori multi-putaran, logika mundur, dan percobaan ulang
• Penggunaan alat melalui panggilan API, webhook, dan input fungsi

2. Rantai Bahasa

LangChain adalah kerangka kerja yang diutamakan bagi para pengembang untuk membangun aplikasi LLM dengan menyambungkan rantai permintaan, alat, dan memori.

Ini dimulai sebagai cara untuk menyusun panggilan LLM dengan alat bantu seperti pencarian dan kalkulator, tetapi secara bertahap berkembang menjadi ekosistem yang luas.

Satu rilis memprioritaskan "agen", kemudian "asisten", lalu "runnables". Hasilnya adalah sebuah toolkit yang kuat yang dapat melakukan hampir semua hal, tetapi sering kali membutuhkan waktu untuk menavigasinya.

Anda bisa menetapkan toolkit dan membangun logika perutean di seluruh agen. Keunggulannya adalah modularitas - komponen-komponennya dapat digunakan kembali, dipadupadankan, dan terintegrasi dengan baik dengan API eksternal.

Tetapi Anda akan menulis lebih banyak kode lema daripada yang diharapkan. Dan dengan abstraksi yang berubah dengan cepat, ada baiknya Anda memeriksa apakah metode yang Anda gunakan masih merupakan metode yang lebih disukai.

Fitur Utama

• Rangkaian modular dari petunjuk, alat, dan memori
• Terintegrasi dengan LLMs, penyimpanan vektor, dan API
• Penelusuran dan evaluasi opsional dengan LangSmith

3. CrewAI

CrewAI memudahkan untuk membangun alur kerja multi-agen di mana setiap agen memiliki peran dan tugas yang jelas. Anda membuat kru, menetapkan tujuan, dan para agen berkoordinasi melalui manajer bersama.

Ini adalah salah satu cara tercepat untuk memodelkan kolaborasi agen tanpa menulis logika orkestrasi dari awal.

Ideal untuk pengaturan seperti pasangan perencana-pelaksana, alur penelitian-peninjau, atau tugas berbasis tim apa pun yang tanggung jawabnya dibagi dengan jelas.

Namun, begitu Anda mulai menambahkan kompleksitas, abstraksinya menjadi ketat. Fleksibilitasnya menjadi berkurang terkait bagaimana dan kapan agen berjalan, dan memodifikasi perilaku sering kali berarti melangkah keluar dari standar kerangka kerja.

Fitur Utama

• Pengaturan agen berbasis peran dengan nama, sasaran, dan memori
• Mendukung eksekusi agen berurutan dan paralel
• Memori kru bersama untuk kolaborasi agen
• Integrasi yang mudah dengan alat bantu, fungsi, dan petunjuk khusus

4. AutoGPT

AutoGPT adalah proyek pertama yang menunjukkan seperti apa jadinya jika Anda memberi chatbotGPT sebuah tujuan dan membiarkannya berjalan - merencanakan, berpikir, meneliti, dan mengeksekusi tanpa input manusia secara konstan.

Anda menentukan tujuan, dan AutoGPT berputar melalui langkah-langkah penalaran, membuat sub-tujuan, memanggil alat bantu, dan menyesuaikan strateginya di sepanjang jalan.

Ini adalah lompatan besar dalam membuat perilaku agen terasa otonom dan dinamis. Namun, hal ini tidak dibuat untuk presisi.

Lingkaran tugas ini rapuh, dan agen cenderung terjebak dalam menulis ulang rencana yang sama atau mengejar subtugas yang tidak relevan.

Anda dapat menyambungkan memori, alat, dan API - tetapi menyambungkan semuanya bersama-sama sering kali menyebabkan aliran yang tidak terduga yang sulit untuk di-debug atau diarahkan.

Fitur Utama

• Agen yang digerakkan oleh tujuan dengan dorongan mandiri dan perencanaan tugas
• Pembuatan subtugas otomatis dan putaran eksekusi
• Mendukung penggunaan alat melalui plugin dan panggilan API
• Dapat diperluas dengan skrip, fungsi, dan integrasi khusus

5. Autogen

Autogen adalah kerangka kerja sumber terbuka dari Microsoft yang berfokus pada percakapan multi-agen, di mana para agen berinteraksi melalui pesan terstruktur berbasis giliran.

Ini sangat bagus ketika Anda ingin mengontrol setiap pertukaran, seperti dalam perencanaan - loop eksekusi atau sistem human-in-the-loop.

Autogen bersinar dalam hal transparansi. Anda bisa menyuntikkan fungsi di tengah-tengah percakapan, mengarahkan keputusan melalui logika khusus, dan melacak dengan tepat apa yang dikatakan oleh setiap agen dan alasannya.

Namun, untuk meningkatkannya membutuhkan kerja keras. Orkestrasi pesan bersifat fleksibel, tetapi tidak abstrak - Anda masih mengelola riwayat, konfigurasi agen, dan logika langkah sendiri.

Untuk pengaturan penelitian, pengujian terkontrol, atau perilaku agen yang dapat direproduksi, ini adalah salah satu kerangka kerja yang paling tepat di luar sana.

Fitur Utama

• Kerangka kerja komunikasi multi-agen berbasis giliran
• Mendukung agen pemanggil manusia dan fungsi
• Penelusuran pesan transparan dan injeksi logika khusus

Langkah 1: Identifikasi di mana logika agen tunggal Anda rusak

Carilah tempat di bot atau sistem Anda di mana segala sesuatunya mulai melebar - perintah yang panjang atau panggilan alat berantai yang terasa seperti dipaksakan. Itulah titik masuk Anda. Berikut adalah beberapa contoh umum yang mudah dikenali:

1. Alur pengembalian dana yang memilah input pengguna, memeriksa kelayakan, mengeluarkan pengembalian dana, dan mengirimkan konfirmasi - semuanya dalam satu putaran
2. Urutan orientasi yang mengumpulkan data, memvalidasi formulir, menetapkan jenis pengguna, dan memicu email dalam satu rantai perintah

Alih-alih mendesain ulang seluruh sistem, Anda hanya mengisolasi alur kerja yang sudah menunjukkan keretakan.

Langkah 2: Tentukan peran sebelum Anda menyentuh kerangka kerja

Setelah Anda menemukan logika yang berantakan, jabarkan menjadi tanggung jawab yang nyata.

Jika ada sesuatu yang memvalidasi input, itu adalah satu agen. Jika ada sesuatu yang menangani tindakan eksternal, itu adalah agen yang lain.

Tuliskan dalam bahasa yang sederhana - cukup untuk memperlihatkan di mana letak handoff.

Dan setelah semuanya ada di depan Anda, Anda akan melihat apa yang sebenarnya perlu dipisahkan dan apa yang bisa disatukan. Hal ini juga memberi Anda gambaran tentang kerangka kerja seperti apa yang Anda butuhkan.

Setiap peran harus terdengar seperti sesuatu yang bisa Anda uji sendiri.

Langkah 3: Pilih kerangka kerja

Pilihlah platform yang sesuai dengan gaya alur kerja Anda.

• Visual: Botpress, jika Anda menginginkan aliran berbasis node dan memori yang terukur.
• Kode pertama: LangChain atau CrewAI jika Anda merasa nyaman dengan logika pengkodean dalam Python.

Kerangka kerja ini memutuskan bagaimana agen didaftarkan, dipicu, dan terhubung.

Langkah 4: Membangun alur kerja pertama

Sekarang, ubah peran-peran tersebut menjadi agen. Tentukan mereka di dalam kerangka kerja Anda - berikan nama, tugas, dan alat atau akses API apa pun yang dibutuhkan.

Setelah semuanya siap, hubungkan mereka. Gunakan perutean apa pun yang disediakan kerangka kerja untuk berpindah dari satu agen ke agen berikutnya.

Tujuannya di sini adalah untuk mendapatkan satu alur kerja lengkap yang berjalan dari ujung ke ujung, dengan agen yang tetap berada di jalurnya.

Langkah 5: Jalankan sistem dan periksa setiap handoff

Picu alur kerja secara keseluruhan - dari awal hingga akhir - dan lacak apa yang terjadi. Anda harus memperhatikan apa yang diterima oleh setiap agen, apa yang dikembalikannya, dan apakah alurnya bergerak dengan bersih di antara mereka.

Jika agen mendapatkan input yang membingungkan, Anda mungkin telah salah dalam melakukan cakupan. Jika logika melompat secara tidak terduga, perutean Anda perlu diperbaiki. 

Setelah handoff bersih, Anda memiliki sistem yang berfungsi.

Menjaga logika inti tetap terpusat

Hindari menyebarkan keputusan penting ke beberapa agen. Lebih mudah untuk mempertahankan dan menguji ketika penalaran utama terjadi di satu tempat, bukannya terpecah menjadi beberapa bagian yang saling terhubung secara longgar.

Tentukan input dan output agen di awal

Setiap agen harus memiliki kontrak yang jelas - apa yang dibutuhkan, apa yang dikembalikan. Hal ini membuat agen lebih mudah untuk ditukar atau disambungkan ke alur kerja yang baru tanpa merusak logika alur.

Catat setiap pesan yang diteruskan antar agen

Jika Anda tidak dapat melihat apa yang dikatakan oleh agen satu sama lain, Anda tidak dapat men-debug apa pun. Pastikan setiap masukan dan keluaran dicatat dengan konteks yang cukup untuk melacak kembali alurnya.

Gunakan memori yang dicakup untuk mengurangi kebisingan dan biaya

Berikan setiap agen hanya konteks yang dibutuhkannya. Akses memori yang penuh akan menyebabkan permintaan yang membengkak, penggunaan token yang lebih tinggi, dan perilaku yang tidak terduga dari agen yang seharusnya difokuskan.

Bagaimana cara mengetahui apakah proyek AI saya benar-benar membutuhkan kerangka kerja multi-agen, atau jika satu agen saja sudah cukup?

Proyek AI Anda mungkin memerlukan kerangka kerja multi-agen jika permintaan atau alur kerja agen tunggal Anda menjadi terlalu panjang atau sulit untuk di-debug, terutama saat menangani beberapa tugas yang berbeda, sedangkan kasus penggunaan yang lebih sederhana seperti tanya jawab dasar atau bot tujuan tunggal sering kali berfungsi dengan baik dengan satu agen.

Apakah membangun dengan kerangka kerja multi-agen hanya untuk proyek perusahaan besar, atau apakah juga cocok untuk startup kecil?

Membangun dengan kerangka kerja multi-agen tidak hanya untuk perusahaan besar - startup kecil juga bisa mendapatkan keuntungan, karena bahkan proyek sederhana pun bisa mendapatkan debugging yang lebih mudah ketika tugas-tugas kompleks dibagi ke beberapa agen khusus alih-alih menumpuk semuanya ke dalam satu lingkaran besar yang sulit dikelola.

Apakah dengan menggunakan sistem multi-agen berarti saya harus membagi semuanya menjadi beberapa agen, atau dapatkah saya menggabungkan logika tunggal dan multi-agen? 

Menggunakan sistem multi-agen bukan berarti Anda harus membagi semuanya menjadi beberapa agen; Anda bisa menggabungkan logika agen tunggal untuk tugas-tugas sederhana dan tetap menggunakan orkestrasi multi-agen untuk alur kerja yang kompleks.

Apa perbedaan sistem multi-agen dengan sekadar menggunakan beberapa API atau layanan mikro dalam aplikasi saya?

Sistem multi-agen berbeda dengan penggunaan beberapa API atau layanan mikro karena sistem ini mengoordinasikan agen AI khusus dengan peran dan kemampuan penalaran yang berbeda yang meneruskan pesan dan status terstruktur, sementara API dan layanan mikro menangani fungsi diskrit tetapi tidak secara independen mengatur alur kerja yang kompleks.

Bagaimana biaya menjalankan sistem multi-agen dibandingkan dengan menjalankan satu LLM besar?

Biaya menjalankan sistem multi-agen dapat lebih rendah daripada menjalankan satu LLM besar karena agen yang lebih kecil dan terspesialisasi dapat menangani tugas-tugas tertentu secara efisien tanpa membuang token pada permintaan yang panjang atau konteks yang berulang-ulang, tetapi juga memperkenalkan overhead tambahan untuk mengelola orkestrasi dan komunikasi antar-agen, sehingga penghematannya tergantung pada kompleksitas kasus penggunaan Anda.