Yapay Zeka Ajan Orkestrasyonu: Birden Fazla YZ Ajanı Nasıl Koordine Edilir?

Aracı düzenlemesi nasıl çalışır?

Ajan orkestrasyonu, bireysel YZ ajanlarının görevleri ne zaman ve nasıl yerine getireceğini yönetmek için merkezi bir denetleyici kullanarak çalışır. Her bir ajan belirli bir işlevden sorumludur ve denetleyici, sistem bağlamına, kullanıcı girdisine veya iş mantığına dayalı olarak eylemlerini koordine eder.

Orkestrasyonlu bir sistemde, büyük bir sohbet robotu yazmazsınız - her biri tek bir sorumluluğu üstlenen bir dizi aracı tasarlarsınız. Bunu, sohbet robotunuzu her bir temsilcinin bir uzman gibi hareket ettiği bir ekibe dönüştürmek olarak düşünün.

Merkezde, herhangi bir anda hangi ajanın bir görevi yerine getirmesi gerektiğine karar veren bir kontrolör bulunur. Bu kontrolör kural tabanlı, tamamen otonom ya da ikisinin arasında bir yerde olabilir. Görevi yönlendirmek, durumu takip etmek ve aracıların birbirlerinin ayak parmaklarına basmamasını sağlamaktır.

Her aracı dar ve kendi kendine yeten bir yapıya sahiptir. Bir özet oluşturabilir, harici bir aracı çağırabilir, bir kullanıcı girdisini doğrulayabilir veya bir sonraki adımda ne yapılacağına karar verebilir. Bazıları reaktiftir, diğerleri takip eden eylemleri tetikleyebilir. Kontrolör, bir orkestradaki enstrümanlara işaret veren bir şef gibi bunlar arasında hareket eder.

Çok Ajanlı Sistemlerde Bağlam Paylaşımı

Çok ajanlı sistem, ajanlar arasında akan ortak bir belleği (genellikle bir JSON nesnesi veya oturum durumu) paylaşır. Her biri bu bağlamdan okur ve bu bağlama yazar ve denetleyici bir sonraki adımda ne olacağına karar vermek için bu güncellemeleri kullanır.

Örneğin, bir seyahat planlama botunda:

• Kullanıcı aracısı: Görüşmeleri yönetir ve tercihleri toplar
• Araştırma acentesi: Uçuş ve otel seçeneklerini bulur
• Planlayıcı temsilci: Seyahat programını bir araya getirir
• İnfaz ajanı: İhtiyaç duyulan kitaplar

Bu aracıların hiçbiri resmin tamamını bilmiyor - ve bilmek zorunda da değiller. Yönlendirici temsil ci onları adım adım aynı hizada tutar.

Orkestrasyon, yanıt veren bir chatbot'tan işleri halletmek için dahili olarak işbirliği yapan bir chatbot'a nasıl ölçekleneceğinizdir.

1. Botpress

Botpress , modüler ajan iş akışları tasarlamanıza, onlara belirli roller atamanıza ve bunları merkezi bir yönlendirici aracılığıyla düzenlemenize olanak tanıyan eksiksiz bir ajan platformudur. Her iş akışı bağımsız bir ajan gibi davranır ve siz (veya otonom bir düğüm) bağlama, kullanıcı girdisine veya iş mantığına göre kontrolün ne zaman değişmesi gerektiğine karar verirsiniz.

Onu öne çıkaran şey, fikirden çalışan sisteme ne kadar hızlı geçebildiğinizdir. Aracılar anında kod yazabilir ve çalıştırabilir, harici API'leri kullanabilir ve hatta araç kullanımını dinamik olarak zincirleyebilir - bunların tümü üst düzey dil modelleri tarafından desteklenmektedir. Sadece akışlar oluşturmuyorsunuz; aracıların içinde yaşayan ve dikey aracılar arasında paylaşılan mantık oluşturuyorsunuz .

Altyapıyı yeniden inşa etmeden esneklik isteyen geliştiriciler için tasarlanmıştır. Temsilcileri destek, rezervasyon, planlama, işe alım veya dahili operasyonlar arasında dağıtıyorsanız, yolunuzdan çekilir ve göndermenize izin verir.

Temel Özellikler:

• Modüler İş Akışları: Her ajan izole edilmiş, yeniden kullanılabilir bir boru hattı olarak inşa edilmiştir
• Merkezi Yönlendirme: Görsel bir yönlendirici, aracı aktarımlarını ve mantığını düzenler
• Dinamik Araç Kullanımı: Kodu çalıştırın ve harici API'leri gerçek zamanlı olarak çağırın
• LLM: OpenAI ve Claude gibi en iyi temel modellerle uyumlu
• API Öncelikli: Aracıları ortaya çıkarmak veya CRM'lere, web kancalarına ve daha fazlasına bağlanmak kolaydır
  
  

Fiyatlandırma:

• Ücretsiz Plan: Görsel oluşturucu ve kullanıma dayalı yapay zeka ile ayda 0 ABD doları
• Plus Plan: Analitik ve marka kaldırma ile ayda 89 ABD doları
• Ekip Planı: İşbirliği araçları ve rol tabanlı erişim ile ayda 495 ABD doları

2. CrewAI

CrewAI, kendi altyapılarını kurmadan orkestrasyon isteyen ekipler için tasarlanmıştır. Bir ekip metaforuna dayanır - rolleri tanımlar, hedefler atar ve her aracıyı araçlara ve belleğe bağlarsınız. Daha sonra görevleri tamamlamak için birlikte çalışırlar.

En iyi yanı, bir şeyi ne kadar hızlı çalıştırabileceğinizdir. Dakikalar içinde bir planlayıcı, bir araştırmacı ve bir uygulayıcı oluşturabilir ve bunların yapılandırılmış adımlarla birbirleriyle konuşmasını sağlayabilirsiniz. 

Mükemmel değil - özel iş akışları hala biraz hack gerektirebilir - ancak çoğu kullanım durumu için hızlı bir şekilde sunar. AutoGen bir protokol programlamak gibi hissettiriyorsa, CrewAI bir ekiple bir görevi yürütmek gibi hissettiriyor.

Temel Özellikler:

• Rol Tabanlı Mimari: Her temsilcinin bir unvanı, hedefi, araçları ve isteğe bağlı belleği vardır
• Kolay Delegasyon: Yerleşik bir planlayıcı aracı, hedeflere dayalı olarak görev sırasına karar verir
• Araç Entegrasyonu: Fonksiyon çağırma, API istekleri ve tarayıcı tabanlı araçları destekler
• Paylaşılan Bellek: Temsilciler paylaşılan bir bağlama referans verebilir ve katkıda bulunabilir

Fiyatlandırma:

• Ücretsiz Plan: Açık kaynak, lisans maliyeti yok
• Kurumsal: Halka açık değil - barındırılan ürün olgunlaştıkça ücretli planlar bekleniyor

3. OpenAI Ajanları SDK

Eskiden OpenAI Swarm olarak anılan OpenAI Agents SDK, OpenAI'nin birinci taraf ajan altyapısına attığı ilk gerçek adımdır. Geliştiricilerin OpenAI'nin GPT modellerini kullanarak, çerçeveye yerleştirilmiş aktarımlar , araçlar ve bellek ile yapılandırılmış, çok ajanlı iş akışları oluşturmasına izin vermek için tasarlanmıştır.

Her temsilci kendi talimatlarını, araçlarını ve korkuluklarını alıyor - ve görevleri birbirlerine nasıl ileteceklerini siz düzenliyorsunuz. Henüz erken aşamada olsa da deneyim cilalanmış gibi. Yerleşik izleme, bağlam yönetimi ve ayrı çerçeveleri bir araya getirmeden üretime hazır asistanlar oluşturma becerisine sahipsiniz.

OpenAI'nin API'si ile zaten çalışıyorsanız ve yapay zeka ajanları oluşturmak için sıkı bir şekilde entegre edilmiş, fikir sahibi bir yol istiyorsanız, bu SDK size sağlam bir temel sağlar.

Temel Özellikler:

• Temsilci Rolleri: Her bir temsilci için talimatları, araçları ve izinleri yapılandırın
• Geçişler: Yerleşik mantık kullanarak aracılar arasında kontrol aktarımı
• İzleme: Görsel denetim ile çok aracılı iş akışlarını takip edin ve hata ayıklayın
• Korkuluklar: Girdiler ve çıktılar üzerinde doğrulama uygulayın
  
  

Fiyatlandırma:

• SDK: MIT lisansı altında ücretsiz ve açık kaynak
• Kullanım Maliyetleri: OpenAI API kullanımı başına ödeme (örn. GPT, araç çağrıları, vektör depolama)
• Araç Örnekleri: Kod yorumlayıcı: 0,03 $/kullanım, dosya arama: 2,50 $/1k araç çağrısı

4. AutoGen

AutoGen, "araçlarla tek ajan" yaklaşımını geride bıraktığınız ve birden fazla ajanın birbiriyle konuştuğu, durum üzerinde mantık yürüttüğü ve görevleri bir ekip olarak tamamladığı bir sisteme ihtiyaç duyduğunuz zamanlar içindir. Microsoft tarafından geliştirilmiştir ve daha çok ajan tabanlı iş akışlarını yapılandırılmış konuşmalar olarak tasarlama hissi verir.

Acemi dostu değil - ve olmaya da çalışmıyor. Her parçayı bağlarsınız: aracılar, rolleri, kimin ne zaman konuşacağı, mesajları nasıl iletecekleri ve ne zaman duracakları. Ancak şeffaflık ve tam kontrol gerektiren ciddi, durumsal yapay zeka sistemleri üzerinde çalışıyorsanız, AutoGen size ihtiyacınız olan yapı taşlarını sunar.

Araştırma ekipleri, ileri düzey geliştiriciler veya birden fazla YZ aracısı arasında karmaşık akıl yürütmeyi modellemeye çalışan herkes için en uygunudur. "Bir sohbet robotu yapılandırmıyorsunuz" - bir zeka protokolü tasarlıyorsunuz.

Temel Özellikler:

• Diyaloğa Dayalı Ajan Grafiği: Ajanlar statik zincirler yerine yapılandırılmış mesajlaşma akışları aracılığıyla iletişim kurar
• Orkestrasyon Kontrolü: Sıra alma, bellek kapsamı ve görev sınırlarını tanımlarsınız
• İzleme ve Hata Ayıklama: Yerleşik izleme, çok adımlı görevlerde her bir aracının katkısını incelemenizi sağlar
• Araç Kullanımı: Aracılar arasında özel araçları ve işlev çağrılarını destekler
  
  

Fiyatlandırma:

• Ücretsiz ve açık kaynaklı (MIT lisansı)
• Herhangi bir LLM uç noktası ile çalışırOpenAI, Azure, yerel modeller)

5. LangChain

LangChain Aracıları, aracının her adımda hangi aracı kullanacağını seçtiği mantık odaklı iş akışları oluşturmanıza olanak tanır. Hedefini tanımlarsınız, arama, kod yürütme veya API'ler gibi araçları eklersiniz ve görevler arasında yolunu bulmasına izin verirsiniz.

Mevcut en esnek kurulumlardan biridir, ancak aynı zamanda çok kod önceliklidir. Bellek, akış kontrolü ve hata işlemeyi kendiniz halledersiniz. Ve görsel düzenleme için bir grafik oluşturucu sunmuş olsalar da, henüz tam ajan işlemleri veya ajan davranışına net görünürlük için yeterince olgun değil.

LangChain, tam özelleştirme istiyorsanız ve işleri manuel olarak bir araya getirmekten çekinmiyorsanız idealdir. Güçlüdür, ancak ağır işleri yapmayı bekleyin.

Temel Özellikler:

• Dinamik Araç Kullanımı: Temsilciler girdiye göre hangi araçları çağıracaklarına karar verir
• Hafıza Desteği: Daha uzun konuşmalar için bağlamsal bellek ekleyin
• LangSmith Entegrasyonu: Çok adımlı çalıştırmaları izleme, hata ayıklama ve izleme
• Son Derece Genişletilebilir: Bileşenleri geçersiz kılın veya araçlarınızı takın
  
  

Fiyatlandırma:

• LangChain Çerçevesi: Ücretsiz ve açık kaynaklı
• LangSmith (İsteğe bağlı): Ücretli hata ayıklama ve değerlendirme aracı
• Kullanım Maliyetleri: Kullanılan modellere ve üçüncü taraf araçlara bağlıdır

Temsilci kararlarını yapılandırın

Temsilcilerin kullanıcının mesajına göre bir sonraki adımda ne yapacaklarına karar vermelerine izin vermek akıllıca bir kestirme yol gibi görünebilir, ancak kısa sürede kafa karışıklığına, atlanan adımlara ve öngörülemeyen davranışlara yol açar.

Olan şey, modelin bir sonraki eylemleri halüsinasyon görmesine izin vermenizdir. Sisteminizin net bir haritasına sahip değil. Bu yüzden tahmin ediyor - ve yanlış tahmin ediyor.

Bunun yerine, temsilcilerinize şu şekilde davranın fonksiyonlar. Bir çıktı vermelerini isteyin kontrol talimatı gibi "route to calendar_agent" veya "bir sonraki adım verify_info olacaktır". O zaman senin orkestratör bundan sonra ne olacağına karar vermek için kullanır. Mantığı modelin dışında tutun - güvenebileceğiniz bir yer.

Kapsam aracı belleği

Temsilciler çok fazla bağlam paylaştığında, işler bozulmaya başlar. Bir aracı bir görevi tamamlarken, bir diğeri eski veya alakasız verilerle hareket ederek görevi geri alır.

Bu, tüm aracılarınız aynı global bellek deposunu okuyup yazdığında gerçekleşir. Sınır yok. Bir aracı diğerinin bağlamını kirletir.

Her aracıya kendi kapsamını verin. Sadece ihtiyacı olanı iletin, fazlasını değil. Bunu her bir temsilciye odaklanmış bir çalışma özeti vermek gibi düşünün, sistemin grup sohbet geçmişine tam erişim değil.

Döngü kaymasını durdur

Planlayıcı-yürütücü çiftlerini kullanırken, genellikle bir döngü oluşturursunuz: planlayıcı ne olması gerektiğine karar verir, yürütücü bunu yapar ve planlayıcı bir sonraki adımın ne olacağına karar vermek için sonucu kontrol eder.

Döngü bozulur çünkü planlayıcının daha önce ne yapıldığına dair bir hafızası yoktur. Görev geçmişi yok. Kontrol listesi yok. Sadece mevcut durumu görür ve tekrar denemeye karar verir.

Temsilci döngüleri kullanıyorsanız, her görev sırasını izlemeniz gerekir - kim neyi çalıştırdı, ne döndürdü ve başarılı olup olmadı. Sistemin kuyruğunu kovalamasını bu şekilde durdurabilirsiniz.

Yapılandırılmış çıktıları döndürün

Sisteminiz çalışıyor gibi görünebilir - yanıtlar geri geliyor ve müşteri temsilcisi akıllıca konuşuyor - ancak perde arkasında hiçbir şey olmuyor.

Temsilci "İşte özetiniz" gibi bir şey söyler, ancak orkestratörünüzün bundan sonra ne yapacağına dair hiçbir fikri yoktur.

Neden mi? Temsilcileriniz sistemle değil kullanıcıyla konuşuyor. Makine tarafından okunabilir bir çıktı yok, bu nedenle mantık katmanınızın üzerinde hareket edeceği hiçbir şey yok.

Have agents return structured outputs — like { "type": "summary", "status": "complete", "next": "send_confirmation" }. That gives your orchestrator something to route. Modern agentic protocols like the Model Context Protocol are trying to standardize this across platforms, but you can start simple.

Görev ilerlemesini takip edin

Bazen sisteminiz ne yaptığını unutur. Bir kullanıcı senaryo dışına çıkar, bir API çağrısı başarısız olur ve bot aniden baştan başlar - ya da daha kötüsü, görevi aslında hiç bitirmediği halde tamamladığını söyler.

Bunun nedeni, belleğe görev ilerlemesi gibi davranmanızdır. Ancak bellek sadece geçmişten ibarettir - size iş akışında nerede olduğunuzu söylemez.

İzleyen ayrı bir görev durumuna ihtiyacınız var:

• neler yapıldı
• ne beklemede
• hedefin ne olduğu

Bu şekilde, bir şey kırılsa bile, sürecin ortasında kurtarabilir ve görevi temiz bir şekilde bitirebilirsiniz.

Yapay zeka aracı düzenlemesi nedir?

YZ aracı orkestrasyonu, karmaşık görevleri bir sistem olarak tamamlamak için birlikte çalışan birden fazla uzmanlaşmış YZ aracısının koordinasyonudur.

Temsilci düzenlemesinin geleneksel sohbet robotlarından farkı nedir?

Her şeyi yapan bir bot yerine, her ajan merkezi bir denetleyici tarafından koordine edilen tek bir role odaklanır.

Aracılar özerk olarak hareket edebilir mi?

Evet, bazı aracılar takip eylemlerini tetikleyebilir, ancak orkestrasyon bunların aynı hizada kalmasını sağlar.