Botpress'e başladığımızda, gerçek iş süreçlerini işleten otonom ajanlar fikri hala çoğunlukla varsayımsaldı. Teknoloji hazır değildi. Araçlar yeterli değildi. Ve bugün bile çoğu aracı çerçevesi, komut dosyası akışlarının veya basit araç çağırma sarmalayıcılarının ötesine geçtiğinizde hala bozuluyor.
O zamandan beri işler değişti. Altta yatan modeller gelişti. LLMs yeni bir muhakeme ve soyutlama katmanının kilidini açtı. Ancak modeller üretimde güvenilir aracılar çalıştırmak için tek başına yeterli değil. Eksik olan (ve son birkaç yılımızı inşa etmeye harcadığımız) şey, ham modeller ile gerçek dünyadaki iş sistemleri arasında yer alan altyapı katmanıdır.
Botpress , bu çalışmayı ölçeklendirmeye devam etmek için 25 milyon dolar toplayarak Seri B'yi kapattı.
Yıllardır çözmeye çalıştığımız sorun
Üretimde çalışan ajanlar, bir LLM'ye açılan hızlı bir pencereden daha fazlasına ihtiyaç duyar. Hafızaya, araç düzenlemeye, güvenli yürütme ortamlarına, çok adımlı iş akışları üzerinde güvenilir muhakemeye, tutarlı çalışma zamanı davranışına ve gerçek sistemlere entegre olan yapılandırılmış çıktılar döndürme becerisine ihtiyaçları vardır. Ayrıca, sonradan eklenen kırılgan orkestrasyon katmanları olmadan çalışmaları gerekir.
Botpress'te inşa ettiğimiz şey bu. Platform şunları içerir:
- Dağıtılan her ajanla birlikte gönderilen tamamen yalıtılmış bir çalışma zamanı, platform güncellemeleri boyunca kararlılık sağlar.
- Muhakeme, araç kullanımı, kod yürütme ve çok turlu düzenleme işlemlerini gerçekleştiren özel bir çıkarım motoru.
- Aracıların sistem güvenliğinden ödün vermeden dinamik olarak kod yazmasına ve yürütmesine olanak tanıyan güvenli bir kod yürütme katmanı.
- Geliştiricilerin basit Soru-Cevap etkileşimlerinin çok ötesine geçen aracılar oluşturmasına olanak tanıyan dosyalar, tablolar, iş akışları, konuşmalar ve kullanıcılar için yapılandırılmış ilkeller.
- Geliştiricilerin, her sürümün izole ve tekrarlanabilir olduğunu bilerek aracıları güvenle göndermelerini sağlayan dağıtım ardışık düzenleri.
Bu teorik bir yol haritası değildir. Bu özel çıkarım motoru üzerine inşa edilen Botpress aracıları bir yılı aşkın süredir yayında ve sektörler arasında milyonlarca yürütme gerçekleştiriyor. Kullanıcıların yerel bir geliştirme sunucusunda bir aracı oluşturması gereken sürede, Botpress üzerinde çok küçük bir sürede bir aracı oluşturdular ve gönderdiler.
Ancak buradaki ana hikaye verimlilik kazancı değil: bu süre içinde artan avantaj. Botpress ajanları gerçek dünyada yaşadıkça, konuştukça ve çalıştıkça, kullanıcılar onların davranışlarını izler ve istenmeyen kararları veya sonuçları ayarlamak için basit, doğal dilde geri bildirim sağlar. Başka bir deyişle, gelişirler. Bir temsilci ne kadar uzun süre konuşlandırılırsa, yalnızca daha iyi, daha uygun maliyetli dil modellerinden faydalanmakla kalmaz. Aynı zamanda ona sağladığınız ısmarlama, sektöre ve şirkete özel geri bildirimlerden de yararlanır.
Piyasa yetişiyor
Günümüzde yazılım şirketlerinin çoğu hala arayüz düzeyinde yapay zeka denemeleri yapmaktadır. Çok azı, aracıların geniş ölçekte güvenilir bir şekilde çalışmasını sağlayan altyapı sorunlarını çözmeye odaklanmıştır. Botpress işte bu boşlukta yer alıyor. Gerçek dağıtımları destekleyen temel çalışmalara derinlemesine yatırım yapmak için hızlı demolar veya yüzeysel ürün sürümleri peşinde koşmaktan kasıtlı olarak kaçındık.
Geçtiğimiz yıl boyunca müşterilerin deneme aşamasından tam ölçekli dağıtımlara geçtiğini gördük. İlk benimseyenlerin çoğu daha küçük, daha risk toleranslı şirketlerdi. Ancak altyapı istikrar kazandıkça ve güvenlik önlemleri geliştikçe, daha muhafazakar sektörlerde ve daha büyük işletmelerde benimsemenin arttığını görüyoruz.
Bugün itibariyle 190'dan fazla ülkede Botpress kullanıcısı var. Üretime geçen aracıların hacmi her çeyrekte artıyor. Bu bağış toplama bir dönüm noktası değil. Sadece halihazırda çalışmakta olan şeyi ölçeklendirmeye devam etmemizi sağlıyor.
Bu tur ne yapmamıza izin verecek
Sermaye, ürün odaklı yaklaşımımızı doğrudan yansıtan çeşitli cephelerde genişlememize olanak tanıyor:
- Aracıları daha yetenekli, kontrol edilebilir ve genişletilebilir hale getiren daha derin platform ilkelleri oluşturmaya devam edin.
- Botpress 'i mevcut sistemlere entegre eden ekipler için geliştiriciye yönelik SDK'ları ve araçları genişletin.
- Tam programatik kontrolü korurken görsel stüdyomuzu geliştirerek hem teknik hem de teknik olmayan ekipleri destekleyin.
- Kuzey Amerika, Avrupa, Latin Amerika ve Asya'da artan talebi karşılamak için küresel kapsama alanını ve altyapıyı genişletmek.
Botpress hem kodsuz hem de pro-kodlu geliştirmeyi destekler çünkü gerçek dünyadaki dağıtımlar hem esneklik hem de kontrol gerektirir. Bazı müşterilerimiz önceden oluşturulmuş şablonlar ve basit iş akışlarıyla başlarken, diğerleri arka uç sistemleriyle derinlemesine entegre olarak karmaşık süreçler için son derece özelleştirilmiş aracılar oluşturuyor.
Giderek kalabalıklaşan bu alanda, kodsuz araçlar ile yetenekli geliştiricilere dayanan araçlar arasında net bir ayrım olduğunu muhtemelen fark etmişsinizdir. Sektörler genelinde yüzlerce üretim dağıtımını desteklerken, en başarılı dağıtımların tüm paydaşların bir aracının yaşam döngüsüne anlamlı bir şekilde katılması için açık bir yola sahip olduğunu gördük. Bu, katılıma sözde hizmet etmek anlamına gelmez: bir ajanın davranışını veya ürettiği sonuçları, bir ekibin halihazırda nasıl çalıştığıyla uyumlu bir şekilde etkilemek için net bir yol olmadan, ajan projeleri başarısız olmaya mahkumdur.
Tüm bunlar nereye gidiyor
Önümüzdeki on yıl içinde, yapay zeka ajanları tüm yazılım kategorilerinin yerini alacak. Şu anda özel kod veya insan operatörleri gerektiren görevlerin çoğu, iş alanları arasında mantık yürütebilen, hareket edebilen ve uyum sağlayabilen sistemler tarafından otomatikleştirilecektir. Bu değişim için pazar büyüktür çünkü sorun alanının kendisi şirketlerin içindeki neredeyse her operasyonel sisteme dokunmaktadır.
Botpress 'teki işimiz, bu geçişi mümkün kılan aracı platformunu bir prototip olarak değil, ekiplerin güvenebileceği istikrarlı bir altyapı olarak oluşturmaya devam etmektir.
Platformun bugün bulunduğu noktaya gelmesine yardımcı olan tüm kullanıcılarımıza, kurucularımıza, müşterilerimize ve ortaklarımıza teşekkür ederiz. Önümüzde önemli bir iş var. Ancak artık ürünü önümüzde gördüğümüz fırsatlara göre ölçeklendirecek kaynaklara, ekibe ve temele sahibiz.
- Sylvain