Nung nagsimula na kami Botpress , ang ideya ng mga autonomous na ahente na nagpapatakbo ng mga tunay na proseso ng negosyo ay halos hypothetical pa rin. Ang teknolohiya ay hindi pa handa. Ang mga kasangkapan ay hindi sapat. At karamihan sa mga framework ng ahente, kahit ngayon, ay masira pa rin kapag lumipat ka nang lampas sa mga scripted flow o simpleng tool-calling wrapper.
Simula noon, nagbago ang mga bagay. Ang mga pangunahing modelo ay napabuti. LLMs na-unlock ang isang bagong layer ng pangangatwiran at abstraction. Ngunit ang mga modelo lamang ay hindi sapat upang magpatakbo ng mga maaasahang ahente sa produksyon. Ang kulang (at kung ano ang ginugol namin sa nakaraang ilang taon sa pagbuo) ay ang layer ng imprastraktura na nasa pagitan ng mga hilaw na modelo at mga real-world na sistema ng negosyo.
Botpress kakasara lang ng aming Serye B, na nakalikom ng $25 milyon para ipagpatuloy ang pag-scale sa gawaing iyon.
Ang problema na ginugol namin sa paglutas ng maraming taon
Ang mga ahente na nagpapatakbo sa produksyon ay nangangailangan ng higit pa sa isang prompt window sa isang LLM . Kailangan nila ng memorya, pag-aayos ng tool, ligtas na mga kapaligiran sa pagpapatupad, maaasahang pangangatwiran sa mga multi-step na daloy ng trabaho, pare-pareho ang pag-uugali ng runtime, at kakayahang magbalik ng mga structured na output na sumasama sa mga aktwal na system. Kailangan din nilang tumakbo nang walang marupok na mga layer ng orkestrasyon na naka-bold pagkatapos ng katotohanan.
Ito ang aming itinayo Botpress . Kasama sa platform ang:
- Isang ganap na nakahiwalay na runtime na ipinapadala sa bawat naka-deploy na ahente, na tinitiyak ang katatagan sa mga update sa platform.
- Isang custom na inference engine, na humahawak ng pangangatwiran, paggamit ng tool, pagpapatupad ng code, at multi-turn orchestration.
- Isang safe code execution layer na nagbibigay-daan sa mga ahente na dynamic na magsulat at magsagawa ng code nang hindi nakompromiso ang kaligtasan ng system.
- Mga istrukturang primitive para sa mga file, talahanayan, daloy ng trabaho, pag-uusap, at user na nagpapahintulot sa mga developer na bumuo ng mga ahente na higit pa sa simpleng pakikipag-ugnayan sa Q&A.
- Mga deployment pipeline na nagbibigay-daan sa mga developer na magpadala ng mga ahente nang may kumpiyansa, alam na ang bawat bersyon ay nakahiwalay at maaaring kopyahin.
Ito ay hindi isang teoretikal na roadmap. Botpress ang mga ahente na binuo sa ibabaw ng custom na inference engine na ito ay naging live sa loob ng mahigit isang taon, na nagpapatakbo ng milyun-milyong execution sa mga industriya. Sa oras na maaaring tumagal ang mga user upang bumuo ng isang ahente sa isang lokal na server ng pag-unlad, sa halip ay nagtayo at nagpadala sila ng isang ahente sa Botpress sa napakaliit na bahagi ng panahon.
Ang pakinabang ng kahusayan ay hindi ang pangunahing kuwento dito, gayunpaman: ito ang kalamangan na pinagsama sa panahong iyon. Bilang Botpress ang mga ahente ay naninirahan, nakikipag-usap, at nagpapatakbo sa totoong mundo, sinusubaybayan ng mga user ang kanilang pag-uugali at nagbibigay ng simple, natural-language na feedback upang isaayos ang anumang hindi gustong mga desisyon o resulta. Sa madaling salita, bumubuti sila. Habang tumatagal ang isang ahente, hindi lang ito nakikinabang sa mas mahusay, mas matipid na mga modelo ng wika. Nakikinabang din ito mula sa pasadyang feedback, industriya at partikular sa kumpanya na ibinibigay mo dito.
Ang merkado ay humahabol
Ang karamihan ng mga kumpanya ng software ngayon ay nag-eeksperimento pa rin sa AI sa antas ng interface. Napakakaunti ang nakatutok sa paglutas ng mga problema sa imprastraktura na nagpapahintulot sa mga ahente na gumana nang mapagkakatiwalaan sa sukat. Ang puwang na ito ay kung saan Botpress nakaupo. Sinadya naming iwasan ang paghabol sa mga mabilisang demo o paglabas ng produkto sa antas ng ibabaw sa pabor ng malalim na pamumuhunan sa pangunahing gawain na sumusuporta sa mga tunay na deployment.
Sa nakalipas na taon, nakita namin ang mga customer na lumipat mula sa pag-eeksperimento patungo sa mga full-scale na deployment. Marami sa mga unang nag-aampon ay mas maliit, mas mapagparaya sa panganib na mga kumpanya. Ngunit habang ang imprastraktura ay naging matatag at bumuti ang mga pag-iingat, nakikita namin ang lumalaking pag-aampon sa mas konserbatibong mga industriya at mas malalaking negosyo.
As of today, meron Botpress mga gumagamit sa higit sa 190 mga bansa. Ang dami ng mga ahente na lumilipat sa produksyon ay lumalaki bawat quarter. Ang pangangalap ng pondo na ito ay hindi isang pivot point. Nagbibigay-daan lang ito sa amin na patuloy na i-scale kung ano ang gumagana na.
Ano ang ipapagawa sa atin ng round na ito
Ang kapital ay nagbibigay-daan sa amin na palawakin sa maraming larangan na direktang sumasalamin sa aming diskarte na pinangungunahan ng produkto:
- Ipagpatuloy ang pagbuo ng mas malalim na mga primitive sa platform na ginagawang mas may kakayahan, nakokontrol, at napapalawak ang mga ahente.
- Palawakin ang mga SDK na nakaharap sa developer at tooling para sa mga team na nagsasama Botpress sa mga umiiral na sistema.
- Suportahan ang parehong teknikal at hindi teknikal na mga koponan sa pamamagitan ng pagpapabuti ng aming visual studio habang pinapanatili ang buong programmatic na kontrol.
- Palawakin ang pandaigdigang saklaw at imprastraktura upang matugunan ang tumataas na pangangailangan sa buong North America, Europe, Latin America, at Asia.
Botpress Sinusuportahan ang parehong walang code at pro-code na pag-unlad dahil ang mga real-world na deployment ay nangangailangan ng parehong flexibility at kontrol. Nagsisimula ang ilan sa aming mga customer sa mga pre-built na template at simpleng workflow; ang iba ay malalim na isinasama sa mga backend system, na bumubuo ng lubos na na-customize na mga ahente para sa mga kumplikadong proseso.
Malamang na napansin mo ang isang malinaw na paghahati sa pagitan ng mga tool na walang code at mga tool na umaasa sa mga bihasang developer sa lalong siksikang espasyong ito. Sa pagsuporta sa daan-daang deployment ng produksyon sa mga industriya, ang nalaman namin ay ang pinakamatagumpay na deployment ay may malinaw na paraan para sa lahat ng stakeholder na makilahok nang makabuluhan sa lifecycle ng isang ahente. Hindi ito nangangahulugan ng pagbibigay ng lip service sa pakikilahok: nang walang malinaw na landas sa pag-impluwensya sa gawi ng isang ahente o sa mga resultang ibinubunga nito, sa paraang umaayon sa kung paano gumagana ang isang team, ang mga proyekto ng ahente ay tiyak na mabibigo.
Kung saan napupunta ang lahat ng ito
Sa susunod na dekada, papalitan ng mga ahente ng AI ang buong kategorya ng software. Marami sa mga gawain na kasalukuyang nangangailangan ng custom na code o mga operator ng tao ay magiging awtomatiko ng mga system na maaaring mangatuwiran, kumilos, at umangkop sa mga domain ng negosyo. Ang merkado para sa shift na ito ay malaki dahil ang problemang espasyo mismo ay nakakaapekto sa halos bawat operating system sa loob ng mga kumpanya.
Ang aming trabaho sa Botpress ay ipagpatuloy ang pagbuo ng platform ng ahente na ginagawang posible ang paglipat na ito — hindi bilang isang prototype, ngunit bilang matatag na imprastraktura kung saan maaasahan ng mga koponan.
Salamat sa lahat ng aming user, builder, customer, at partner na tumulong na dalhin ang platform sa kung nasaan ito ngayon. Ang gawain sa hinaharap ay nananatiling malaki. Ngunit mayroon na kaming mga mapagkukunan, koponan, at pundasyon upang i-scale ang produkto sa pagkakataong nakikita namin sa harap namin.
— Sylvain