$25M para sa pagbuo ng imprastraktura ng AI agent

Nang sinimulan namin ang Botpress, ang ideya ng mga autonomous na ahente na gumaganap ng totoong proseso ng negosyo ay halos haka-haka pa lamang. Hindi pa handa ang teknolohiya. Hindi sapat ang mga kasangkapan. At karamihan sa mga framework ng ahente, kahit ngayon, ay bumibigay pa rin kapag lumampas ka na sa mga scripted na daloy o simpleng mga wrapper para sa pagtawag ng kasangkapan.

Simula noon, nagbago na ang mga bagay. Umangat ang kalidad ng mga pangunahing modelo. Nagbukas ang LLMs ng bagong antas ng pangangatwiran at abstraksyon. Ngunit hindi sapat ang mga modelo lang para magpatakbo ng maaasahang mga ahente sa aktwal na operasyon. Ang kulang (at siyang ginugulan namin ng mga nakaraang taon) ay ang imprastraktura na namamagitan sa hilaw na mga modelo at totoong mga sistema ng negosyo.

Katatapos lang magsara ng Botpress ng aming Series B, kung saan nakalikom kami ng $25 milyon upang ipagpatuloy ang pagpapalawak ng gawaing ito.

Ang problemang matagal na naming nilulutas

Ang mga ahenteng tumatakbo sa aktwal na operasyon ay nangangailangan ng higit pa sa prompt window papunta sa isang LLM. Kailangan nila ng memorya, orkestrasyon ng mga kasangkapan, ligtas na kapaligiran para sa pagpapatupad, maaasahang pangangatwiran sa mga multi-hakbang na daloy ng trabaho, pare-parehong kilos habang tumatakbo, at kakayahang magbalik ng estrukturadong output na maaaring isama sa tunay na mga sistema. Kailangan din nilang tumakbo nang hindi umaasa sa marupok na mga layer ng orkestrasyon na idinagdag lang pagkatapos.

Ito ang binuo namin sa Botpress. Kasama sa plataporma ang:

• Isang ganap na hiwalay na runtime na kasama sa bawat inilalabas na ahente, para matiyak ang katatagan kahit may update sa plataporma.
• Isang custom na inference engine na humahawak sa pangangatwiran, paggamit ng kasangkapan, pagpapatupad ng code, at orkestrasyon ng maraming hakbang.
• Isang ligtas na layer para sa pagpapatupad ng code na nagpapahintulot sa mga ahente na magsulat at magpatupad ng code nang hindi isinusugal ang kaligtasan ng sistema.
• Estrukturadong mga pangunahing bahagi para sa mga file, talahanayan, daloy ng trabaho, pag-uusap, at mga gumagamit na nagbibigay-daan sa mga developer na lumikha ng mga ahenteng higit pa sa simpleng tanong at sagot.
• Mga deployment pipeline na nagpapahintulot sa mga developer na maglabas ng ahente nang may kumpiyansa, alam na bawat bersyon ay hiwalay at maaaring ulitin.

Hindi ito teoretikal na plano lang. Ang mga ahente ng Botpress na nakabase sa custom na inference engine na ito ay aktibo na nang higit isang taon, tumatakbo ng milyun-milyong beses sa iba’t ibang industriya. Sa oras na maaaring ginugol ng mga user sa paggawa ng ahente sa lokal na development server, nakagawa at nailunsad na nila ang ahente sa Botpress sa mas maikling panahon.

Hindi lang ang pagtitipid sa oras ang mahalaga rito: ang tunay na bentahe ay ang patuloy na pagbuti nito sa paglipas ng panahon. Habang ang mga ahente ng Botpress ay nabubuhay, nakikipag-usap, at gumagana sa totoong mundo, minomonitor ng mga user ang kanilang kilos at nagbibigay ng simpleng feedback gamit ang natural na wika para itama ang anumang hindi kanais-nais na desisyon o resulta. Sa madaling salita, gumagaling sila. Habang mas matagal na naka-deploy ang ahente, hindi lang ito nakikinabang sa mas mahusay at mas matipid na mga modelo ng wika. Nakikinabang din ito sa natatanging feedback na ibinibigay mo, na akma sa industriya at kumpanya mo.

Humahabol na ang merkado

Karamihan sa mga software company ngayon ay nagsusubok pa lang ng AI sa antas ng interface. Iilan lang ang nakatutok sa paglutas ng mga problema sa imprastraktura na nagpapahintulot sa mga ahente na gumana nang maaasahan sa malakihang operasyon. Dito pumapasok ang Botpress. Sinasadya naming iwasan ang mabilisang demo o mababaw na paglabas ng produkto, at mas pinili naming mag-invest nang malalim sa pundasyong sumusuporta sa totoong deployment.

Sa nakaraang taon, nakita naming lumipat ang mga customer mula sa pagsubok patungo sa ganap na deployment. Marami sa mga unang gumamit ay maliliit at mas handang sumugal na kumpanya. Ngunit habang tumitibay ang imprastraktura at gumaganda ang mga panangga, dumarami ang gumagamit mula sa mas konserbatibong industriya at malalaking negosyo.

Sa ngayon, may mga gumagamit ng Botpress sa mahigit 190 bansa. Patuloy na dumarami bawat quarter ang mga ahenteng inilalagay sa aktwal na operasyon. Ang pondong ito ay hindi pagbabago ng direksyon. Pinapayagan lang nitong ipagpatuloy at palakihin ang gumaganang sistema.

Ano ang magagawa namin gamit ang pondong ito

Ang pondo ay nagbibigay-daan sa amin na palawakin ang ilang aspeto na direktang sumasalamin sa aming approach na nakatuon sa produkto:

• Ipagpatuloy ang paggawa ng mas malalim na pangunahing bahagi ng plataporma para gawing mas mahusay, kontrolado, at napapalawak ang mga ahente.
• Palawakin ang mga SDK at kasangkapan para sa mga developer na nais isama ang Botpress sa umiiral na mga sistema.
• Suportahan ang parehong teknikal at hindi teknikal na mga koponan sa pamamagitan ng pagpapabuti ng aming visual studio habang pinananatili ang ganap na kontrol sa pamamagitan ng code.
• Palawakin ang saklaw at imprastraktura sa buong mundo para tugunan ang tumataas na pangangailangan sa North America, Europa, Latin America, at Asya.

Sinusuportahan ng Botpress ang parehong no-code at pro-code na pag-develop dahil ang totoong deployment ay nangangailangan ng parehong kakayahang umangkop at kontrol. May ilang customer na nagsisimula sa mga pre-built na template at simpleng daloy ng trabaho; ang iba naman ay malalim ang integrasyon sa backend systems, gumagawa ng lubos na iniangkop na mga ahente para sa masalimuot na proseso.

Malamang napansin mo na ang malinaw na hati sa pagitan ng mga no-code na kasangkapan at mga kasangkapan na nangangailangan ng bihasang developer sa masikip na larangang ito. Sa pagsuporta sa daan-daang deployment sa iba’t ibang industriya, nakita naming ang pinakamatagumpay na deployment ay may malinaw na paraan para makalahok ang lahat ng stakeholder sa lifecycle ng ahente. Hindi ito basta pakitang-tao lang: kung walang malinaw na paraan para maimpluwensyahan ang kilos ng ahente o ang mga resulta nito, sa paraang akma sa nakasanayan ng koponan, tiyak na mabibigo ang proyekto ng ahente.

Saan patungo ang lahat ng ito

Sa susunod na dekada, papalitan ng mga AI agent ang buong kategorya ng software. Marami sa mga gawain na ngayon ay nangangailangan ng custom na code o tao ay aautomatiko na ng mga sistemang kayang mag-isip, kumilos, at umangkop sa iba’t ibang larangan ng negosyo. Malaki ang merkado para sa pagbabagong ito dahil halos lahat ng operasyon ng kumpanya ay saklaw ng problemang ito.

Ang tungkulin namin sa Botpress ay ipagpatuloy ang paggawa ng plataporma ng ahente na magpapadali sa pagbabagong ito — hindi bilang prototype, kundi bilang matatag na imprastraktura na maaasahan ng mga koponan.

Maraming salamat sa lahat ng aming mga user, tagabuo, customer, at partner na tumulong magdala ng plataporma sa kinalalagyan nito ngayon. Malaki pa ang trabahong nasa unahan. Ngunit ngayon, may sapat na kaming mapagkukunan, koponan, at pundasyon para palawakin pa ang produkto ayon sa oportunidad na nakikita namin.

— Sylvain

‍