USD25J untuk membina lapisan infrastruktur bagi ejen AI

Masalah yang telah kami usahakan bertahun-tahun untuk diselesaikan

Ejen yang beroperasi dalam pengeluaran memerlukan lebih daripada sekadar tetingkap prompt ke dalam LLM. Mereka memerlukan memori, penyelarasan alat, persekitaran pelaksanaan yang selamat, penaakulan yang boleh dipercayai untuk aliran kerja berbilang langkah, tingkah laku masa nyata yang konsisten, dan keupayaan untuk mengembalikan output berstruktur yang boleh diintegrasikan ke dalam sistem sebenar. Mereka juga perlu beroperasi tanpa lapisan penyelarasan yang rapuh yang ditambah kemudian.

Inilah yang telah kami bina di Botpress. Platform ini merangkumi:

• Persekitaran masa jalan (runtime) yang terasing sepenuhnya yang disertakan dengan setiap ejen yang dihantar, memastikan kestabilan merentasi kemas kini platform.
• Enjin inferens khusus, yang mengendalikan penaakulan, penggunaan alat, pelaksanaan kod, dan penyelarasan berbilang giliran.
• Lapisan pelaksanaan kod yang selamat yang membolehkan ejen menulis dan melaksanakan kod secara dinamik tanpa menjejaskan keselamatan sistem.
• Primitif berstruktur untuk fail, jadual, aliran kerja, perbualan, dan pengguna yang membolehkan pembangun membina ejen yang jauh melangkaui interaksi soal jawab ringkas.
• Saluran penghantaran yang membolehkan pembangun menghantar ejen dengan yakin, mengetahui setiap versi adalah terasing dan boleh dihasilkan semula.

Ini bukan pelan teori. Ejen Botpress yang dibina di atas enjin inferens khusus ini telah beroperasi lebih setahun, menjalankan berjuta-juta pelaksanaan merentasi pelbagai industri. Dalam masa yang mungkin diambil pengguna untuk membina ejen di pelayan pembangunan tempatan, mereka telah berjaya membina dan menghantar ejen di Botpress dalam masa yang jauh lebih singkat.

Namun, peningkatan kecekapan bukanlah cerita utama di sini: kelebihannya bertambah dari masa ke masa. Apabila ejen Botpress digunakan, berinteraksi, dan beroperasi di dunia sebenar, pengguna memantau tingkah laku mereka dan memberikan maklum balas dalam bahasa semula jadi untuk melaraskan sebarang keputusan atau hasil yang tidak diingini. Dengan kata lain, mereka bertambah baik. Semakin lama ejen digunakan, ia bukan sahaja mendapat manfaat daripada model bahasa yang lebih baik dan lebih menjimatkan kos. Ia juga mendapat manfaat daripada maklum balas khusus industri dan syarikat yang anda berikan.

Pasaran kini sedang mengejar

Majoriti syarikat perisian hari ini masih bereksperimen dengan AI di peringkat antara muka. Sangat sedikit yang memberi tumpuan untuk menyelesaikan masalah infrastruktur yang membolehkan ejen beroperasi dengan boleh dipercayai pada skala besar. Jurang inilah yang diisi oleh Botpress. Kami sengaja mengelak mengejar demo pantas atau pelancaran produk permukaan demi melabur secara mendalam dalam kerja asas yang menyokong pelaksanaan sebenar.

Sepanjang tahun lalu, kami telah melihat pelanggan beralih daripada percubaan kepada pelaksanaan berskala penuh. Ramai pengguna awal terdiri daripada syarikat kecil yang lebih toleran risiko. Tetapi apabila infrastruktur semakin stabil dan langkah keselamatan bertambah baik, kami melihat peningkatan penggunaan dalam industri yang lebih konservatif dan syarikat besar.

Sehingga hari ini, terdapat pengguna Botpress di lebih 190 negara. Jumlah ejen yang memasuki pengeluaran meningkat setiap suku tahun. Pembiayaan ini bukanlah titik perubahan. Ia hanya membolehkan kami terus mengembangkan apa yang sudah berfungsi.

Apa yang akan dapat kami lakukan dengan pusingan ini

Modal ini membolehkan kami berkembang dalam beberapa aspek yang mencerminkan pendekatan berasaskan produk kami:

• Terus membina primitif platform yang lebih mendalam untuk menjadikan ejen lebih berkemampuan, terkawal, dan boleh dikembangkan.
• Memperluaskan SDK dan alat untuk pembangun yang ingin mengintegrasikan Botpress ke dalam sistem sedia ada.
• Menyokong kedua-dua pasukan teknikal dan bukan teknikal dengan menambah baik studio visual kami sambil mengekalkan kawalan programatik penuh.
• Memperluaskan liputan dan infrastruktur global untuk memenuhi permintaan yang semakin meningkat di Amerika Utara, Eropah, Amerika Latin, dan Asia.

Botpress menyokong pembangunan tanpa kod dan pro-kod kerana pelaksanaan sebenar memerlukan kedua-dua fleksibiliti dan kawalan. Sebahagian pelanggan kami bermula dengan templat sedia ada dan aliran kerja ringkas; yang lain mengintegrasi secara mendalam dengan sistem belakang, membina ejen yang sangat disesuaikan untuk proses yang kompleks.

Anda mungkin telah menyedari perbezaan yang jelas antara alat tanpa kod dan alat yang memerlukan pembangun mahir dalam bidang yang semakin sesak ini. Dalam menyokong ratusan pelaksanaan pengeluaran merentasi industri, apa yang kami dapati ialah pelaksanaan yang paling berjaya mempunyai cara yang jelas untuk semua pihak berkepentingan menyumbang secara bermakna dalam kitaran hayat ejen. Ini bukan sekadar memberi peluang secara simbolik: tanpa laluan yang jelas untuk mempengaruhi tingkah laku ejen atau hasil yang dihasilkannya, dengan cara yang selari dengan cara kerja pasukan, projek ejen pasti gagal.

Ke mana arah tuju semua ini

Dalam dekad akan datang, ejen AI akan menggantikan seluruh kategori perisian. Banyak tugas yang kini memerlukan kod khusus atau operator manusia akan diautomasi oleh sistem yang boleh membuat keputusan, bertindak, dan menyesuaikan diri merentasi domain perniagaan. Pasaran untuk perubahan ini sangat besar kerana ruang masalah ini melibatkan hampir setiap sistem operasi dalam syarikat.

Tugas kami di Botpress ialah terus membina platform ejen yang memungkinkan peralihan ini — bukan sebagai prototaip, tetapi sebagai infrastruktur stabil yang boleh diharapkan oleh pasukan.

Terima kasih kepada semua pengguna, pembangun, pelanggan, dan rakan kongsi yang telah membantu membawa platform ini ke tahap sekarang. Kerja yang menanti masih banyak. Tetapi kini kami mempunyai sumber, pasukan, dan asas untuk mengembangkan produk ini menjadi peluang yang kami lihat di hadapan.

— Sylvain

‍