Khi chúng tôi bắt đầu Botpress , ý tưởng về các tác nhân tự động vận hành các quy trình kinh doanh thực tế vẫn chủ yếu là giả thuyết. Công nghệ chưa sẵn sàng. Các công cụ chưa đủ. Và hầu hết các khuôn khổ tác nhân, ngay cả ngày nay, vẫn bị hỏng khi bạn vượt ra ngoài các luồng được lập trình hoặc các trình bao bọc gọi công cụ đơn giản.
Kể từ đó, mọi thứ đã thay đổi. Các mô hình cơ bản đã được cải thiện. LLMs đã mở ra một lớp lý luận và trừu tượng mới. Nhưng chỉ riêng các mô hình thì không đủ để chạy các tác nhân đáng tin cậy trong sản xuất. Điều còn thiếu (và những gì chúng tôi đã dành nhiều năm qua để xây dựng) là lớp cơ sở hạ tầng nằm giữa các mô hình thô và hệ thống kinh doanh thực tế.
Botpress vừa kết thúc vòng gọi vốn Series B, huy động được 25 triệu đô la để tiếp tục mở rộng quy mô hoạt động đó.
Vấn đề chúng ta đã mất nhiều năm để giải quyết
Các tác nhân hoạt động trong sản xuất cần nhiều hơn một cửa sổ nhanh chóng vào LLM . Chúng cần bộ nhớ, công cụ phối hợp, môi trường thực thi an toàn, lý luận đáng tin cậy về quy trình làm việc nhiều bước, hành vi thời gian chạy nhất quán và khả năng trả về các đầu ra có cấu trúc tích hợp vào các hệ thống thực tế. Chúng cũng cần chạy mà không cần các lớp phối hợp mong manh được gắn chặt sau đó.
Đây là những gì chúng tôi đã xây dựng tại Botpress Nền tảng này bao gồm:
- Thời gian chạy hoàn toàn biệt lập đi kèm với mọi tác nhân được triển khai, đảm bảo tính ổn định khi cập nhật nền tảng.
- Một công cụ suy luận tùy chỉnh, xử lý lý luận, sử dụng công cụ, thực thi mã và phối hợp nhiều lượt.
- Lớp thực thi mã an toàn cho phép các tác nhân viết và thực thi mã một cách linh hoạt mà không làm ảnh hưởng đến tính an toàn của hệ thống.
- Cấu trúc nguyên thủy cho các tệp, bảng, quy trình làm việc, cuộc hội thoại và người dùng cho phép nhà phát triển xây dựng các tác nhân vượt xa các tương tác Hỏi & Đáp đơn giản.
- Quy trình triển khai cho phép các nhà phát triển phân phối các tác nhân một cách tự tin, biết rằng mỗi phiên bản đều được phân lập và có thể tái tạo.
Đây không phải là lộ trình lý thuyết. Botpress Các tác nhân được xây dựng trên công cụ suy luận tùy chỉnh này đã hoạt động trong hơn một năm, chạy hàng triệu lệnh thực thi trên khắp các ngành. Trong thời gian người dùng có thể xây dựng một tác nhân trên máy chủ phát triển cục bộ, thay vào đó, họ đã xây dựng và vận chuyển một tác nhân trên Botpress trong một khoảng thời gian rất nhỏ.
Tuy nhiên, hiệu quả tăng lên không phải là câu chuyện chính ở đây: đó là lợi thế tích lũy theo thời gian. Như Botpress Các tác nhân sống, nói chuyện và hoạt động ngoài thế giới thực, người dùng theo dõi hành vi của họ và cung cấp phản hồi đơn giản, bằng ngôn ngữ tự nhiên để điều chỉnh bất kỳ quyết định hoặc kết quả không mong muốn nào. Nói cách khác, chúng cải thiện. Một tác nhân được triển khai càng lâu, nó không chỉ được hưởng lợi từ các mô hình ngôn ngữ tốt hơn, tiết kiệm chi phí hơn. Nó cũng được hưởng lợi từ phản hồi riêng biệt, theo ngành và theo công ty mà bạn cung cấp cho nó.
Thị trường đang bắt kịp
Phần lớn các công ty phần mềm hiện nay vẫn đang thử nghiệm AI ở cấp độ giao diện. Rất ít công ty tập trung vào việc giải quyết các vấn đề về cơ sở hạ tầng cho phép các tác nhân hoạt động đáng tin cậy ở quy mô lớn. Khoảng cách này là nơi Botpress ngồi. Chúng tôi cố tình tránh việc theo đuổi các bản demo nhanh hoặc phát hành sản phẩm ở mức bề mặt để đầu tư sâu vào công việc nền tảng hỗ trợ triển khai thực tế.
Trong năm qua, chúng tôi đã thấy khách hàng chuyển từ thử nghiệm sang triển khai toàn diện. Nhiều công ty áp dụng sớm ban đầu là các công ty nhỏ hơn, có khả năng chịu rủi ro cao hơn. Nhưng khi cơ sở hạ tầng ổn định và các biện pháp bảo vệ được cải thiện, chúng tôi thấy việc áp dụng ngày càng tăng trong các ngành công nghiệp bảo thủ hơn và các doanh nghiệp lớn hơn.
Tính đến hôm nay, có Botpress người dùng tại hơn 190 quốc gia. Khối lượng các tác nhân chuyển sang sản xuất tăng lên mỗi quý. Việc gây quỹ này không phải là điểm then chốt. Nó chỉ đơn giản cho phép chúng tôi tiếp tục mở rộng quy mô những gì đang hoạt động.
Vòng này sẽ cho phép chúng ta làm gì
Nguồn vốn này cho phép chúng tôi mở rộng trên nhiều mặt trận phản ánh trực tiếp phương pháp tiếp cận theo hướng sản phẩm của chúng tôi:
- Tiếp tục xây dựng các nền tảng cơ bản sâu hơn giúp các tác nhân có nhiều khả năng hơn, dễ kiểm soát hơn và có thể mở rộng hơn.
- Mở rộng SDK và công cụ dành cho nhà phát triển để tích hợp các nhóm Botpress vào các hệ thống hiện có.
- Hỗ trợ cả nhóm kỹ thuật và phi kỹ thuật bằng cách cải thiện studio trực quan của chúng tôi trong khi vẫn duy trì toàn quyền kiểm soát theo chương trình.
- Mở rộng phạm vi phủ sóng và cơ sở hạ tầng toàn cầu để đáp ứng nhu cầu ngày càng tăng trên khắp Bắc Mỹ, Châu Âu, Châu Mỹ Latinh và Châu Á.
Botpress hỗ trợ cả phát triển không cần mã và chuyên mã vì triển khai trong thế giới thực đòi hỏi cả tính linh hoạt và khả năng kiểm soát. Một số khách hàng của chúng tôi bắt đầu với các mẫu dựng sẵn và quy trình làm việc đơn giản; những khách hàng khác tích hợp sâu với các hệ thống phụ trợ, xây dựng các tác nhân được tùy chỉnh cao cho các quy trình phức tạp.
Bạn có thể đã nhận thấy sự phân chia rõ ràng giữa các công cụ không cần mã và các công cụ dựa vào các nhà phát triển có kỹ năng trong không gian ngày càng đông đúc này. Trong quá trình hỗ trợ hàng trăm lần triển khai sản xuất trên khắp các ngành, chúng tôi nhận thấy rằng các lần triển khai thành công nhất đều có cách rõ ràng để tất cả các bên liên quan tham gia một cách có ý nghĩa vào vòng đời của một tác nhân. Điều này không có nghĩa là chỉ nói suông về sự tham gia: nếu không có con đường rõ ràng để tác động đến hành vi của tác nhân hoặc kết quả mà nó tạo ra, theo cách phù hợp với cách thức hoạt động của nhóm, các dự án tác nhân chắc chắn sẽ thất bại.
Tất cả những điều này sẽ đi về đâu
Trong thập kỷ tới, các tác nhân AI sẽ thay thế toàn bộ các loại phần mềm. Nhiều tác vụ hiện tại yêu cầu mã tùy chỉnh hoặc người vận hành sẽ được tự động hóa bởi các hệ thống có thể lý luận, hành động và thích ứng trên nhiều lĩnh vực kinh doanh. Thị trường cho sự thay đổi này rất lớn vì bản thân không gian vấn đề liên quan đến hầu hết mọi hệ thống hoạt động bên trong các công ty.
Công việc của chúng tôi tại Botpress là tiếp tục xây dựng nền tảng tác nhân giúp quá trình chuyển đổi này trở nên khả thi — không phải như một nguyên mẫu, mà là cơ sở hạ tầng ổn định mà các nhóm có thể tin cậy.
Xin cảm ơn tất cả người dùng, nhà xây dựng, khách hàng và đối tác đã giúp đưa nền tảng này đến vị trí như ngày hôm nay. Công việc phía trước vẫn còn rất lớn. Nhưng hiện tại chúng tôi có đủ nguồn lực, đội ngũ và nền tảng để mở rộng sản phẩm theo cơ hội mà chúng tôi thấy trước mắt.
— Sylvain