当我们创办Botpress 时,自主代理操作实际业务流程的想法大多还停留在假设阶段。技术还没准备好。工具也不够充分。而大多数代理框架,即使在今天,一旦超越了脚本流程或简单的工具调用封装,仍然会出现问题。
从那时起,情况发生了变化。基础模型得到了改进。LLMs 开启了新的推理和抽象层。但仅有模型还不足以在生产中运行可靠的代理。我们一直缺少的(也是我们在过去几年中一直在建设的)是位于原始模型和现实世界业务系统之间的基础架构层。
Botpress 刚刚完成了 B 轮融资,筹集了 2500 万美元,以继续扩大这项工作的规模。
我们多年来一直在解决的问题
在生产中运行的代理需要的不仅仅是一个LLM 的提示窗口。它们需要内存、工具协调、安全的执行环境、对多步骤工作流的可靠推理、一致的运行时行为,以及返回与实际系统集成的结构化输出的能力。它们在运行时还需要避免事后附加脆弱的协调层。
这就是我们在Botpress 建立的平台。该平台包括
- 完全隔离的运行时与每个部署的代理一起提供,确保平台更新时的稳定性。
- 自定义推理引擎,可处理推理、工具使用、代码执行和多轮协调。
- 安全代码执行层,允许代理在不影响系统安全的情况下动态编写和执行代码。
- 文件、表格、工作流、对话和用户的结构化原语,让开发人员能够构建远远超出简单问答交互的代理。
- 部署管道可让开发人员放心地发布代理,因为他们知道每个版本都是隔离的、可重现的。
这不是一个理论路线图。建立在定制推理引擎之上的Botpress 代理已经上线一年多,在各行各业执行了数百万次。用户在本地开发服务器上构建一个代理可能需要很长时间,而在Botpress 上构建并发布一个代理只需要很短的时间。
不过,效率的提高并不是主要原因,关键在于随着时间的推移,优势会不断叠加。当Botpress 代理在现实世界中生活、交谈和工作时,用户会监控他们的行为,并提供简单的自然语言反馈,以调整任何不理想的决策或结果。换句话说,它们会不断改进。代理部署的时间越长,它不仅能从更好、更具成本效益的语言模型中获益。它还能从您为其提供的定制、行业和公司特定反馈中获益。
市场正在迎头赶上
如今,大多数软件公司仍在界面层面尝试人工智能。只有极少数公司专注于解决基础设施问题,使代理能够大规模可靠运行。Botpress 正是填补了这一空白。我们刻意避免追求快速演示或发布表面产品,而是深入投资于支持实际部署的基础工作。
在过去的一年里,我们看到客户从试验阶段进入全面部署阶段。许多最初的早期采用者都是规模较小、风险承受能力较强的公司。但随着基础设施的稳定和保障措施的改进,我们看到越来越多的保守行业和大型企业开始采用这种技术。
截至目前,Botpress 用户已遍布 190 多个国家。每季度投入生产的代理数量都在增长。这次融资并不是一个支点。它只是让我们能够继续扩大已经取得的成果。
这一轮将让我们做什么
这笔资金使我们能够在几个方面进行扩展,直接体现了我们以产品为导向的方法:
- 继续构建更深层次的平台基元,使代理更具能力、可控性和可扩展性。
- 为将Botpress 集成到现有系统中的团队扩展面向开发人员的 SDK 和工具。
- 通过改进我们的可视化工作室,同时保留完全的程序控制,为技术和非技术团队提供支持。
- 扩大全球覆盖范围和基础设施,以满足北美、欧洲、拉丁美洲和亚洲日益增长的需求。
Botpress 既支持无代码开发,也支持专业代码开发,因为现实世界中的部署既需要灵活性,也需要控制性。我们的一些客户从预建模板和简单的工作流程开始;另一些客户则与后台系统深度集成,为复杂的流程构建高度定制化的代理。
你可能已经注意到,在这个日益拥挤的领域,无代码工具和依赖熟练开发人员的工具之间存在着明显的鸿沟。在支持各行业数百次生产部署的过程中,我们发现最成功的部署都有明确的途径让所有利益相关者有意义地参与到代理的生命周期中。这并不意味着口惠而实不至的参与:如果没有明确的途径来影响代理的行为或其产生的结果,并与团队已有的工作方式保持一致,代理项目注定会失败。
这一切将走向何方
未来十年,人工智能代理将取代整个类别的软件。许多目前需要定制代码或人工操作的任务,将由能够跨业务领域进行推理、行动和适应的系统自动完成。这一转变的市场很大,因为问题空间本身几乎涉及公司内部的每一个运营系统。
我们在Botpress 的工作是继续构建代理平台,使这种转变成为可能--不是作为原型,而是作为团队可以依赖的稳定基础设施。
感谢我们所有的用户、建设者、客户和合作伙伴,是他们帮助平台取得了今天的成就。未来的工作依然繁重。但我们现在拥有资源、团队和基础,可以将产品扩展到我们所看到的机遇中。
- 西尔万