Botpress 시작할 당시만 해도 자율 에이전트가 실제 비즈니스 프로세스를 운영한다는 아이디어는 대부분 가상에 불과했습니다. 기술이 준비되지 않았기 때문입니다. 도구도 충분하지 않았습니다. 그리고 오늘날에도 대부분의 에이전트 프레임워크는 스크립트화된 흐름이나 단순한 도구 호출 래퍼를 넘어서면 여전히 고장납니다.
그 이후로 상황이 바뀌었습니다. 기본 모델이 개선되었습니다. LLMs 추론과 추상화의 새로운 계층을 열었습니다. 하지만 모델만으로는 프로덕션 환경에서 신뢰할 수 있는 에이전트를 실행하기에 충분하지 않습니다. 그동안 누락되었던 부분이자 지난 몇 년 동안 구축해 온 것은 원시 모델과 실제 비즈니스 시스템 사이에 있는 인프라 계층입니다.
Botpress 최근 시리즈 B를 마감하고 2,500만 달러의 자금을 조달하여 이 작업을 계속 확장하고 있습니다.
수년간 해결해 온 문제
프로덕션 환경에서 작동하는 에이전트에는 LLM 대한 프롬프트 창 이상의 기능이 필요합니다. 메모리, 도구 오케스트레이션, 안전한 실행 환경, 다단계 워크플로에 대한 안정적인 추론, 일관된 런타임 동작, 실제 시스템에 통합되는 구조화된 출력을 반환할 수 있는 기능이 필요합니다. 또한 취약한 오케스트레이션 레이어를 사후에 추가하지 않고도 실행할 수 있어야 합니다.
이것이 바로 Botpress 구축한 플랫폼입니다. 플랫폼에는 다음이 포함됩니다:
- 배포된 모든 에이전트와 함께 제공되는 완전히 격리된 런타임으로 플랫폼 업데이트 전반에 걸쳐 안정성을 보장합니다.
- 추론, 도구 사용, 코드 실행, 멀티턴 오케스트레이션을 처리하는 사용자 지정 추론 엔진입니다.
- 에이전트가 시스템 안전에 영향을 주지 않고 동적으로 코드를 작성하고 실행할 수 있는 안전한 코드 실행 계층입니다.
- 파일, 테이블, 워크플로, 대화 및 사용자를 위한 구조화된 기본 요소로 개발자는 단순한 Q&A 상호작용을 훨씬 뛰어넘는 에이전트를 구축할 수 있습니다.
- 개발자가 각 버전이 격리되고 재현 가능하다는 것을 알고 자신 있게 에이전트를 출시할 수 있는 배포 파이프라인입니다.
이것은 이론적인 로드맵이 아닙니다. 이 사용자 지정 추론 엔진을 기반으로 구축된 Botpress 에이전트는 1년 이상 운영되어 왔으며, 여러 산업 분야에서 수백만 건의 실행을 실행하고 있습니다. 사용자가 로컬 개발 서버에서 에이전트를 빌드하는 데 걸리는 시간보다 훨씬 짧은 시간 내에 Botpress 에이전트를 빌드하고 출시할 수 있었습니다.
하지만 여기서 중요한 것은 효율성 향상이 아니라 시간이 지남에 따라 복잡해지는 이점입니다. Botpress 에이전트가 실제 세계에서 살아가고, 대화하고, 작동하면서 사용자는 에이전트의 행동을 모니터링하고 원치 않는 결정이나 결과를 조정하기 위해 간단한 자연어 피드백을 제공합니다. 즉, 개선됩니다. 에이전트를 오래 배포할수록 더 나은 비용 효율적인 언어 모델의 이점만 누릴 수 있는 것은 아닙니다. 또한 상담원에게 제공하는 산업 및 회사별 맞춤형 피드백의 이점도 누릴 수 있습니다.
시장이 따라잡고 있는 시장
오늘날 대부분의 소프트웨어 회사는 여전히 인터페이스 수준에서 AI를 실험하고 있습니다. 에이전트를 대규모로 안정적으로 운영할 수 있는 인프라 문제를 해결하는 데 집중하는 기업은 극소수에 불과합니다. 이 격차가 바로 Botpress 있는 곳입니다. 저희는 실제 배포를 지원하는 기초 작업에 깊이 투자하기 위해 일부러 빠른 데모나 표면적인 수준의 제품 릴리스를 쫓는 것을 피했습니다.
지난 한 해 동안 고객들이 실험 단계에서 본격적인 배포로 전환하는 것을 목격했습니다. 초기 얼리 어답터 중 상당수는 소규모의 위험 감수성이 높은 기업들이었습니다. 하지만 인프라가 안정화되고 안전장치가 개선됨에 따라 보다 보수적인 산업과 대기업에서도 도입이 증가하고 있습니다.
현재 190개 이상의 국가에 Botpress 사용자가 있습니다. 프로덕션으로 이동하는 에이전트의 수는 매 분기마다 증가하고 있습니다. 이번 펀드레이징은 중요한 전환점이 아닙니다. 이미 잘 작동하고 있는 기능을 계속 확장할 수 있게 해줄 뿐입니다.
이번 라운드를 통해 우리가 할 수 있는 일
이 자본을 통해 제품 주도적 접근 방식을 직접적으로 반영하는 여러 방면으로 확장할 수 있습니다:
- 상담원의 역량, 제어 가능성, 확장성을 높여주는 더 심층적인 플랫폼 기본 요소를 계속 구축하세요.
- Botpress 기존 시스템에 통합하는 팀을 위해 개발자 대상 SDK 및 툴링을 확장합니다.
- 비주얼 스튜디오를 개선하여 기술 팀과 비기술 팀 모두를 지원하면서 완전한 프로그래매틱 제어 기능을 유지합니다.
- 북미, 유럽, 라틴 아메리카, 아시아 전역에서 증가하는 수요를 충족하기 위해 글로벌 커버리지와 인프라를 확장합니다.
실제 배포에는 유연성과 제어가 모두 필요하기 때문에 Botpress 노코드 및 프로코드 개발을 모두 지원합니다. 사전 구축된 템플릿과 간단한 워크플로로 시작하는 고객도 있고, 백엔드 시스템과 긴밀하게 통합하여 복잡한 프로세스를 위한 고도로 맞춤화된 에이전트를 구축하는 고객도 있습니다.
점점 더 혼잡해지는 이 분야에서 코드가 필요 없는 툴과 숙련된 개발자에게 의존하는 툴 사이에 분명한 차이가 있음을 눈치챘을 것입니다. 업계 전반에 걸쳐 수백 건의 프로덕션 배포를 지원하면서 발견한 것은 가장 성공적인 배포는 모든 이해관계자가 에이전트의 라이프사이클에 의미 있게 참여할 수 있는 명확한 방법을 가지고 있다는 것입니다. 팀의 기존 업무 방식과 일치하는 방식으로 상담원의 행동이나 결과에 영향을 미칠 수 있는 명확한 경로가 없다면 상담원 프로젝트는 실패할 수밖에 없습니다.
이 모든 것이 어디로 가는가
향후 10년 동안 AI 에이전트는 모든 범주의 소프트웨어를 대체할 것입니다. 현재 사용자 지정 코드나 인간 운영자가 필요한 많은 작업이 비즈니스 영역 전반에서 추론하고 행동하며 적응할 수 있는 시스템에 의해 자동화될 것입니다. 이러한 변화의 시장이 큰 이유는 문제 영역 자체가 기업 내 거의 모든 운영 시스템과 맞닿아 있기 때문입니다.
Botpress 하는 일은 이러한 전환을 가능하게 하는 에이전트 플랫폼을 프로토타입이 아닌 팀이 신뢰할 수 있는 안정적인 인프라로 계속 구축하는 것입니다.
오늘날의 플랫폼이 있기까지 도움을 주신 모든 사용자, 빌더, 고객, 파트너 여러분께 감사드립니다. 앞으로 해야 할 일이 많이 남아 있습니다. 하지만 이제 저희는 제품을 우리 앞에 놓인 기회로 확장할 수 있는 리소스, 팀, 기반을 갖추게 되었습니다.
- Sylvain