이 단원에서는
AI 지출은 응답 생성 및 자연어 입력 처리 등의 작업에 사용되는 봇의 대규모 언어 모델(LLMs)을 사용하기 위해 할당된 예산을 의미합니다. 봇이 AI와 관련된 각 작업을 수행할 때마다 토큰이 소모되며, 이러한 토큰에는 모델 제공업체가 설정한 관련 비용이 있습니다.
Botpress 는 이러한 비용을 마크업 없이 직접 전달하므로, 모델 제공자와 직접 작업할 때와 동일한 수의 토큰에 대해 동일한 가격을 받을 수 있습니다.
봇 구축과 사전 프로토타이핑을 제대로 시작할 수 있도록 매월 5달러의 AI 지출 크레딧을 무료로 제공합니다. 봇이 이 크레딧을 초과하는 경우, 중단 없는 서비스를 유지하려면 AI 지출 한도를 늘려야 합니다. 워크스페이스 대시보드에서 AI 지출 한도를 늘려서 이 한도를 조정할 수 있습니다. 종량제 요금제의 AI 지출은 현재 $100를 초과할 수 없으며, 이보다 더 많은 금액이 필요한 경우 언제든지 저희 웹사이트를 통해 문의해 주세요.
AI 지출을 모니터링하는 것은 예산을 효율적으로 책정하고 봇이 할당된 리소스 내에서 운영되도록 하는 데 중요합니다. 봇을 빌드할 때 이벤트 디버거에는 토큰 소비에 대한 자세한 정보가 작업별로 분류되어 있습니다. 봇이 실행되면 프로덕션 로그를 확인하여 토큰 소비를 더 잘 이해할 수 있습니다. 봇의 애널리틱스 탭에는 LLM 성능, 비용 및 토큰 소비에 대한 자세한 정보도 있습니다.
요약
AI 지출은 LLM- 기반 작업의 토큰 사용량을 관리하고 추적하는 데 사용됩니다.
이 과정의 모든 레슨