Chi tiêu AI đề cập đến ngân sách được phân bổ cho việc sử dụng Mô hình ngôn ngữ lớn của bot của bạn ( LLMs ), được sử dụng trong các tác vụ như tạo phản hồi và xử lý đầu vào ngôn ngữ tự nhiên. Mỗi hành động mà bot của bạn thực hiện liên quan đến AI đều tiêu thụ token và các token này có chi phí liên quan do nhà cung cấp mô hình đặt ra.
Botpress chuyển những chi phí này trực tiếp cho bạn mà không tính thêm bất kỳ khoản phụ phí nào, nghĩa là bạn sẽ nhận được cùng một mức giá cho cùng một số lượng mã thông báo nếu bạn làm việc trực tiếp với nhà cung cấp mô hình.
Để đảm bảo bạn có thể bắt đầu xây dựng và tạo mẫu đúng cách, chúng tôi cung cấp khoản tín dụng hàng tháng miễn phí là 5 đô la cho AI Spend. Nếu bot của bạn vượt quá khoản tín dụng này, bạn sẽ cần tăng hạn mức AI Spend để duy trì dịch vụ không bị gián đoạn. Bạn có thể điều chỉnh hạn mức này bằng cách tăng hạn mức AI Spend trong bảng điều khiển không gian làm việc của mình. AI Spend trong các gói Trả tiền khi sử dụng hiện không được vượt quá 100 đô la—nếu bạn cần số tiền cao hơn, hãy liên hệ với chúng tôi qua trang web của chúng tôi.
Theo dõi Chi tiêu AI của bạn là điều quan trọng để lập ngân sách hiệu quả và đảm bảo bot của bạn hoạt động trong phạm vi tài nguyên được phân bổ. Khi xây dựng bot của bạn, trình gỡ lỗi sự kiện có thông tin chi tiết về mức tiêu thụ mã thông báo được chia nhỏ theo hành động. Khi bot của bạn hoạt động, bạn có thể kiểm tra nhật ký sản xuất của mình để hiểu rõ hơn về mức tiêu thụ mã thông báo. Tab Phân tích cho bot của bạn cũng có thông tin chi tiết về LLM hiệu suất, chi phí và mức tiêu thụ mã thông báo.