Sử dụng máy tính này để ước tính Chi tiêu AI của bot
Bot của bạn sẽ có bao nhiêu cuộc trò chuyện mỗi tháng?
Số lượng truy vấn Kho kiến thức trung bình cho mỗi cuộc hội thoại là bao nhiêu?
Cái gì LLM bot của bạn có chủ yếu sử dụng cho Cơ sở tri thức không?
Số lượng Tác vụ AI trung bình cho mỗi cuộc hội thoại là bao nhiêu?
Cái gì LLM bot của bạn chủ yếu sử dụng cho AI Tasks?
* Mặc dù chúng tôi cố gắng hết sức để cung cấp ước tính chính xác về Chi tiêu AI hàng tháng của bạn, nhưng với sự thay đổi trong việc tạo, hành vi và tương tác chatbot, cách chính xác nhất để dự báo Chi tiêu AI hàng tháng của bot là ngoại suy Chi tiêu AI dựa trên mức sử dụng thực tế.
Tính toán chi phí cụ thể này đã xem xét các giả định sau: không có Tác nhân nào khác ngoại trừ Tác nhân Cơ sở Kiến thức được bật, KB lớn hơn 0,5 MB, không có Tìm kiếm trên Web dưới dạng nguồn dữ liệu KB, số lượng chia nhỏ KB được đặt thành 50 khối, tốc độ bộ nhớ đệm 25%.
Bất kỳ hành động nào yêu cầu khả năng AI sẽ sử dụng mã thông báo AI, áp dụng cả trong cuộc trò chuyện với bot và trong Studio trong khi xây dựng và thử nghiệm trong Trình giả lập.
Dưới đây là một vài ví dụ:
• Trả lời cơ sở kiến thức
• Personality Agent viết lại
• Nhân viên phiên dịch, nhận dạng ngôn ngữ và dịch tin nhắn
• Tóm tắt cuộc trò chuyện của nhân viên
• AI Task, AI Transition và AI Generate Text cards
• Thẻ Execute Code generative AI Hỗ trợ mã
• Chụp thẻ
• Làm cho các cột Bảng có thể tìm kiếm được
• Chuyển đổi câu người dùng thành vectơ
Giống như nhiều trong xây dựng bot, câu trả lời là nó phụ thuộc. Nếu trang Web nhỏ (ví dụ: chiếm ít hơn 0,87 MB dung lượng lưu trữ vector DB) và tác nhân tri thức của bạn chủ yếu sử dụng GPT-3.5, thì Trang web thường sẽ tiêu thụ ít Chi tiêu AI hơn so với sử dụng Tìm kiếm trên Web.
Nếu nguồn KB của Trang web lớn hoặc tác nhân tri thức chủ yếu sử dụng GPT-4, Tìm kiếm trên Web thường sẽ tiêu thụ ít Chi tiêu AI hơn.
AI Spend không được tính trên mỗi tin nhắn; nó phát sinh bởi bất kỳ hành động nào tiêu thụ mã thông báo AI. Thông thường, tin nhắn kích hoạt các hành động sử dụng mã thông báo AI, nhưng không phải tất cả tin nhắn đều dẫn đến Chi tiêu AI.
Bạn vẫn còn thắc mắc? Liên hệ với chúng tôi!