LLM Xếp hạng | Botpress

Dữ liệu từ 90 ngày qua

mô hình_thứ hai

mô hình_đầu tiên

đếm

output_tokens_per_sec_mean

$ giá_trị_trung_bình

Câu hỏi thường gặp

Yêu cầu là gì?

Một yêu cầu đề cập đến một tương tác duy nhất được gửi đến một mô hình ngôn ngữ lớn ( LLM ) từ Botpress . Nó bao gồm dữ liệu đầu vào, tham số cấu hình và bất kỳ bối cảnh liên quan nào cần thiết để mô hình xử lý yêu cầu và trả về phản hồi. Mỗi yêu cầu đại diện cho một cuộc gọi đến một LLM , chẳng hạn như tạo văn bản, trả lời câu hỏi hoặc thực hiện các nhiệm vụ khác.

Dữ liệu trong biểu đồ trên cho thấy số lượng yêu cầu cá nhân được thực hiện cho từng LLMs được người dùng truy vấn từ Botpress .

Tốc độ ám chỉ điều gì?

Tốc độ đề cập đến số lượng trung bình của các mã thông báo LLM tạo ra mỗi giây khi xử lý yêu cầu. Mã thông báo là đơn vị văn bản, chẳng hạn như từ hoặc một phần của từ, mà mô hình đọc hoặc tạo ra. Phép đo này phản ánh hiệu suất đầu ra của mô hình, cho biết tốc độ trả về phản hồi của mô hình.

Dữ liệu trong biểu đồ trên cho thấy trung bình tổng số mã thông báo mà một mô hình tạo ra mỗi giây khi được truy vấn từ Botpress .

Chi phí ám chỉ điều gì?

Chi phí đề cập đến giá trung bình ở Hoa Kỳ dollars để xử lý 1.000 yêu cầu cho một mục đích cụ thể LLM từ Botpress . Chỉ số này giúp chứng minh chi phí tương đối khi sử dụng các mô hình khác nhau, cung cấp thông tin chi tiết về hiệu quả chi phí của chúng khi xử lý khối lượng yêu cầu lớn.

Một cuộc trò chuyện có thể chứa nhiều yêu cầu. Bạn có thể sử dụng dữ liệu trong biểu đồ ở trên để ước tính sơ bộ, dựa trên bản chất của các cuộc trò chuyện, chi tiêu AI hàng tháng của bạn.

Dữ liệu trên trang này được cập nhật thường xuyên như thế nào?

Mặc dù thông tin về LLM sử dụng trong Botpress được thu thập theo thời gian thực, các biểu đồ trên trang này được cập nhật sau mỗi 48 giờ.

Khám phá các mô hình

Câu hỏi thường gặp