LLM 排行榜｜不同模型在 Botpress 上的表現如何？

過去 90 天的數據

model_second

count

output_tokens_per_sec_mean

$cost_mean

常見問題

什麼是請求？

請求指的是從 Botpress 發送到大型語言模型（LLM）的一次互動。它包含輸入資料、設定參數，以及模型處理請求並回應所需的相關內容。每個請求代表對 LLM 的一次呼叫，例如產生文字、回答問題或執行其他任務。

上方圖表中的數據顯示來自 Botpress 用戶對各 LLM 發出的單一請求數量。

速度是什麼意思？

‍速度指的是大型語言模型（LLM）在處理請求時，每秒產生的平均標記（token）數量。標記是指文字的單位，例如單字或單字的一部分，模型會讀取或產生這些標記。這個指標反映了模型的輸出效能，也就是回應速度的快慢。

上方圖表中的數據顯示，從 Botpress 查詢時，模型每秒平均產生的標記總數。

成本是什麼意思？

成本指的是從 Botpress 向特定 LLM 發送 1,000 次請求的平均美元價格。這個指標有助於比較不同模型的使用費用，讓你了解在大量請求下的成本效益。

單一對話可能包含多次請求。你可以根據上方圖表的數據，依照對話內容，粗略估算每月的 AI 支出。

本頁數據多久更新一次？

雖然 Botpress 會即時收集 LLM 使用資訊，但本頁圖表每 48 小時更新一次。