探索機型

按模型處理的請求總數
過去 90 天的資料
各機型每秒平均處理的識別碼數量
過去 90 天的資料
在 90 天內提出的所有請求中,每個模型的平均成本
過去 90 天的資料
過去 90 天的資料
請求
從Botpress 向特定LLM 提出的個人請求總數。
速度
從Botpress 提出請求時,特定LLM 平均每秒產生的代幣。
成本
從Botpress 向個人LLM 提出 1,000 次請求的平均成本 (USD) 。
型號_秒
模型第一
xx代幣
Botpress 上最近 90 天處理的所有代幣總和。
伯爵
output_tokens_per_sec_mean
$cost_mean

常見問題

什麼是請求?
請求是指從Botpress 發送給大型語言模型 (LLM) 的單次互動。它包括輸入資料、配置參數,以及模型處理請求並傳回回應所需的任何相關上下文。每個請求代表對LLM 的一次呼叫,例如產生文字、回答問題或執行其他任務。

,上面圖表中的資料顯示使用者從Botpress 所查詢的LLMs 中,向每個 提出的個別請求數目。
速度指的是什麼?
‍Speed是指LLM 在處理一個請求時,每秒產生的平均代碼數量。標記是模型讀取或產生的文字單位,例如字或字的一部分。這個測量反映了模型的輸出效能,顯示它傳回回應的速度有多快。

上面圖表中的資料顯示了從Botpress 查詢時,模型每秒產生的代幣總數的平均值。
成本指的是什麼?
成本是指處理 1,000 個特定LLM 請求的平均價格(以美國dollars 計),來自Botpress 。此指標有助於展示使用不同模型的相對花費,讓我們深入瞭解它們在處理大量請求時的成本效益。

單一對話可能包含多個請求。您可以使用上述圖表中的資料,根據您的對話性質,粗略估計每月的 AI 支出。
本頁面的資料多久更新一次?
Botpress 雖然LLM 的使用資訊是即時收集的,但本網頁上的圖表每 48 小時更新一次。