发现模型

按模式处理的请求总数
过去 90 天的数据
按模型分列的每秒平均处理令牌数
过去 90 天的数据
90 天内所有申请的每个模型的平均成本
过去 90 天的数据
过去 90 天的数据
要求
速度
费用
gpt-4o-mini-2024-07-18
openai
36,738,619,750代币
Botpress 上最近 90 天处理的所有代币总和。
41,368,017
45.65
平均0.18
gpt-4o-2024-11-20
openai
13,661,345,128代币
Botpress 上最近 90 天处理的所有代币总和。
2,309,603
45.27
平均15.99
gpt-4o-2024-05-13
openai
1,347,263,818代币
Botpress 上最近 90 天处理的所有代币总和。
378,622
47.77
平均18.91
claude-3-5-sonnet-20240620
anthropic
816,680,984代币
Botpress 上最近 90 天处理的所有代币总和。
193,999
39.51
平均14.87
deepseek-r1-distill-llama-70b
groq
353,001,660代币
Botpress 上最近 90 天处理的所有代币总和。
131,355
201.47
平均2.45
models/gemini-2.0-flash
google-ai
392,456,387代币
Botpress 上最近 90 天处理的所有代币总和。
116,549
102.15
平均0.39
claude-3-7-sonnet-20250219
anthropic
322,968,753代币
Botpress 上最近 90 天处理的所有代币总和。
82,725
36.49
平均13.80
models/gemini-1.5-flash-002
google-ai
335,720,362代币
Botpress 上最近 90 天处理的所有代币总和。
79,896
79.26
平均0.34
llama-3.2-3b-preview
groq
31,867,025代币
Botpress 上最近 90 天处理的所有代币总和。
62,530
213.88
平均0.04
models/gemini-1.5-flash-8b-001
google-ai
82,640,473代币
Botpress 上最近 90 天处理的所有代币总和。
57,614
104.64
平均0.07
claude-3-haiku-20240307
anthropic
207,040,592代币
Botpress 上最近 90 天处理的所有代币总和。
50,847
65.53
平均1.16
o3-mini-2025-01-31
openai
175,269,249代币
Botpress 上最近 90 天处理的所有代币总和。
38,595
94.04
平均7.62
llama3-8b-8192
groq
39,045,428代币
Botpress 上最近 90 天处理的所有代币总和。
37,330
47.11
平均0.05
llama-3.3-70b-versatile
groq
119,487,039代币
Botpress 上最近 90 天处理的所有代币总和。
33,339
87.66
平均2.21
accounts/fireworks/models/deepseek-v3
fireworks-ai
122,471,064代币
Botpress 上最近 90 天处理的所有代币总和。
19,293
28.12
平均5.81
llama-3.2-1b-preview
groq
12,518,041代币
Botpress 上最近 90 天处理的所有代币总和。
14,605
170.65
平均0.04
accounts/fireworks/models/deepseek-r1
fireworks-ai
56,083,063代币
Botpress 上最近 90 天处理的所有代币总和。
14,600
53.95
平均31.59
o1-2024-12-17
openai
42,988,741代币
Botpress 上最近 90 天处理的所有代币总和。
14,287
67.86
平均92.34
llama-3.1-8b-instant
groq
38,882,033代币
Botpress 上最近 90 天处理的所有代币总和。
14,235
156.83
平均0.15
gpt-4-1106-preview
openai
17,275,920代币
Botpress 上最近 90 天处理的所有代币总和。
10,295
26.89
平均19.65
models/gemini-1.5-pro-002
google-ai
107,071,844代币
Botpress 上最近 90 天处理的所有代币总和。
8,579
30.75
平均16.17
claude-3-7-sonnet-reasoning-20250219
anthropic
63,885,795代币
Botpress 上最近 90 天处理的所有代币总和。
7,650
47.23
平均32.87
llama3.1-8b
cerebras
11,751,797代币
Botpress 上最近 90 天处理的所有代币总和。
6,993
169.13
平均0.18
gemma2-9b-it
groq
7,206,946代币
Botpress 上最近 90 天处理的所有代币总和。
4,282
178.82
平均0.38
llama3-70b-8192
groq
8,206,938代币
Botpress 上最近 90 天处理的所有代币总和。
3,733
136.52
平均1.45
mixtral-8x7b-32768
groq
14,054,788代币
Botpress 上最近 90 天处理的所有代币总和。
2,958
296.39
平均1.51
llama-3.2-11b-vision-preview
groq
6,554,638代币
Botpress 上最近 90 天处理的所有代币总和。
2,464
161.88
平均0.50
llama-3.2-90b-vision-preview
groq
6,866,199代币
Botpress 上最近 90 天处理的所有代币总和。
2,447
94.71
平均2.64
accounts/fireworks/models/llama-v3p1-405b-instruct
fireworks-ai
10,175,997代币
Botpress 上最近 90 天处理的所有代币总和。
2,019
26.70
平均15.38
claude-3-5-sonnet-20241022
anthropic
14,555,671代币
Botpress 上最近 90 天处理的所有代币总和。
1,913
36.44
平均27.58
accounts/fireworks/models/llama-v3p1-8b-instruct
fireworks-ai
13,519,478代币
Botpress 上最近 90 天处理的所有代币总和。
1,281
72.13
平均2.14
accounts/fireworks/models/mixtral-8x7b-instruct
fireworks-ai
7,789,317代币
Botpress 上最近 90 天处理的所有代币总和。
1,268
131.67
平均3.30
claude-3-5-haiku-20241022
anthropic
7,530,241代币
Botpress 上最近 90 天处理的所有代币总和。
882
30.27
平均7.52
llama-3.1-70b-versatile
groq
2,225,956代币
Botpress 上最近 90 天处理的所有代币总和。
518
69.50
平均2.62
accounts/fireworks/models/mixtral-8x22b-instruct
fireworks-ai
4,429,589代币
Botpress 上最近 90 天处理的所有代币总和。
356
58.51
平均15.17
llama3.3-70b
cerebras
491,528代币
Botpress 上最近 90 天处理的所有代币总和。
314
263.75
平均1.45
accounts/fireworks/models/deepseek-r1-basic
fireworks-ai
1,067,819代币
Botpress 上最近 90 天处理的所有代币总和。
169
62.90
平均4.68
accounts/fireworks/models/llama-v3p1-70b-instruct
fireworks-ai
283,652代币
Botpress 上最近 90 天处理的所有代币总和。
123
58.36
平均2.17
accounts/fireworks/models/mythomax-l2-13b
fireworks-ai
78,981代币
Botpress 上最近 90 天处理的所有代币总和。
82
6.09
平均0.21
llama3.1-70b
cerebras
472,551代币
Botpress 上最近 90 天处理的所有代币总和。
73
149.92
平均3.94
accounts/fireworks/models/firefunction-v2
fireworks-ai
7,644代币
Botpress 上最近 90 天处理的所有代币总和。
9
22.44
平均0.80
gpt-4-0613
openai
13,180代币
Botpress 上最近 90 天处理的所有代币总和。
7
8.86
平均56.85
gpt-4-0125-preview
openai
415代币
Botpress 上最近 90 天处理的所有代币总和。
1
4.00
平均0.22

常见问题

什么是请求?
请求是指从Botpress 发送给大型语言模型 (LLM) 的单次交互。它包括输入数据、配置参数以及模型处理请求和返回响应所需的任何相关上下文。每个请求代表对LLM 的一次调用,如生成文本、回答问题或执行其他任务。

上图中的数据显示了用户从Botpress 查询到的LLMs 的单个请求数量。
速度指的是什么?
速度指LLM 处理请求时每秒产生的平均标记数。标记是模型读取或生成的文本单位,如单词或单词的一部分。这一测量值反映了模型的输出性能,表明它返回响应的速度有多快。

上图中的数据显示了从Botpress 查询时模型每秒生成的标记总数的平均值。
成本指的是什么?
成本是指处理 1000 个向特定LLM 发送的请求的平均价格(以美元dollars 计),Botpress 。该指标有助于展示使用不同模型的相对费用,从而深入了解它们在处理大量请求时的成本效率。

一次对话可能包含多个请求。您可以使用上述图表中的数据,根据对话的性质大致估算每月的人工智能支出。
本页面上的数据多久更新一次?
Botpress 虽然LLM 的使用信息是实时收集的,但本页面上的图表每 48 小时更新一次。