发现模型
按受欢迎程度
按速度
按成本计算
按模式处理的请求总数
过去 90 天的数据
按模型分列的每秒平均处理令牌数
过去 90 天的数据
90 天内所有申请的每个模型的平均成本
过去 90 天的数据
过去 90 天的数据
所有型号
All Models
anthropic
cerebras
fireworks-ai
google-ai
groq
openai
使用率从高到低
使用率从高到低
使用率从低到高
成本从高到低
成本 从低到高
速度 从高到低
速度 从低到高
要求
从Botpress 向特定LLM 提出的个人申请总数。
速度
当Botpress 提出请求时,特定LLM 每秒产生的平均令牌数。
费用
从Botpress 向个人LLM 提出 1 000 次请求的平均费用 (USD) 。
gpt-4o-mini-2024-07-18
openai
36,738,619,750
代币
Botpress 上最近 90 天处理的所有代币总和。
41,368,017
45.65
平均
0.18
gpt-4o-2024-11-20
openai
13,661,345,128
代币
Botpress 上最近 90 天处理的所有代币总和。
2,309,603
45.27
平均
15.99
gpt-4o-2024-05-13
openai
1,347,263,818
代币
Botpress 上最近 90 天处理的所有代币总和。
378,622
47.77
平均
18.91
claude-3-5-sonnet-20240620
anthropic
816,680,984
代币
Botpress 上最近 90 天处理的所有代币总和。
193,999
39.51
平均
14.87
deepseek-r1-distill-llama-70b
groq
353,001,660
代币
Botpress 上最近 90 天处理的所有代币总和。
131,355
201.47
平均
2.45
models/gemini-2.0-flash
google-ai
392,456,387
代币
Botpress 上最近 90 天处理的所有代币总和。
116,549
102.15
平均
0.39
claude-3-7-sonnet-20250219
anthropic
322,968,753
代币
Botpress 上最近 90 天处理的所有代币总和。
82,725
36.49
平均
13.80
models/gemini-1.5-flash-002
google-ai
335,720,362
代币
Botpress 上最近 90 天处理的所有代币总和。
79,896
79.26
平均
0.34
llama-3.2-3b-preview
groq
31,867,025
代币
Botpress 上最近 90 天处理的所有代币总和。
62,530
213.88
平均
0.04
models/gemini-1.5-flash-8b-001
google-ai
82,640,473
代币
Botpress 上最近 90 天处理的所有代币总和。
57,614
104.64
平均
0.07
claude-3-haiku-20240307
anthropic
207,040,592
代币
Botpress 上最近 90 天处理的所有代币总和。
50,847
65.53
平均
1.16
o3-mini-2025-01-31
openai
175,269,249
代币
Botpress 上最近 90 天处理的所有代币总和。
38,595
94.04
平均
7.62
llama3-8b-8192
groq
39,045,428
代币
Botpress 上最近 90 天处理的所有代币总和。
37,330
47.11
平均
0.05
llama-3.3-70b-versatile
groq
119,487,039
代币
Botpress 上最近 90 天处理的所有代币总和。
33,339
87.66
平均
2.21
accounts/fireworks/models/deepseek-v3
fireworks-ai
122,471,064
代币
Botpress 上最近 90 天处理的所有代币总和。
19,293
28.12
平均
5.81
llama-3.2-1b-preview
groq
12,518,041
代币
Botpress 上最近 90 天处理的所有代币总和。
14,605
170.65
平均
0.04
accounts/fireworks/models/deepseek-r1
fireworks-ai
56,083,063
代币
Botpress 上最近 90 天处理的所有代币总和。
14,600
53.95
平均
31.59
o1-2024-12-17
openai
42,988,741
代币
Botpress 上最近 90 天处理的所有代币总和。
14,287
67.86
平均
92.34
llama-3.1-8b-instant
groq
38,882,033
代币
Botpress 上最近 90 天处理的所有代币总和。
14,235
156.83
平均
0.15
gpt-4-1106-preview
openai
17,275,920
代币
Botpress 上最近 90 天处理的所有代币总和。
10,295
26.89
平均
19.65
models/gemini-1.5-pro-002
google-ai
107,071,844
代币
Botpress 上最近 90 天处理的所有代币总和。
8,579
30.75
平均
16.17
claude-3-7-sonnet-reasoning-20250219
anthropic
63,885,795
代币
Botpress 上最近 90 天处理的所有代币总和。
7,650
47.23
平均
32.87
llama3.1-8b
cerebras
11,751,797
代币
Botpress 上最近 90 天处理的所有代币总和。
6,993
169.13
平均
0.18
gemma2-9b-it
groq
7,206,946
代币
Botpress 上最近 90 天处理的所有代币总和。
4,282
178.82
平均
0.38
llama3-70b-8192
groq
8,206,938
代币
Botpress 上最近 90 天处理的所有代币总和。
3,733
136.52
平均
1.45
mixtral-8x7b-32768
groq
14,054,788
代币
Botpress 上最近 90 天处理的所有代币总和。
2,958
296.39
平均
1.51
llama-3.2-11b-vision-preview
groq
6,554,638
代币
Botpress 上最近 90 天处理的所有代币总和。
2,464
161.88
平均
0.50
llama-3.2-90b-vision-preview
groq
6,866,199
代币
Botpress 上最近 90 天处理的所有代币总和。
2,447
94.71
平均
2.64
accounts/fireworks/models/llama-v3p1-405b-instruct
fireworks-ai
10,175,997
代币
Botpress 上最近 90 天处理的所有代币总和。
2,019
26.70
平均
15.38
claude-3-5-sonnet-20241022
anthropic
14,555,671
代币
Botpress 上最近 90 天处理的所有代币总和。
1,913
36.44
平均
27.58
accounts/fireworks/models/llama-v3p1-8b-instruct
fireworks-ai
13,519,478
代币
Botpress 上最近 90 天处理的所有代币总和。
1,281
72.13
平均
2.14
accounts/fireworks/models/mixtral-8x7b-instruct
fireworks-ai
7,789,317
代币
Botpress 上最近 90 天处理的所有代币总和。
1,268
131.67
平均
3.30
claude-3-5-haiku-20241022
anthropic
7,530,241
代币
Botpress 上最近 90 天处理的所有代币总和。
882
30.27
平均
7.52
llama-3.1-70b-versatile
groq
2,225,956
代币
Botpress 上最近 90 天处理的所有代币总和。
518
69.50
平均
2.62
accounts/fireworks/models/mixtral-8x22b-instruct
fireworks-ai
4,429,589
代币
Botpress 上最近 90 天处理的所有代币总和。
356
58.51
平均
15.17
llama3.3-70b
cerebras
491,528
代币
Botpress 上最近 90 天处理的所有代币总和。
314
263.75
平均
1.45
accounts/fireworks/models/deepseek-r1-basic
fireworks-ai
1,067,819
代币
Botpress 上最近 90 天处理的所有代币总和。
169
62.90
平均
4.68
accounts/fireworks/models/llama-v3p1-70b-instruct
fireworks-ai
283,652
代币
Botpress 上最近 90 天处理的所有代币总和。
123
58.36
平均
2.17
accounts/fireworks/models/mythomax-l2-13b
fireworks-ai
78,981
代币
Botpress 上最近 90 天处理的所有代币总和。
82
6.09
平均
0.21
llama3.1-70b
cerebras
472,551
代币
Botpress 上最近 90 天处理的所有代币总和。
73
149.92
平均
3.94
accounts/fireworks/models/firefunction-v2
fireworks-ai
7,644
代币
Botpress 上最近 90 天处理的所有代币总和。
9
22.44
平均
0.80
gpt-4-0613
openai
13,180
代币
Botpress 上最近 90 天处理的所有代币总和。
7
8.86
平均
56.85
gpt-4-0125-preview
openai
415
代币
Botpress 上最近 90 天处理的所有代币总和。
1
4.00
平均
0.22
https://openai.com/
https://groq.com/
https://ai.google/
https://fireworks.ai/
https://openai.com/
https://www.anthropic.com/
常见问题
什么是请求?
请求
是指从Botpress 发送给大型语言模型 (LLM) 的单次交互。它包括输入数据、配置参数以及模型处理请求和返回响应所需的任何相关上下文。每个请求代表对LLM 的一次调用,如生成文本、回答问题或执行其他任务。
上图中的数据显示了用户从Botpress 查询到的LLMs 的单个请求数量。
速度指的是什么?
速度指LLM 处理请求时每秒产生的平均标记数。标记是模型读取或生成的文本单位,如单词或单词的一部分。这一测量值反映了模型的输出性能,表明它返回响应的速度有多快。
上图中的数据显示了从Botpress 查询时模型每秒生成的标记总数的平均值。
成本指的是什么?
成本
是指处理 1000 个向特定LLM 发送的请求的平均价格(以美元dollars 计),Botpress 。该指标有助于展示使用不同模型的相对费用,从而深入了解它们在处理大量请求时的成本效率。
一次对话可能包含多个请求。您可以使用上述图表中的数据,根据对话的性质大致估算每月的人工智能支出。
本页面上的数据多久更新一次?
Botpress 虽然LLM 的使用信息是实时收集的,但本页面上的图表每 48 小时更新一次。