发现模型

按模式处理的请求总数
过去 90 天的数据
按模型分列的每秒平均处理令牌数
过去 90 天的数据
90 天内所有申请的每个模型的平均成本
过去 90 天的数据
过去 90 天的数据
要求
速度
费用
gpt-4o-mini-2024-07-18
openai
33,488,447,661代币
Botpress 上最近 90 天处理的所有代币总和。
34,243,934
44.79
平均0.20
gpt-4o-2024-11-20
openai
21,773,436,143代币
Botpress 上最近 90 天处理的所有代币总和。
3,666,790
48.02
平均16.01
models/gemini-2.0-flash
google-ai
2,186,730,401代币
Botpress 上最近 90 天处理的所有代币总和。
455,830
96.25
平均0.53
gpt-4o-2024-05-13
openai
1,072,794,391代币
Botpress 上最近 90 天处理的所有代币总和。
382,061
48.69
平均15.13
deepseek-r1-distill-llama-70b
groq
598,709,387代币
Botpress 上最近 90 天处理的所有代币总和。
215,611
194.30
平均2.53
claude-3-5-sonnet-20240620
anthropic
745,659,342代币
Botpress 上最近 90 天处理的所有代币总和。
186,836
40.14
平均14.33
claude-3-7-sonnet-20250219
anthropic
556,269,377代币
Botpress 上最近 90 天处理的所有代币总和。
114,431
36.02
平均16.96
models/gemini-1.5-flash-002
google-ai
193,453,413代币
Botpress 上最近 90 天处理的所有代币总和。
70,963
74.52
平均0.23
llama-3.2-3b-preview
groq
30,708,268代币
Botpress 上最近 90 天处理的所有代币总和。
65,268
209.35
平均0.03
llama3-8b-8192
groq
39,391,118代币
Botpress 上最近 90 天处理的所有代币总和。
58,194
108.28
平均0.04
o3-mini-2025-01-31
openai
233,887,837代币
Botpress 上最近 90 天处理的所有代币总和。
56,242
94.82
平均7.17
models/gemini-1.5-flash-8b-001
google-ai
144,705,926代币
Botpress 上最近 90 天处理的所有代币总和。
55,457
70.64
平均0.11
accounts/fireworks/models/deepseek-v3
fireworks-ai
278,301,189代币
Botpress 上最近 90 天处理的所有代币总和。
43,868
29.82
平均5.80
claude-3-haiku-20240307
anthropic
158,363,650代币
Botpress 上最近 90 天处理的所有代币总和。
37,779
63.73
平均1.20
llama-3.3-70b-versatile
groq
117,904,907代币
Botpress 上最近 90 天处理的所有代币总和。
30,723
88.86
平均2.37
gpt-4.1-mini-2025-04-14
openai
78,967,320代币
Botpress 上最近 90 天处理的所有代币总和。
28,114
46.84
平均1.29
gpt-4.1-2025-04-14
openai
212,061,609代币
Botpress 上最近 90 天处理的所有代币总和。
27,673
47.14
平均16.67
accounts/fireworks/models/deepseek-r1
fireworks-ai
84,234,759代币
Botpress 上最近 90 天处理的所有代币总和。
21,732
55.05
平均27.44
claude-3-7-sonnet-reasoning-20250219
anthropic
142,709,817代币
Botpress 上最近 90 天处理的所有代币总和。
17,836
47.04
平均31.31
llama-3.2-1b-preview
groq
12,492,625代币
Botpress 上最近 90 天处理的所有代币总和。
16,366
165.27
平均0.04
llama-3.1-8b-instant
groq
41,307,262代币
Botpress 上最近 90 天处理的所有代币总和。
15,546
136.62
平均0.14
gpt-4-1106-preview
openai
22,803,901代币
Botpress 上最近 90 天处理的所有代币总和。
13,755
26.82
平均19.47
o1-2024-12-17
openai
40,276,324代币
Botpress 上最近 90 天处理的所有代币总和。
13,491
64.37
平均89.15
models/gemini-1.5-pro-002
google-ai
103,740,980代币
Botpress 上最近 90 天处理的所有代币总和。
9,663
32.13
平均13.90
llama3.1-8b
cerebras
14,261,235代币
Botpress 上最近 90 天处理的所有代币总和。
9,037
174.50
平均0.17
gpt-4.1-nano-2025-04-14
openai
30,864,089代币
Botpress 上最近 90 天处理的所有代币总和。
8,974
74.17
平均0.38
claude-3-5-haiku-20241022
anthropic
18,722,725代币
Botpress 上最近 90 天处理的所有代币总和。
4,454
25.99
平均4.00
gemma2-9b-it
groq
6,097,899代币
Botpress 上最近 90 天处理的所有代币总和。
3,900
175.80
平均0.35
llama3-70b-8192
groq
4,510,146代币
Botpress 上最近 90 天处理的所有代币总和。
2,706
130.59
平均1.09
claude-3-5-sonnet-20241022
anthropic
16,588,632代币
Botpress 上最近 90 天处理的所有代币总和。
2,644
36.06
平均22.89
accounts/fireworks/models/deepseek-r1-basic
fireworks-ai
10,722,840代币
Botpress 上最近 90 天处理的所有代币总和。
2,396
59.26
平均3.33
accounts/fireworks/models/llama-v3p1-405b-instruct
fireworks-ai
11,816,007代币
Botpress 上最近 90 天处理的所有代币总和。
2,226
29.93
平均16.21
llama-3.2-90b-vision-preview
groq
6,164,284代币
Botpress 上最近 90 天处理的所有代币总和。
2,188
77.26
平均2.61
accounts/fireworks/models/mixtral-8x7b-instruct
fireworks-ai
10,896,049代币
Botpress 上最近 90 天处理的所有代币总和。
2,102
121.75
平均2.76
mixtral-8x7b-32768
groq
9,426,300代币
Botpress 上最近 90 天处理的所有代币总和。
2,068
285.54
平均1.50
accounts/fireworks/models/llama-v3p1-8b-instruct
fireworks-ai
18,513,086代币
Botpress 上最近 90 天处理的所有代币总和。
1,883
72.84
平均2.00
llama3.3-70b
cerebras
2,404,074代币
Botpress 上最近 90 天处理的所有代币总和。
1,512
253.36
平均1.51
llama-3.2-11b-vision-preview
groq
2,339,230代币
Botpress 上最近 90 天处理的所有代币总和。
900
133.83
平均0.49
accounts/fireworks/models/mixtral-8x22b-instruct
fireworks-ai
8,141,261代币
Botpress 上最近 90 天处理的所有代币总和。
729
56.47
平均13.67
accounts/fireworks/models/llama-v3p1-70b-instruct
fireworks-ai
1,310,305代币
Botpress 上最近 90 天处理的所有代币总和。
155
47.19
平均7.70
accounts/fireworks/models/mythomax-l2-13b
fireworks-ai
78,981代币
Botpress 上最近 90 天处理的所有代币总和。
82
6.09
平均0.21
gpt-4-0613
openai
24,753代币
Botpress 上最近 90 天处理的所有代币总和。
22
18.23
平均39.18
o3-2025-04-16
openai
13,029代币
Botpress 上最近 90 天处理的所有代币总和。
19
41.68
平均22.18
gpt-4-0125-preview
openai
415代币
Botpress 上最近 90 天处理的所有代币总和。
1
4.00
平均0.22

常见问题

什么是请求?
请求是指从Botpress 发送给大型语言模型 (LLM) 的单次交互。它包括输入数据、配置参数以及模型处理请求和返回响应所需的任何相关上下文。每个请求代表对LLM 的一次调用,如生成文本、回答问题或执行其他任务。

上图中的数据显示了用户从Botpress 查询到的LLMs 的单个请求数量。
速度指的是什么?
速度指LLM 处理请求时每秒产生的平均标记数。标记是模型读取或生成的文本单位,如单词或单词的一部分。这一测量值反映了模型的输出性能,表明它返回响应的速度有多快。

上图中的数据显示了从Botpress 查询时模型每秒生成的标记总数的平均值。
成本指的是什么?
成本是指处理 1000 个向特定LLM 发送的请求的平均价格(以美元dollars 计),Botpress 。该指标有助于展示使用不同模型的相对费用,从而深入了解它们在处理大量请求时的成本效率。

一次对话可能包含多个请求。您可以使用上述图表中的数据,根据对话的性质大致估算每月的人工智能支出。
本页面上的数据多久更新一次?
Botpress 虽然LLM 的使用信息是实时收集的,但本页面上的图表每 48 小时更新一次。