LLM 排名 | 不同机型在Botpress 上的表现如何?

发现模型

按模式处理的请求总数
过去 90 天的数据
按模型分列的每秒平均处理令牌数
过去 90 天的数据
90 天内所有申请的每个模型的平均成本
过去 90 天的数据
过去 90 天的数据
要求
速度
费用
gpt-4o-mini-2024-07-18
openai
7,556,004,670代币
Botpress 上最近 90 天处理的所有代币总和。
8,165,104
41.65
平均0.19
gpt-3.5-turbo-0125
openai
984,137,610代币
Botpress 上最近 90 天处理的所有代币总和。
1,721,506
30.13
平均0.32
gpt-4o-2024-08-06
openai
3,733,227,028代币
Botpress 上最近 90 天处理的所有代币总和。
1,550,903
22.08
平均10.99
gpt-4o-2024-11-20
openai
7,014,876,691代币
Botpress 上最近 90 天处理的所有代币总和。
1,149,554
51.72
平均16.41
models/gemini-2.0-flash
google-ai
2,386,605,624代币
Botpress 上最近 90 天处理的所有代币总和。
445,293
89.26
平均0.58
gpt-4.1-2025-04-14
openai
2,963,889,872代币
Botpress 上最近 90 天处理的所有代币总和。
342,221
42.76
平均18.49
gpt-4.1-mini-2025-04-14
openai
598,394,311代币
Botpress 上最近 90 天处理的所有代币总和。
255,528
39.39
平均1.12
deepseek-r1-distill-llama-70b
groq
1,095,395,656代币
Botpress 上最近 90 天处理的所有代币总和。
121,535
186.19
平均7.49
gpt-4o-2024-05-13
openai
245,416,624代币
Botpress 上最近 90 天处理的所有代币总和。
95,036
56.16
平均13.99
models/gemini-1.5-flash-002
google-ai
167,920,683代币
Botpress 上最近 90 天处理的所有代币总和。
59,800
74.89
平均0.23
gpt-4.1-nano-2025-04-14
openai
175,190,823代币
Botpress 上最近 90 天处理的所有代币总和。
53,571
52.75
平均0.36
llama3-8b-8192
groq
14,658,773代币
Botpress 上最近 90 天处理的所有代币总和。
33,069
204.13
平均0.03
gpt-4-turbo-2024-04-09
openai
193,219,708代币
Botpress 上最近 90 天处理的所有代币总和。
31,545
9.53
平均62.00
llama-3.1-8b-instant
groq
50,264,827代币
Botpress 上最近 90 天处理的所有代币总和。
24,019
173.24
平均0.12
accounts/fireworks/models/deepseek-v3
fireworks-ai
117,135,680代币
Botpress 上最近 90 天处理的所有代币总和。
22,015
32.91
平均4.91
claude-3-7-sonnet-20250219
anthropic
126,363,830代币
Botpress 上最近 90 天处理的所有代币总和。
21,927
29.82
平均20.31
models/gemini-1.5-flash-8b-001
google-ai
30,804,804代币
Botpress 上最近 90 天处理的所有代币总和。
15,928
76.58
平均0.08
claude-3-5-sonnet-20240620
anthropic
37,466,268代币
Botpress 上最近 90 天处理的所有代币总和。
11,896
37.24
平均11.35
models/gemini-1.5-pro-002
google-ai
50,623,952代币
Botpress 上最近 90 天处理的所有代币总和。
11,102
34.36
平均6.16
llama-3.3-70b-versatile
groq
27,376,646代币
Botpress 上最近 90 天处理的所有代币总和。
9,923
118.21
平均1.70
claude-3-haiku-20240307
anthropic
22,534,316代币
Botpress 上最近 90 天处理的所有代币总和。
9,695
54.28
平均0.68
o3-mini-2025-01-31
openai
14,192,481代币
Botpress 上最近 90 天处理的所有代币总和。
7,733
80.70
平均4.16
claude-3-7-sonnet-reasoning-20250219
anthropic
89,448,334代币
Botpress 上最近 90 天处理的所有代币总和。
7,694
41.31
平均42.09
gpt-4-1106-preview
openai
10,330,673代币
Botpress 上最近 90 天处理的所有代币总和。
7,628
33.14
平均17.65
accounts/fireworks/models/deepseek-r1
fireworks-ai
24,290,912代币
Botpress 上最近 90 天处理的所有代币总和。
6,559
66.77
平均16.76
claude-3-5-haiku-20241022
anthropic
14,949,873代币
Botpress 上最近 90 天处理的所有代币总和。
3,961
33.25
平均3.68
accounts/fireworks/models/deepseek-r1-basic
fireworks-ai
25,523,995代币
Botpress 上最近 90 天处理的所有代币总和。
3,164
60.59
平均5.57
o3-2025-04-16
openai
36,399,465代币
Botpress 上最近 90 天处理的所有代币总和。
2,644
53.98
平均218.91
llama3.1-8b
cerebras
3,348,629代币
Botpress 上最近 90 天处理的所有代币总和。
2,335
251.23
平均0.15
accounts/fireworks/models/llama-v3p1-8b-instruct
fireworks-ai
3,299,969代币
Botpress 上最近 90 天处理的所有代币总和。
1,417
96.34
平均0.48
claude-sonnet-4-20250514
anthropic
16,265,949代币
Botpress 上最近 90 天处理的所有代币总和。
1,408
32.48
平均38.07
accounts/fireworks/models/llama-v3p1-70b-instruct
fireworks-ai
10,534,420代币
Botpress 上最近 90 天处理的所有代币总和。
1,131
38.84
平均8.42
o1-2024-12-17
openai
2,789,465代币
Botpress 上最近 90 天处理的所有代币总和。
1,034
65.17
平均77.34
gemma2-9b-it
groq
1,813,647代币
Botpress 上最近 90 天处理的所有代币总和。
936
171.60
平均0.43
llama3.3-70b
cerebras
1,996,966代币
Botpress 上最近 90 天处理的所有代币总和。
776
440.76
平均2.52
llama3-70b-8192
groq
2,979,360代币
Botpress 上最近 90 天处理的所有代币总和。
741
102.66
平均2.43
accounts/fireworks/models/mixtral-8x22b-instruct
fireworks-ai
7,708,566代币
Botpress 上最近 90 天处理的所有代币总和。
592
61.58
平均15.82
accounts/fireworks/models/llama-v3p1-405b-instruct
fireworks-ai
2,849,520代币
Botpress 上最近 90 天处理的所有代币总和。
309
30.91
平均28.07
claude-3-5-sonnet-20241022
anthropic
438,266代币
Botpress 上最近 90 天处理的所有代币总和。
210
39.53
平均12.40
o4-mini-2025-04-16
openai
619,361代币
Botpress 上最近 90 天处理的所有代币总和。
204
94.50
平均9.41
gpt-4-0613
openai
5,733代币
Botpress 上最近 90 天处理的所有代币总和。
5
26.20
平均43.55

常见问题

什么是请求?
请求是指从Botpress 发送给大型语言模型 (LLM) 的单次交互。它包括输入数据、配置参数以及模型处理请求和返回响应所需的任何相关上下文。每个请求代表对LLM 的一次调用,如生成文本、回答问题或执行其他任务。

上图中的数据显示了用户从Botpress 查询到的LLMs 的单个请求数量。
速度指的是什么?
速度指LLM 处理请求时每秒产生的平均标记数。标记是模型读取或生成的文本单位,如单词或单词的一部分。这一测量值反映了模型的输出性能,表明它返回响应的速度有多快。

上图中的数据显示了从Botpress 查询时模型每秒生成的标记总数的平均值。
成本指的是什么?
成本是指处理 1000 个向特定LLM 发送的请求的平均价格(以美元dollars 计),Botpress 。该指标有助于展示使用不同模型的相对费用,从而深入了解它们在处理大量请求时的成本效率。

一次对话可能包含多个请求。您可以使用上述图表中的数据,根据对话的性质大致估算每月的人工智能支出。
本页面上的数据多久更新一次?
Botpress 虽然LLM 的使用信息是实时收集的,但本页面上的图表每 48 小时更新一次。