LLM Classificação | Qual o desempenho dos diferentes modelos em Botpress?

Descobrir modelos

Número total de pedidos processados por modelo
Dados dos últimos 90 dias
Número médio de tokens processados por segundo por modelo
Dados dos últimos 90 dias
Custo médio por modelo em todos os pedidos efectuados durante 90 dias
Dados dos últimos 90 dias
Dados dos últimos 90 dias
Pedidos
Velocidade
Custo
gpt-4o-mini-2024-07-18
openai
6,705,403,002 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
7,296,438
41.64
0.19
gpt-3.5-turbo-0125
openai
886,815,539 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
1,554,148
29.50
0.32
gpt-4o-2024-08-06
openai
3,303,353,013 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
1,353,461
21.87
11.15
gpt-4o-2024-11-20
openai
6,112,327,738 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
998,338
52.89
16.48
models/gemini-2.0-flash
google-ai
2,111,015,852 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
401,342
89.76
0.57
gpt-4.1-2025-04-14
openai
2,679,895,885 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
315,012
42.84
18.19
gpt-4.1-mini-2025-04-14
openai
527,021,481 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
220,725
39.08
1.14
deepseek-r1-distill-llama-70b
groq
1,041,576,341 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
115,041
186.09
7.52
gpt-4o-2024-05-13
openai
218,653,769 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
85,452
56.03
13.86
models/gemini-1.5-flash-002
google-ai
144,594,977 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
52,945
74.97
0.23
gpt-4.1-nano-2025-04-14
openai
160,765,881 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
47,908
51.95
0.37
llama3-8b-8192
groq
13,288,402 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
30,682
210.23
0.03
gpt-4-turbo-2024-04-09
openai
150,985,136 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
26,056
9.82
58.71
accounts/fireworks/models/deepseek-v3
fireworks-ai
102,325,064 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
20,387
33.04
4.64
claude-3-7-sonnet-20250219
anthropic
112,276,905 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
18,827
29.24
20.96
models/gemini-1.5-flash-8b-001
google-ai
24,920,168 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
13,010
75.31
0.08
llama-3.1-8b-instant
groq
22,875,979 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
11,489
196.57
0.11
models/gemini-1.5-pro-002
google-ai
46,363,707 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
10,433
34.16
6.01
claude-3-5-sonnet-20240620
anthropic
32,497,330 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
10,359
39.12
11.33
llama-3.3-70b-versatile
groq
27,160,695 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
9,707
118.87
1.72
claude-3-haiku-20240307
anthropic
18,295,744 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
8,464
53.84
0.64
o3-mini-2025-01-31
openai
12,371,833 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
6,901
80.80
4.09
claude-3-7-sonnet-reasoning-20250219
anthropic
78,775,743 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
6,703
40.81
42.34
accounts/fireworks/models/deepseek-r1
fireworks-ai
22,181,320 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
5,759
69.70
17.26
gpt-4-1106-preview
openai
7,646,857 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
5,438
32.94
18.19
claude-3-5-haiku-20241022
anthropic
14,188,831 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
3,856
33.13
3.59
accounts/fireworks/models/deepseek-r1-basic
fireworks-ai
24,169,096 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
2,947
60.54
5.65
o3-2025-04-16
openai
24,875,834 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
1,836
62.44
251.82
llama3.1-8b
cerebras
2,689,975 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
1,771
247.30
0.16
claude-sonnet-4-20250514
anthropic
16,265,949 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
1,408
32.48
38.07
accounts/fireworks/models/llama-v3p1-8b-instruct
fireworks-ai
3,073,343 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
1,268
90.82
0.50
accounts/fireworks/models/llama-v3p1-70b-instruct
fireworks-ai
9,194,640 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
980
37.42
8.48
o1-2024-12-17
openai
2,605,339 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
922
67.85
80.23
gemma2-9b-it
groq
1,326,421 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
815
162.65
0.36
llama3.3-70b
cerebras
1,980,556 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
742
434.11
2.59
llama3-70b-8192
groq
2,626,264 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
658
103.49
2.42
accounts/fireworks/models/mixtral-8x22b-instruct
fireworks-ai
5,948,765 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
506
62.88
14.30
accounts/fireworks/models/llama-v3p1-405b-instruct
fireworks-ai
2,650,857 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
265
29.43
30.39
claude-3-5-sonnet-20241022
anthropic
396,738 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
191
40.13
12.84
o4-mini-2025-04-16
openai
516,376 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
180
93.04
8.70
gpt-4-0613
openai
5,733 fichas
Soma de todos os tokens processados nos últimos 90 dias em Botpress.
5
26.20
43.55

FAQs

O que são pedidos?
Um pedido refere-se a uma única interação enviada a um modelo linguístico de grande dimensão (LLM) a partir de Botpress. Inclui os dados de entrada, os parâmetros de configuração e qualquer contexto relevante necessário para o modelo processar o pedido e devolver uma resposta. Cada pedido representa uma chamada para um LLM, tal como gerar texto, responder a uma pergunta ou executar outras tarefas.

Os dados nos gráficos acima mostram o número de pedidos individuais feitos a cada um dos LLMs consultados pelos utilizadores a partir de Botpress.
A que é que se refere a velocidade?
‍Speed refere-se ao número médio de tokens que um LLM gera por segundo ao processar um pedido. Os símbolos são unidades de texto, tais como palavras ou partes de palavras, que o modelo lê ou produz. Essa medida reflete o desempenho de saída do modelo, indicando a rapidez com que ele pode retornar uma resposta.

Os dados nos gráficos acima mostram uma média do número total de tokens que um modelo gera por segundo quando consultado em Botpress.
A que se refere o custo?
O custo refere-se ao preço médio em US dollars para processar 1.000 pedidos para um LLM específico a partir de Botpress. Esta métrica ajuda a demonstrar a despesa relativa da utilização de diferentes modelos, fornecendo informações sobre a sua eficiência de custos ao tratar grandes volumes de pedidos.

Uma única conversa pode conter vários pedidos. Pode utilizar os dados nos gráficos acima para fazer uma estimativa aproximada, com base na natureza das suas conversas, dos seus gastos mensais com IA.
Com que frequência são actualizados os dados desta página?
Embora a informação sobre a utilização do LLM em Botpress seja recolhida em tempo real, os gráficos desta página são actualizados a cada 48 horas.