LLM Peringkat | Bagaimana kinerja model yang berbeda di Botpress?

Temukan model

Jumlah total permintaan yang diproses berdasarkan model
Data dari 90 hari terakhir
Jumlah rata-rata token yang diproses per detik berdasarkan model
Data dari 90 hari terakhir
Biaya rata-rata per model untuk semua permintaan yang dibuat selama 90 hari
Data dari 90 hari terakhir
Data dari 90 hari terakhir
Permintaan
Kecepatan
Biaya
gpt-4o-mini-2024-07-18
openai
6,856,897,794 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
7,455,795
41.60
0.19 biaya_rata-rata
gpt-3.5-turbo-0125
openai
904,269,679 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
1,585,658
29.62
0.32 biaya_rata-rata
gpt-4o-2024-08-06
openai
3,373,887,110 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
1,390,209
21.89
11.08 biaya_rata-rata
gpt-4o-2024-11-20
openai
6,255,271,614 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
1,020,583
52.69
16.50 biaya_rata-rata
models/gemini-2.0-flash
google-ai
2,149,538,044 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
409,063
89.75
0.57 biaya_rata-rata
gpt-4.1-2025-04-14
openai
2,727,708,831 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
320,312
42.79
18.20 biaya_rata-rata
gpt-4.1-mini-2025-04-14
openai
536,976,827 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
226,665
39.05
1.13 biaya_rata-rata
deepseek-r1-distill-llama-70b
groq
1,056,795,377 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
116,389
186.02
7.54 biaya_rata-rata
gpt-4o-2024-05-13
openai
223,312,736 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
87,212
56.27
13.87 biaya_rata-rata
models/gemini-1.5-flash-002
google-ai
149,606,175 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
54,072
75.07
0.23 biaya_rata-rata
gpt-4.1-nano-2025-04-14
openai
163,867,839 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
48,935
51.79
0.37 biaya_rata-rata
llama3-8b-8192
groq
13,414,679 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
31,100
210.22
0.03 biaya_rata-rata
gpt-4-turbo-2024-04-09
openai
157,822,302 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
26,935
9.75
59.36 biaya_rata-rata
accounts/fireworks/models/deepseek-v3
fireworks-ai
104,409,147 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
20,700
33.02
4.66 biaya_rata-rata
claude-3-7-sonnet-20250219
anthropic
114,697,009 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
19,410
29.33
20.76 biaya_rata-rata
models/gemini-1.5-flash-8b-001
google-ai
25,403,170 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
13,188
75.10
0.08 biaya_rata-rata
llama-3.1-8b-instant
groq
24,007,518 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
12,123
192.52
0.11 biaya_rata-rata
claude-3-5-sonnet-20240620
anthropic
32,981,074 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
10,691
38.86
11.16 biaya_rata-rata
models/gemini-1.5-pro-002
google-ai
46,739,598 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
10,465
34.13
6.04 biaya_rata-rata
llama-3.3-70b-versatile
groq
27,223,059 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
9,743
118.77
1.72 biaya_rata-rata
claude-3-haiku-20240307
anthropic
18,591,370 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
8,666
54.13
0.64 biaya_rata-rata
o3-mini-2025-01-31
openai
12,549,570 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
7,036
80.79
4.09 biaya_rata-rata
claude-3-7-sonnet-reasoning-20250219
anthropic
79,861,957 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
6,821
40.82
42.21 biaya_rata-rata
accounts/fireworks/models/deepseek-r1
fireworks-ai
22,701,443 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
6,033
69.26
16.95 biaya_rata-rata
gpt-4-1106-preview
openai
7,965,206 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
5,652
32.95
18.21 biaya_rata-rata
claude-3-5-haiku-20241022
anthropic
14,242,686 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
3,874
33.16
3.59 biaya_rata-rata
accounts/fireworks/models/deepseek-r1-basic
fireworks-ai
24,445,475 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
3,033
60.29
5.57 biaya_rata-rata
o3-2025-04-16
openai
28,679,633 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
2,127
58.17
235.46 biaya_rata-rata
llama3.1-8b
cerebras
2,704,098 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
1,797
247.15
0.16 biaya_rata-rata
claude-sonnet-4-20250514
anthropic
16,265,949 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
1,408
32.48
38.07 biaya_rata-rata
accounts/fireworks/models/llama-v3p1-8b-instruct
fireworks-ai
3,145,393 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
1,386
95.73
0.47 biaya_rata-rata
accounts/fireworks/models/llama-v3p1-70b-instruct
fireworks-ai
9,301,132 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
992
37.45
8.48 biaya_rata-rata
o1-2024-12-17
openai
2,703,590 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
954
66.98
80.13 biaya_rata-rata
gemma2-9b-it
groq
1,360,238 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
831
162.92
0.36 biaya_rata-rata
llama3.3-70b
cerebras
1,983,538 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
749
434.15
2.57 biaya_rata-rata
llama3-70b-8192
groq
2,627,310 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
660
103.57
2.41 biaya_rata-rata
accounts/fireworks/models/mixtral-8x22b-instruct
fireworks-ai
6,116,239 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
519
62.82
14.33 biaya_rata-rata
accounts/fireworks/models/llama-v3p1-405b-instruct
fireworks-ai
2,676,376 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
279
28.74
29.15 biaya_rata-rata
claude-3-5-sonnet-20241022
anthropic
396,738 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
191
40.13
12.84 biaya_rata-rata
o4-mini-2025-04-16
openai
521,452 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
182
93.26
8.82 biaya_rata-rata
gpt-4-0613
openai
5,733 token
Jumlah semua token yang diproses dalam 90 hari terakhir di Botpress.
5
26.20
43.55 biaya_rata-rata

Hal-hal yang sering ditanyakan

Apa yang dimaksud dengan permintaan?
Sebuah permintaan mengacu pada satu interaksi yang dikirim ke model bahasa besar (LLM) dari Botpress. Permintaan ini mencakup data input, parameter konfigurasi, dan konteks relevan yang diperlukan model untuk memproses permintaan dan mengembalikan respons. Setiap permintaan mewakili satu panggilan ke LLM, seperti membuat teks, menjawab pertanyaan, atau melakukan tugas lain.

Data dalam grafik di atas menunjukkan jumlah permintaan individual yang dibuat untuk setiap LLMs yang ditanyakan oleh pengguna dari Botpress.
Apa yang dimaksud dengan kecepatan?
‍Kecepatan mengacu pada jumlah rata-rata token yang dihasilkan oleh LLM per detik saat memproses permintaan. Token adalah unit teks, seperti kata atau bagian dari kata, yang dibaca atau dihasilkan oleh model. Pengukuran ini mencerminkan kinerja keluaran model, yang menunjukkan seberapa cepat model tersebut dapat mengembalikan respons.

Data dalam grafik di atas menunjukkan rata-rata jumlah total token yang dihasilkan model per detik ketika diminta dari Botpress.
Apa yang dimaksud dengan biaya?
Biaya mengacu pada harga rata-rata di AS dollars untuk memproses 1.000 permintaan ke LLM tertentu dari Botpress. Metrik ini membantu menunjukkan biaya relatif penggunaan model yang berbeda, yang memberikan wawasan tentang efisiensi biaya saat menangani permintaan dalam jumlah besar.

Satu percakapan dapat berisi beberapa permintaan. Anda dapat menggunakan data pada grafik di atas untuk memperkirakan secara kasar, berdasarkan sifat percakapan Anda, pengeluaran AI bulanan Anda.
Seberapa sering data pada halaman ini diperbarui?
Meskipun informasi tentang LLM penggunaan di Botpress dikumpulkan secara real-time, grafik di halaman ini diperbarui setiap 48 jam.