LLM การจัดอันดับ | โมเดลต่างๆ มีประสิทธิภาพอย่างไร Botpress -

ค้นพบโมเดล

จำนวนคำขอทั้งหมดที่ประมวลผลตามแบบจำลอง
ข้อมูลจาก 90 วันที่ผ่านมา
จำนวนเฉลี่ยของโทเค็นที่ได้รับการประมวลผลต่อวินาทีโดยแบบจำลอง
ข้อมูลจาก 90 วันที่ผ่านมา
ต้นทุนเฉลี่ยต่อโมเดลสำหรับคำขอทั้งหมดที่ทำในช่วง 90 วัน
ข้อมูลจาก 90 วันที่ผ่านมา
ข้อมูลจาก 90 วันที่ผ่านมา
คำร้องขอ
ความเร็ว
ค่า
gpt-4o-mini-2024-07-18
openai
โทเค็น 6,856,897,794
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
7,455,795
41.60
0.19 เฉลี่ย
gpt-3.5-turbo-0125
openai
โทเค็น 904,269,679
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
1,585,658
29.62
0.32 เฉลี่ย
gpt-4o-2024-08-06
openai
โทเค็น 3,373,887,110
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
1,390,209
21.89
11.08 เฉลี่ย
gpt-4o-2024-11-20
openai
โทเค็น 6,255,271,614
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
1,020,583
52.69
16.50 เฉลี่ย
models/gemini-2.0-flash
google-ai
โทเค็น 2,149,538,044
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
409,063
89.75
0.57 เฉลี่ย
gpt-4.1-2025-04-14
openai
โทเค็น 2,727,708,831
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
320,312
42.79
18.20 เฉลี่ย
gpt-4.1-mini-2025-04-14
openai
โทเค็น 536,976,827
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
226,665
39.05
1.13 เฉลี่ย
deepseek-r1-distill-llama-70b
groq
โทเค็น 1,056,795,377
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
116,389
186.02
7.54 เฉลี่ย
gpt-4o-2024-05-13
openai
โทเค็น 223,312,736
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
87,212
56.27
13.87 เฉลี่ย
models/gemini-1.5-flash-002
google-ai
โทเค็น 149,606,175
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
54,072
75.07
0.23 เฉลี่ย
gpt-4.1-nano-2025-04-14
openai
โทเค็น 163,867,839
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
48,935
51.79
0.37 เฉลี่ย
llama3-8b-8192
groq
โทเค็น 13,414,679
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
31,100
210.22
0.03 เฉลี่ย
gpt-4-turbo-2024-04-09
openai
โทเค็น 157,822,302
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
26,935
9.75
59.36 เฉลี่ย
accounts/fireworks/models/deepseek-v3
fireworks-ai
โทเค็น 104,409,147
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
20,700
33.02
4.66 เฉลี่ย
claude-3-7-sonnet-20250219
anthropic
โทเค็น 114,697,009
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
19,410
29.33
20.76 เฉลี่ย
models/gemini-1.5-flash-8b-001
google-ai
โทเค็น 25,403,170
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
13,188
75.10
0.08 เฉลี่ย
llama-3.1-8b-instant
groq
โทเค็น 24,007,518
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
12,123
192.52
0.11 เฉลี่ย
claude-3-5-sonnet-20240620
anthropic
โทเค็น 32,981,074
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
10,691
38.86
11.16 เฉลี่ย
models/gemini-1.5-pro-002
google-ai
โทเค็น 46,739,598
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
10,465
34.13
6.04 เฉลี่ย
llama-3.3-70b-versatile
groq
โทเค็น 27,223,059
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
9,743
118.77
1.72 เฉลี่ย
claude-3-haiku-20240307
anthropic
โทเค็น 18,591,370
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
8,666
54.13
0.64 เฉลี่ย
o3-mini-2025-01-31
openai
โทเค็น 12,549,570
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
7,036
80.79
4.09 เฉลี่ย
claude-3-7-sonnet-reasoning-20250219
anthropic
โทเค็น 79,861,957
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
6,821
40.82
42.21 เฉลี่ย
accounts/fireworks/models/deepseek-r1
fireworks-ai
โทเค็น 22,701,443
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
6,033
69.26
16.95 เฉลี่ย
gpt-4-1106-preview
openai
โทเค็น 7,965,206
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
5,652
32.95
18.21 เฉลี่ย
claude-3-5-haiku-20241022
anthropic
โทเค็น 14,242,686
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
3,874
33.16
3.59 เฉลี่ย
accounts/fireworks/models/deepseek-r1-basic
fireworks-ai
โทเค็น 24,445,475
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
3,033
60.29
5.57 เฉลี่ย
o3-2025-04-16
openai
โทเค็น 28,679,633
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
2,127
58.17
235.46 เฉลี่ย
llama3.1-8b
cerebras
โทเค็น 2,704,098
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
1,797
247.15
0.16 เฉลี่ย
claude-sonnet-4-20250514
anthropic
โทเค็น 16,265,949
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
1,408
32.48
38.07 เฉลี่ย
accounts/fireworks/models/llama-v3p1-8b-instruct
fireworks-ai
โทเค็น 3,145,393
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
1,386
95.73
0.47 เฉลี่ย
accounts/fireworks/models/llama-v3p1-70b-instruct
fireworks-ai
โทเค็น 9,301,132
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
992
37.45
8.48 เฉลี่ย
o1-2024-12-17
openai
โทเค็น 2,703,590
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
954
66.98
80.13 เฉลี่ย
gemma2-9b-it
groq
โทเค็น 1,360,238
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
831
162.92
0.36 เฉลี่ย
llama3.3-70b
cerebras
โทเค็น 1,983,538
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
749
434.15
2.57 เฉลี่ย
llama3-70b-8192
groq
โทเค็น 2,627,310
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
660
103.57
2.41 เฉลี่ย
accounts/fireworks/models/mixtral-8x22b-instruct
fireworks-ai
โทเค็น 6,116,239
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
519
62.82
14.33 เฉลี่ย
accounts/fireworks/models/llama-v3p1-405b-instruct
fireworks-ai
โทเค็น 2,676,376
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
279
28.74
29.15 เฉลี่ย
claude-3-5-sonnet-20241022
anthropic
โทเค็น 396,738
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
191
40.13
12.84 เฉลี่ย
o4-mini-2025-04-16
openai
โทเค็น 521,452
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
182
93.26
8.82 เฉลี่ย
gpt-4-0613
openai
โทเค็น 5,733
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
5
26.20
43.55 เฉลี่ย

คำถามที่พบบ่อย

คำขอคืออะไร?
คำขอ อ้างอิงถึงการโต้ตอบครั้งเดียวที่ส่งไปยังโมเดลภาษาขนาดใหญ่ ( LLM ) จาก Botpress ซึ่งรวมถึงข้อมูลอินพุต พารามิเตอร์การกำหนดค่า และบริบทที่เกี่ยวข้องใดๆ ที่จำเป็นสำหรับโมเดลในการประมวลผลคำขอและส่งกลับการตอบสนอง คำขอแต่ละคำขอแสดงถึงการเรียกหนึ่งครั้งไปยัง LLM เช่นการสร้างข้อความ การตอบคำถาม หรือการดำเนินการงานอื่นๆ

ข้อมูลในแผนภูมิด้านบนแสดงจำนวนคำขอแต่ละรายการที่ส่งถึงแต่ละรายการ LLMs ถูกสอบถามโดยผู้ใช้จาก Botpress -
ความเร็วหมายถึงอะไร
ความเร็ว หมายถึงจำนวนโทเค็นเฉลี่ย LLM สร้างขึ้นต่อวินาทีเมื่อประมวลผลคำขอ โทเค็นคือหน่วยข้อความ เช่น คำหรือส่วนของคำที่โมเดลอ่านหรือสร้างขึ้น การวัดนี้สะท้อนถึงประสิทธิภาพเอาต์พุตของโมเดล ซึ่งระบุว่าโมเดลสามารถส่งคืนการตอบสนองได้เร็วเพียงใด

ข้อมูลในแผนภูมิด้านบนแสดงค่าเฉลี่ยของจำนวนโทเค็นทั้งหมดที่โมเดลสร้างต่อวินาทีเมื่อถูกสอบถามจาก Botpress -
ต้นทุนหมายถึงอะไร
ต้นทุน หมายถึงราคาเฉลี่ยในสหรัฐอเมริกา dollars สำหรับการประมวลผลคำขอ 1,000 รายการไปยังจุดเฉพาะ LLM จาก Botpress ตัวชี้วัดนี้ช่วยแสดงค่าใช้จ่ายสัมพันธ์ของการใช้โมเดลที่แตกต่างกัน และให้ข้อมูลเชิงลึกเกี่ยวกับประสิทธิภาพด้านต้นทุนเมื่อจัดการกับคำขอจำนวนมาก

การสนทนาหนึ่งครั้งอาจมีคำขอหลายรายการ คุณสามารถใช้ข้อมูลในแผนภูมิด้านบนเพื่อประมาณค่าใช้จ่าย AI รายเดือนของคุณโดยคร่าวๆ ตามลักษณะของการสนทนาของคุณ
ข้อมูลบนหน้านี้ได้รับการอัปเดตบ่อยเพียงใด?
แม้ว่าข้อมูลเกี่ยวกับ LLM การใช้งานใน Botpress จะถูกเก็บรวบรวมแบบเรียลไทม์ โดยแผนภูมิในหน้านี้จะได้รับการอัปเดตทุกๆ 48 ชั่วโมง