ค้นพบโมเดล

จำนวนคำขอทั้งหมดที่ประมวลผลตามแบบจำลอง
ข้อมูลจาก 90 วันที่ผ่านมา
จำนวนเฉลี่ยของโทเค็นที่ได้รับการประมวลผลต่อวินาทีโดยแบบจำลอง
ข้อมูลจาก 90 วันที่ผ่านมา
ต้นทุนเฉลี่ยต่อโมเดลสำหรับคำขอทั้งหมดที่ทำในช่วง 90 วัน
ข้อมูลจาก 90 วันที่ผ่านมา
ข้อมูลจาก 90 วันที่ผ่านมา
คำร้องขอ
ความเร็ว
ค่า
gpt-4o-mini-2024-07-18
openai
โทเค็น 36,738,619,750
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
41,368,017
45.65
0.18 เฉลี่ย
gpt-4o-2024-11-20
openai
โทเค็น 13,661,345,128
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
2,309,603
45.27
15.99 เฉลี่ย
gpt-4o-2024-05-13
openai
โทเค็น 1,347,263,818
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
378,622
47.77
18.91 เฉลี่ย
claude-3-5-sonnet-20240620
anthropic
โทเค็น 816,680,984
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
193,999
39.51
14.87 เฉลี่ย
deepseek-r1-distill-llama-70b
groq
โทเค็น 353,001,660
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
131,355
201.47
2.45 เฉลี่ย
models/gemini-2.0-flash
google-ai
โทเค็น 392,456,387
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
116,549
102.15
0.39 เฉลี่ย
claude-3-7-sonnet-20250219
anthropic
โทเค็น 322,968,753
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
82,725
36.49
13.80 เฉลี่ย
models/gemini-1.5-flash-002
google-ai
โทเค็น 335,720,362
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
79,896
79.26
0.34 เฉลี่ย
llama-3.2-3b-preview
groq
โทเค็น 31,867,025
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
62,530
213.88
0.04 เฉลี่ย
models/gemini-1.5-flash-8b-001
google-ai
โทเค็น 82,640,473
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
57,614
104.64
0.07 เฉลี่ย
claude-3-haiku-20240307
anthropic
โทเค็น 207,040,592
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
50,847
65.53
1.16 เฉลี่ย
o3-mini-2025-01-31
openai
โทเค็น 175,269,249
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
38,595
94.04
7.62 เฉลี่ย
llama3-8b-8192
groq
โทเค็น 39,045,428
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
37,330
47.11
0.05 เฉลี่ย
llama-3.3-70b-versatile
groq
โทเค็น 119,487,039
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
33,339
87.66
2.21 เฉลี่ย
accounts/fireworks/models/deepseek-v3
fireworks-ai
โทเค็น 122,471,064
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
19,293
28.12
5.81 เฉลี่ย
llama-3.2-1b-preview
groq
โทเค็น 12,518,041
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
14,605
170.65
0.04 เฉลี่ย
accounts/fireworks/models/deepseek-r1
fireworks-ai
โทเค็น 56,083,063
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
14,600
53.95
31.59 เฉลี่ย
o1-2024-12-17
openai
โทเค็น 42,988,741
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
14,287
67.86
92.34 เฉลี่ย
llama-3.1-8b-instant
groq
โทเค็น 38,882,033
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
14,235
156.83
0.15 เฉลี่ย
gpt-4-1106-preview
openai
โทเค็น 17,275,920
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
10,295
26.89
19.65 เฉลี่ย
models/gemini-1.5-pro-002
google-ai
โทเค็น 107,071,844
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
8,579
30.75
16.17 เฉลี่ย
claude-3-7-sonnet-reasoning-20250219
anthropic
โทเค็น 63,885,795
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
7,650
47.23
32.87 เฉลี่ย
llama3.1-8b
cerebras
โทเค็น 11,751,797
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
6,993
169.13
0.18 เฉลี่ย
gemma2-9b-it
groq
โทเค็น 7,206,946
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
4,282
178.82
0.38 เฉลี่ย
llama3-70b-8192
groq
โทเค็น 8,206,938
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
3,733
136.52
1.45 เฉลี่ย
mixtral-8x7b-32768
groq
โทเค็น 14,054,788
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
2,958
296.39
1.51 เฉลี่ย
llama-3.2-11b-vision-preview
groq
โทเค็น 6,554,638
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
2,464
161.88
0.50 เฉลี่ย
llama-3.2-90b-vision-preview
groq
โทเค็น 6,866,199
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
2,447
94.71
2.64 เฉลี่ย
accounts/fireworks/models/llama-v3p1-405b-instruct
fireworks-ai
โทเค็น 10,175,997
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
2,019
26.70
15.38 เฉลี่ย
claude-3-5-sonnet-20241022
anthropic
โทเค็น 14,555,671
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
1,913
36.44
27.58 เฉลี่ย
accounts/fireworks/models/llama-v3p1-8b-instruct
fireworks-ai
โทเค็น 13,519,478
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
1,281
72.13
2.14 เฉลี่ย
accounts/fireworks/models/mixtral-8x7b-instruct
fireworks-ai
โทเค็น 7,789,317
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
1,268
131.67
3.30 เฉลี่ย
claude-3-5-haiku-20241022
anthropic
โทเค็น 7,530,241
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
882
30.27
7.52 เฉลี่ย
llama-3.1-70b-versatile
groq
โทเค็น 2,225,956
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
518
69.50
2.62 เฉลี่ย
accounts/fireworks/models/mixtral-8x22b-instruct
fireworks-ai
โทเค็น 4,429,589
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
356
58.51
15.17 เฉลี่ย
llama3.3-70b
cerebras
โทเค็น 491,528
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
314
263.75
1.45 เฉลี่ย
accounts/fireworks/models/deepseek-r1-basic
fireworks-ai
โทเค็น 1,067,819
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
169
62.90
4.68 เฉลี่ย
accounts/fireworks/models/llama-v3p1-70b-instruct
fireworks-ai
โทเค็น 283,652
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
123
58.36
2.17 เฉลี่ย
accounts/fireworks/models/mythomax-l2-13b
fireworks-ai
โทเค็น 78,981
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
82
6.09
0.21 เฉลี่ย
llama3.1-70b
cerebras
โทเค็น 472,551
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
73
149.92
3.94 เฉลี่ย
accounts/fireworks/models/firefunction-v2
fireworks-ai
โทเค็น 7,644
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
9
22.44
0.80 เฉลี่ย
gpt-4-0613
openai
โทเค็น 13,180
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
7
8.86
56.85 เฉลี่ย
gpt-4-0125-preview
openai
โทเค็น 415
ผลรวมของโทเค็นทั้งหมดที่ได้รับการประมวลผลในช่วง 90 วันที่ผ่านมา Botpress -
1
4.00
0.22 เฉลี่ย

คำถามที่พบบ่อย

คำขอคืออะไร?
คำขอ อ้างอิงถึงการโต้ตอบครั้งเดียวที่ส่งไปยังโมเดลภาษาขนาดใหญ่ ( LLM ) จาก Botpress ซึ่งรวมถึงข้อมูลอินพุต พารามิเตอร์การกำหนดค่า และบริบทที่เกี่ยวข้องใดๆ ที่จำเป็นสำหรับโมเดลในการประมวลผลคำขอและส่งกลับการตอบสนอง คำขอแต่ละคำขอแสดงถึงการเรียกหนึ่งครั้งไปยัง LLM เช่นการสร้างข้อความ การตอบคำถาม หรือการดำเนินการงานอื่นๆ

ข้อมูลในแผนภูมิด้านบนแสดงจำนวนคำขอแต่ละรายการที่ส่งถึงแต่ละรายการ LLMs ถูกสอบถามโดยผู้ใช้จาก Botpress -
ความเร็วหมายถึงอะไร
ความเร็ว หมายถึงจำนวนโทเค็นเฉลี่ย LLM สร้างขึ้นต่อวินาทีเมื่อประมวลผลคำขอ โทเค็นคือหน่วยข้อความ เช่น คำหรือส่วนของคำที่โมเดลอ่านหรือสร้างขึ้น การวัดนี้สะท้อนถึงประสิทธิภาพเอาต์พุตของโมเดล ซึ่งระบุว่าโมเดลสามารถส่งคืนการตอบสนองได้เร็วเพียงใด

ข้อมูลในแผนภูมิด้านบนแสดงค่าเฉลี่ยของจำนวนโทเค็นทั้งหมดที่โมเดลสร้างต่อวินาทีเมื่อถูกสอบถามจาก Botpress -
ต้นทุนหมายถึงอะไร
ต้นทุน หมายถึงราคาเฉลี่ยในสหรัฐอเมริกา dollars สำหรับการประมวลผลคำขอ 1,000 รายการไปยังจุดเฉพาะ LLM จาก Botpress ตัวชี้วัดนี้ช่วยแสดงค่าใช้จ่ายสัมพันธ์ของการใช้โมเดลที่แตกต่างกัน และให้ข้อมูลเชิงลึกเกี่ยวกับประสิทธิภาพด้านต้นทุนเมื่อจัดการกับคำขอจำนวนมาก

การสนทนาหนึ่งครั้งอาจมีคำขอหลายรายการ คุณสามารถใช้ข้อมูลในแผนภูมิด้านบนเพื่อประมาณค่าใช้จ่าย AI รายเดือนของคุณโดยคร่าวๆ ตามลักษณะของการสนทนาของคุณ
ข้อมูลบนหน้านี้ได้รับการอัปเดตบ่อยเพียงใด?
แม้ว่าข้อมูลเกี่ยวกับ LLM การใช้งานใน Botpress จะถูกเก็บรวบรวมแบบเรียลไทม์ โดยแผนภูมิในหน้านี้จะได้รับการอัปเดตทุกๆ 48 ชั่วโมง