ค้นพบโมเดลต่าง ๆ

จำนวนคำขอทั้งหมดที่แต่ละโมเดลประมวลผล
ข้อมูลย้อนหลัง 90 วัน
จำนวนโทเคนเฉลี่ยต่อวินาทีที่แต่ละโมเดลประมวลผล
ข้อมูลย้อนหลัง 90 วัน
ต้นทุนเฉลี่ยต่อโมเดลสำหรับคำขอทั้งหมดในช่วง 90 วันที่ผ่านมา
ข้อมูลย้อนหลัง 90 วัน
ข้อมูลย้อนหลัง 90 วัน
คำขอ
จำนวนคำขอทั้งหมดที่ส่งไปยัง LLM เฉพาะจาก Botpress
ความเร็ว
จำนวนโทเคนต่อวินาทีโดยเฉลี่ยที่ LLM เฉพาะสร้างขึ้นเมื่อมีการร้องขอจาก Botpress
ค่าใช้จ่าย
ต้นทุนเฉลี่ย (USD) สำหรับ 1,000 คำขอที่ส่งไปยัง LLM แต่ละตัวจาก Botpress
model_second
model_first
xx โทเคน
ยอดรวมโทเคนทั้งหมดที่ประมวลผลใน 90 วันที่ผ่านมาใน Botpress
จำนวน
output_tokens_per_sec_mean
$cost_mean

คำถามที่พบบ่อย

คำขอคืออะไร?
คำขอ หมายถึงการโต้ตอบหนึ่งครั้งที่ส่งไปยังโมเดลภาษา (LLM) จาก Botpress ซึ่งรวมถึงข้อมูลอินพุต พารามิเตอร์การตั้งค่า และบริบทที่จำเป็นสำหรับให้โมเดลประมวลผลและส่งผลลัพธ์กลับมา แต่ละคำขอคือการเรียกใช้งาน LLM หนึ่งครั้ง เช่น การสร้างข้อความ ตอบคำถาม หรือดำเนินการอื่น ๆ

ข้อมูลในกราฟด้านบนแสดงจำนวนคำขอแต่ละรายการที่ผู้ใช้ Botpress ส่งไปยัง LLM แต่ละตัว
ความเร็วหมายถึงอะไร?
ความเร็ว หมายถึงจำนวนโทเคนเฉลี่ยต่อวินาทีที่ LLM สร้างขึ้นขณะประมวลผลคำขอ โทเคนคือหน่วยของข้อความ เช่น คำหรือส่วนของคำ ที่โมเดลอ่านหรือสร้างขึ้น การวัดนี้สะท้อนถึงประสิทธิภาพการตอบสนองของโมเดล ว่าจะสามารถส่งผลลัพธ์กลับมาได้เร็วแค่ไหน

ข้อมูลในกราฟด้านบนแสดงค่าเฉลี่ยของจำนวนโทเคนทั้งหมดที่โมเดลสร้างขึ้นต่อวินาทีเมื่อถูกเรียกใช้งานจาก Botpress.
ต้นทุนหมายถึงอะไร?
ต้นทุน หมายถึงราคาค่าเฉลี่ยเป็นดอลลาร์สหรัฐสำหรับการประมวลผล 1,000 คำขอไปยัง LLM เฉพาะจาก Botpress ตัวชี้วัดนี้ช่วยให้เห็นต้นทุนเปรียบเทียบของแต่ละโมเดล และช่วยประเมินความคุ้มค่าเมื่อต้องจัดการคำขอจำนวนมาก

การสนทนาหนึ่งครั้งอาจมีหลายคำขอ คุณสามารถใช้ข้อมูลในกราฟด้านบนเพื่อประมาณค่าใช้จ่าย AI รายเดือนของคุณตามลักษณะการสนทนา
ข้อมูลในหน้านี้อัปเดตบ่อยแค่ไหน?
แม้ว่าข้อมูลการใช้งาน LLM ใน Botpress จะถูกรวบรวมแบบเรียลไทม์ แต่กราฟในหน้านี้จะอัปเดตทุก 48 ชั่วโมง