Modelle entdecken

Gesamtzahl der bearbeiteten Anfragen nach Modell

Daten aus den letzten 90 Tagen

Durchschnittliche Anzahl der verarbeiteten Token pro Sekunde nach Modell

Daten aus den letzten 90 Tagen

Durchschnittliche Kosten pro Modell für alle Anfragen, die innerhalb von 90 Tagen gestellt wurden

Daten aus den letzten 90 Tagen

Daten aus den letzten 90 Tagen

gpt-4o-mini-2024-07-18

41,467,588

45.66

0.18

gpt-4o-2024-11-20

2,296,078

45.09

15.99

gpt-4o-2024-05-13

379,227

47.74

18.94

claude-3-5-sonnet-20240620

193,938

39.50

14.88

deepseek-r1-distill-llama-70b

129,874

201.17

2.46

models/gemini-2.0-flash

115,367

102.21

0.39

claude-3-7-sonnet-20250219

82,379

36.50

13.82

models/gemini-1.5-flash-002

79,703

79.28

0.34

llama-3.2-3b-preview

62,985

213.77

0.04

models/gemini-1.5-flash-8b-001

57,535

104.73

0.07

claude-3-haiku-20240307

51,243

65.55

1.17

o3-mini-2025-01-31

38,400

94.04

7.60

llama3-8b-8192

37,335

47.11

0.05

llama-3.3-70b-versatile

33,401

87.60

2.22

accounts/fireworks/models/deepseek-v3

19,107

28.03

5.83

llama-3.2-1b-preview

14,662

170.54

0.04

accounts/fireworks/models/deepseek-r1

14,459

53.79

31.68

o1-2024-12-17

14,295

67.82

92.33

llama-3.1-8b-instant

14,216

156.78

0.15

gpt-4-1106-preview

10,257

26.87

19.67

models/gemini-1.5-pro-002

8,554

30.67

16.17

claude-3-7-sonnet-reasoning-20250219

7,634

47.23

32.88

llama3.1-8b

6,984

169.26

0.18

gemma2-9b-it

4,306

178.65

0.38

llama3-70b-8192

3,750

136.56

1.44

mixtral-8x7b-32768

2,963

296.37

1.51

llama-3.2-11b-vision-preview

2,482

162.52

0.49

llama-3.2-90b-vision-preview

2,464

94.63

2.65

accounts/fireworks/models/llama-v3p1-405b-instruct

1,968

26.67

14.61

claude-3-5-sonnet-20241022

1,912

36.43

27.58

accounts/fireworks/models/llama-v3p1-8b-instruct

1,265

71.78

2.11

accounts/fireworks/models/mixtral-8x7b-instruct

1,261

131.80

3.32

claude-3-5-haiku-20241022

871

30.14

7.53

llama-3.1-70b-versatile

565

67.32

2.90

accounts/fireworks/models/mixtral-8x22b-instruct

356

58.51

15.17

llama3.3-70b

314

263.75

1.45

accounts/fireworks/models/deepseek-r1-basic

150

68.37

4.98

accounts/fireworks/models/llama-v3p1-70b-instruct

123

58.36

2.17

accounts/fireworks/models/mythomax-l2-13b

82

6.09

0.21

llama3.1-70b

73

149.92

3.94

accounts/fireworks/models/firefunction-v2

9

22.44

0.80

gpt-4-0613

7

8.86

56.85

gpt-4-0125-preview

1

4.00

0.22

FAQs

Was sind Anträge?

Eine Anfrage bezieht sich auf eine einzelne Interaktion, die von Botpress an ein großes Sprachmodell (LLM) gesendet wird. Sie umfasst die Eingabedaten, Konfigurationsparameter und jeden relevanten Kontext, den das Modell benötigt, um die Anfrage zu verarbeiten und eine Antwort zu liefern. Jede Anfrage stellt einen Aufruf an ein LLM dar, wie z. B. die Generierung von Text, die Beantwortung einer Frage oder die Durchführung anderer Aufgaben.

Die Daten in den obigen Diagrammen zeigen die Anzahl der einzelnen Anfragen, die von Nutzern von Botpress an jedes der LLMs gestellt wurden.

Worauf bezieht sich die Geschwindigkeit?

‍Speed bezieht sich auf die durchschnittliche Anzahl von Token, die ein LLM bei der Bearbeitung einer Anfrage pro Sekunde erzeugt. Token sind Texteinheiten wie Wörter oder Teile von Wörtern, die das Modell liest oder erzeugt. Diese Messung spiegelt die Ausgabeleistung des Modells wider und gibt an, wie schnell es eine Antwort zurückgeben kann.

Die Daten in den obigen Diagrammen zeigen einen Durchschnitt der Gesamtzahl der Token, die ein Modell pro Sekunde erzeugt, wenn es von Botpress abgefragt wird.

Worauf beziehen sich die Kosten?

Die Kosten beziehen sich auf den durchschnittlichen Preis in den USA ( dollars ) für die Bearbeitung von 1.000 Anfragen an ein bestimmtes LLM von Botpress. Diese Kennzahl hilft dabei, die relativen Kosten für die Verwendung verschiedener Modelle aufzuzeigen und gibt einen Einblick in ihre Kosteneffizienz bei der Bearbeitung großer Mengen von Anfragen.

Eine einzelne Konversation kann mehrere Anfragen enthalten. Sie können die Daten in den obigen Diagrammen verwenden, um Ihre monatlichen KI-Ausgaben auf der Grundlage der Art Ihrer Konversationen grob zu schätzen.

Wie oft werden die Daten auf dieser Seite aktualisiert?

Obwohl die Informationen über die Nutzung von LLM in Botpress in Echtzeit erfasst werden, werden die Diagramme auf dieser Seite alle 48 Stunden aktualisiert.

Alle Systeme einsatzbereit

SOC 2

Zertifiziert

GDPR

Konform

© 2025

Plattform

Hub

Ressourcen

Gemeinschaft

Unternehmen

© Botpress 2025