LLM Rangschikking | Hoe presteren de verschillende modellen op Botpress?

Modellen ontdekken

Totaal aantal verwerkte verzoeken per model

Gegevens van de afgelopen 90 dagen

Gemiddeld aantal verwerkte tokens per seconde per model

Gegevens van de afgelopen 90 dagen

Gemiddelde kosten per model voor alle aanvragen die langer dan 90 dagen zijn gedaan

Gegevens van de afgelopen 90 dagen

Gegevens van de afgelopen 90 dagen

gpt-4o-mini-2024-07-18

7,296,438

41.64

0.19

gpt-3.5-turbo-0125

1,554,148

29.50

0.32

gpt-4o-2024-08-06

1,353,461

21.87

11.15

gpt-4o-2024-11-20

998,338

52.89

16.48

models/gemini-2.0-flash

401,342

89.76

0.57

gpt-4.1-2025-04-14

315,012

42.84

18.19

gpt-4.1-mini-2025-04-14

220,725

39.08

1.14

deepseek-r1-distill-llama-70b

115,041

186.09

7.52

gpt-4o-2024-05-13

85,452

56.03

13.86

models/gemini-1.5-flash-002

52,945

74.97

0.23

gpt-4.1-nano-2025-04-14

47,908

51.95

0.37

llama3-8b-8192

30,682

210.23

0.03

gpt-4-turbo-2024-04-09

26,056

9.82

58.71

accounts/fireworks/models/deepseek-v3

20,387

33.04

4.64

claude-3-7-sonnet-20250219

18,827

29.24

20.96

models/gemini-1.5-flash-8b-001

13,010

75.31

0.08

llama-3.1-8b-instant

11,489

196.57

0.11

models/gemini-1.5-pro-002

10,433

34.16

6.01

claude-3-5-sonnet-20240620

10,359

39.12

11.33

llama-3.3-70b-versatile

9,707

118.87

1.72

claude-3-haiku-20240307

8,464

53.84

0.64

o3-mini-2025-01-31

6,901

80.80

4.09

claude-3-7-sonnet-reasoning-20250219

6,703

40.81

42.34

accounts/fireworks/models/deepseek-r1

5,759

69.70

17.26

gpt-4-1106-preview

5,438

32.94

18.19

claude-3-5-haiku-20241022

3,856

33.13

3.59

accounts/fireworks/models/deepseek-r1-basic

2,947

60.54

5.65

o3-2025-04-16

1,836

62.44

251.82

llama3.1-8b

1,771

247.30

0.16

claude-sonnet-4-20250514

1,408

32.48

38.07

accounts/fireworks/models/llama-v3p1-8b-instruct

1,268

90.82

0.50

accounts/fireworks/models/llama-v3p1-70b-instruct

980

37.42

8.48

o1-2024-12-17

922

67.85

80.23

gemma2-9b-it

815

162.65

0.36

llama3.3-70b

742

434.11

2.59

llama3-70b-8192

658

103.49

2.42

accounts/fireworks/models/mixtral-8x22b-instruct

506

62.88

14.30

accounts/fireworks/models/llama-v3p1-405b-instruct

265

29.43

30.39

claude-3-5-sonnet-20241022

191

40.13

12.84

o4-mini-2025-04-16

180

93.04

8.70

gpt-4-0613

5

26.20

43.55

FAQs

Wat zijn verzoeken?

Een verzoek verwijst naar een enkele interactie die naar een groot taalmodel (LLM) wordt gestuurd vanaf Botpress. Het bevat de invoergegevens, configuratieparameters en alle relevante context die het model nodig heeft om het verzoek te verwerken en een antwoord terug te sturen. Elk verzoek vertegenwoordigt één oproep aan een LLM, zoals het genereren van tekst, het beantwoorden van een vraag of het uitvoeren van andere taken.

De gegevens in de bovenstaande grafieken tonen het aantal individuele verzoeken aan elk van de LLMs die door gebruikers zijn opgevraagd vanaf Botpress.

Waar verwijst snelheid naar?

Snelheid verwijst naar het gemiddelde aantal tokens dat een LLM per seconde genereert bij het verwerken van een verzoek. Tokens zijn eenheden tekst, zoals woorden of delen van woorden, die het model leest of produceert. Deze meting weerspiegelt de uitvoerprestaties van het model en geeft aan hoe snel het een antwoord kan terugsturen.

De gegevens in de bovenstaande grafieken tonen een gemiddelde van het totale aantal tokens dat een model per seconde genereert bij een verzoek van Botpress.

Wat betekent kosten?

De kosten verwijzen naar de gemiddelde prijs in de VS dollars voor het verwerken van 1.000 verzoeken aan een specifieke LLM van Botpress. Deze metriek helpt de relatieve kosten van het gebruik van verschillende modellen aan te tonen en geeft inzicht in hun kostenefficiëntie bij het verwerken van grote hoeveelheden verzoeken.

Een enkele conversatie kan meerdere verzoeken bevatten. Je kunt de gegevens in bovenstaande grafieken gebruiken om, op basis van de aard van je conversaties, een ruwe schatting te maken van je maandelijkse AI-uitgaven.

Hoe vaak worden de gegevens op deze pagina bijgewerkt?

Hoewel informatie over het gebruik van LLM in Botpress in realtime wordt verzameld, worden de grafieken op deze pagina elke 48 uur bijgewerkt.

Alle systemen operationeel

SOC 2

Gecertificeerd

GDPR

Conform

© 2025

Platform

Hub

Bronnen

Gemeenschap

Bedrijf

© Botpress 2025