Scoprire i modelli

Numero totale di richieste elaborate per modello

Dati degli ultimi 90 giorni

Numero medio di token elaborati al secondo per modello

Dati degli ultimi 90 giorni

Costo medio per modello su tutte le richieste effettuate nell'arco di 90 giorni

Dati degli ultimi 90 giorni

Dati degli ultimi 90 giorni

gpt-4o-mini-2024-07-18

41,368,017

45.65

0.18

gpt-4o-2024-11-20

2,309,603

45.27

15.99

gpt-4o-2024-05-13

378,622

47.77

18.91

claude-3-5-sonnet-20240620

193,999

39.51

14.87

deepseek-r1-distill-llama-70b

131,355

201.47

2.45

models/gemini-2.0-flash

116,549

102.15

0.39

claude-3-7-sonnet-20250219

82,725

36.49

13.80

models/gemini-1.5-flash-002

79,896

79.26

0.34

llama-3.2-3b-preview

62,530

213.88

0.04

models/gemini-1.5-flash-8b-001

57,614

104.64

0.07

claude-3-haiku-20240307

50,847

65.53

1.16

o3-mini-2025-01-31

38,595

94.04

7.62

llama3-8b-8192

37,330

47.11

0.05

llama-3.3-70b-versatile

33,339

87.66

2.21

accounts/fireworks/models/deepseek-v3

19,293

28.12

5.81

llama-3.2-1b-preview

14,605

170.65

0.04

accounts/fireworks/models/deepseek-r1

14,600

53.95

31.59

o1-2024-12-17

14,287

67.86

92.34

llama-3.1-8b-instant

14,235

156.83

0.15

gpt-4-1106-preview

10,295

26.89

19.65

models/gemini-1.5-pro-002

8,579

30.75

16.17

claude-3-7-sonnet-reasoning-20250219

7,650

47.23

32.87

llama3.1-8b

6,993

169.13

0.18

gemma2-9b-it

4,282

178.82

0.38

llama3-70b-8192

3,733

136.52

1.45

mixtral-8x7b-32768

2,958

296.39

1.51

llama-3.2-11b-vision-preview

2,464

161.88

0.50

llama-3.2-90b-vision-preview

2,447

94.71

2.64

accounts/fireworks/models/llama-v3p1-405b-instruct

2,019

26.70

15.38

claude-3-5-sonnet-20241022

1,913

36.44

27.58

accounts/fireworks/models/llama-v3p1-8b-instruct

1,281

72.13

2.14

accounts/fireworks/models/mixtral-8x7b-instruct

1,268

131.67

3.30

claude-3-5-haiku-20241022

882

30.27

7.52

llama-3.1-70b-versatile

518

69.50

2.62

accounts/fireworks/models/mixtral-8x22b-instruct

356

58.51

15.17

llama3.3-70b

314

263.75

1.45

accounts/fireworks/models/deepseek-r1-basic

169

62.90

4.68

accounts/fireworks/models/llama-v3p1-70b-instruct

123

58.36

2.17

accounts/fireworks/models/mythomax-l2-13b

82

6.09

0.21

llama3.1-70b

73

149.92

3.94

accounts/fireworks/models/firefunction-v2

9

22.44

0.80

gpt-4-0613

7

8.86

56.85

gpt-4-0125-preview

1

4.00

0.22

Domande frequenti

Cosa sono le richieste?

Una richiesta si riferisce a una singola interazione inviata a un modello linguistico di grandi dimensioni (LLM) da Botpress. Essa include i dati di input, i parametri di configurazione e qualsiasi contesto rilevante necessario al modello per elaborare la richiesta e restituire una risposta. Ogni richiesta rappresenta una chiamata a un LLM, come la generazione di testo, la risposta a una domanda o l'esecuzione di altri compiti.

I dati riportati nei grafici precedenti mostrano il numero di richieste individuali fatte a ciascuno dei LLMs interrogati dagli utenti da Botpress.

A cosa si riferisce la velocità?

‍La velocità si riferisce al numero medio di token generati da LLM al secondo durante l'elaborazione di una richiesta. I token sono unità di testo, come parole o parti di parole, che il modello legge o produce. Questa misura riflette le prestazioni di output del modello, indicando la velocità con cui è in grado di restituire una risposta.

I dati riportati nei grafici precedenti mostrano una media del numero totale di token che un modello genera al secondo quando viene interrogato da Botpress.

A cosa si riferisce il costo?

Il costo si riferisce al prezzo medio in USA dollars per l'elaborazione di 1.000 richieste a uno specifico LLM da Botpress. Questa metrica aiuta a dimostrare la spesa relativa dell'utilizzo di diversi modelli, fornendo indicazioni sulla loro efficienza in termini di costi quando si gestiscono grandi volumi di richieste.

Una singola conversazione può contenere più richieste. È possibile utilizzare i dati dei grafici precedenti per stimare approssimativamente, in base alla natura delle conversazioni, la spesa mensile per l'intelligenza artificiale.

Con quale frequenza vengono aggiornati i dati di questa pagina?

Sebbene le informazioni sull'utilizzo di LLM in Botpress siano raccolte in tempo reale, i grafici di questa pagina vengono aggiornati ogni 48 ore.

Tutti i sistemi sono operativi

SOC 2

Certificato

GDPR

Conforme

© 2025

Piattaforma

Hub

Risorse

Comunità

Azienda

© Botpress 2025