Descubrir modelos

Número total de solicitudes tramitadas por modelo
Datos de los últimos 90 días
Número medio de fichas procesadas por segundo por modelo
Datos de los últimos 90 días
Coste medio por modelo en todas las solicitudes realizadas en 90 días
Datos de los últimos 90 días
Datos de los últimos 90 días
Solicitudes
El número total de solicitudes individuales realizadas a una LLM específica desde Botpress.
Velocidad
Media de tokens por segundo generados por un LLM específico cuando se realiza una solicitud desde Botpress.
Coste
Coste medio (USD) de 1.000 solicitudes realizadas a un individuo LLM de Botpress.
modelo_segundo
modelo_primero
xx fichas
Suma de todas las fichas procesadas en los últimos 90 días en Botpress.
cuente
salida_tokens_por_seg_media
$coste_medio

Preguntas frecuentes

¿Qué son las peticiones?
Una solicitud se refiere a una única interacción enviada a un gran modelo lingüístico (LLM) desde Botpress. Incluye los datos de entrada, los parámetros de configuración y cualquier contexto relevante necesario para que el modelo procese la solicitud y devuelva una respuesta. Cada solicitud representa una llamada a LLM, como generar texto, responder a una pregunta o realizar otras tareas.

Los datos de los gráficos anteriores muestran el número de solicitudes individuales realizadas a cada uno de los LLMs consultados por los usuarios desde Botpress.
¿A qué se refiere la velocidad?
‍La velocidad se refiere al número medio de tokens que un LLM genera por segundo al procesar una petición. Los tokens son unidades de texto, como palabras o partes de palabras, que el modelo lee o produce. Esta medida refleja el rendimiento de salida del modelo, indicando la rapidez con la que puede devolver una respuesta.

Los datos de los gráficos anteriores muestran una media del número total de tokens que un modelo genera por segundo al ser consultado desde Botpress.
¿A qué se refiere el coste?
El coste se refiere al precio medio en EE.UU. dollars para procesar 1.000 solicitudes a un LLM específico de Botpress. Esta métrica ayuda a demostrar el gasto relativo de utilizar diferentes modelos, proporcionando una visión de su rentabilidad cuando se gestionan grandes volúmenes de solicitudes.

Una sola conversación puede contener múltiples solicitudes. Puede utilizar los datos de los gráficos anteriores para hacer una estimación aproximada, basada en la naturaleza de sus conversaciones, de su gasto mensual en IA.
¿Con qué frecuencia se actualizan los datos de esta página?
Aunque la información sobre el uso de LLM en Botpress se recoge en tiempo real, los gráficos de esta página se actualizan cada 48 horas.