LLM Clasificación | ¿Cómo se comportan los distintos modelos en Botpress?

Datos de los últimos 90 días

modelo_segundo

modelo_primero

cuente

salida_tokens_por_seg_media

$coste_medio

Preguntas frecuentes

¿Qué son las peticiones?

Una solicitud se refiere a una única interacción enviada a un gran modelo lingüístico (LLM) desde Botpress. Incluye los datos de entrada, los parámetros de configuración y cualquier contexto relevante necesario para que el modelo procese la solicitud y devuelva una respuesta. Cada solicitud representa una llamada a LLM, como generar texto, responder a una pregunta o realizar otras tareas.

Los datos de los gráficos anteriores muestran el número de solicitudes individuales realizadas a cada uno de los LLMs consultados por los usuarios desde Botpress.

¿A qué se refiere la velocidad?

‍La velocidad se refiere al número medio de tokens que un LLM genera por segundo al procesar una petición. Los tokens son unidades de texto, como palabras o partes de palabras, que el modelo lee o produce. Esta medida refleja el rendimiento de salida del modelo, indicando la rapidez con la que puede devolver una respuesta.

Los datos de los gráficos anteriores muestran una media del número total de tokens que un modelo genera por segundo al ser consultado desde Botpress.

¿A qué se refiere el coste?

El coste se refiere al precio medio en EE.UU. dollars para procesar 1.000 solicitudes a un LLM específico de Botpress. Esta métrica ayuda a demostrar el gasto relativo de utilizar diferentes modelos, proporcionando una visión de su rentabilidad cuando se gestionan grandes volúmenes de solicitudes.

Una sola conversación puede contener múltiples solicitudes. Puede utilizar los datos de los gráficos anteriores para hacer una estimación aproximada, basada en la naturaleza de sus conversaciones, de su gasto mensual en IA.

¿Con qué frecuencia se actualizan los datos de esta página?

Aunque la información sobre el uso de LLM en Botpress se recoge en tiempo real, los gráficos de esta página se actualizan cada 48 horas.

Descubrir modelos

Preguntas frecuentes