Clasificación de LLM | ¿Cómo rinden los diferentes modelos en Botpress?

Datos de los últimos 90 días

model_second

model_first

cantidad

promedio_tokens_salida_por_segundo

$costo_promedio

Preguntas frecuentes

¿Qué son las solicitudes?

Una solicitud es una interacción individual enviada a un modelo de lenguaje grande (LLM) desde Botpress. Incluye los datos de entrada, parámetros de configuración y cualquier contexto relevante necesario para que el modelo procese la solicitud y devuelva una respuesta. Cada solicitud representa una llamada a un LLM, como generar texto, responder una pregunta u otras tareas.

Los datos en los gráficos anteriores muestran la cantidad de solicitudes individuales hechas a cada uno de los LLM consultados por los usuarios desde Botpress.

¿A qué se refiere la velocidad?

‍Velocidad se refiere al número promedio de tokens que un LLM genera por segundo al procesar una solicitud. Los tokens son unidades de texto, como palabras o partes de palabras, que el modelo lee o produce. Esta medida refleja el rendimiento de salida del modelo, indicando qué tan rápido puede devolver una respuesta.

Los datos en los gráficos anteriores muestran el promedio del número total de tokens que un modelo genera por segundo cuando se consulta desde Botpress.

¿A qué se refiere el costo?

Costo se refiere al precio promedio en dólares estadounidenses para procesar 1,000 solicitudes a un LLM específico desde Botpress. Esta métrica ayuda a mostrar el gasto relativo de usar diferentes modelos, brindando información sobre su eficiencia de costos al manejar grandes volúmenes de solicitudes.

Una sola conversación puede contener varias solicitudes. Puedes usar los datos en los gráficos anteriores para estimar, según la naturaleza de tus conversaciones, tu gasto mensual en IA.

¿Con qué frecuencia se actualizan los datos de esta página?

Aunque la información sobre el uso de LLM en Botpress se recopila en tiempo real, los gráficos de esta página se actualizan cada 48 horas.

Descubre modelos

Preguntas frecuentes