Classement des LLM | Comment les différents modèles se comportent-ils sur Botpress ?

Données des 90 derniers jours

model_second

model_first

compte

moyenne_jetons_sortie_par_sec

$cost_mean

FAQ

Qu’est-ce qu’une requête ?

Une requête correspond à une interaction envoyée à un grand modèle de langage (LLM) depuis Botpress. Elle inclut les données d'entrée, les paramètres de configuration et tout contexte nécessaire pour que le modèle traite la requête et fournisse une réponse. Chaque requête représente un appel à un LLM, par exemple pour générer du texte, répondre à une question ou effectuer d'autres tâches.

Les données des graphiques ci-dessus indiquent le nombre de requêtes individuelles envoyées à chaque LLM interrogé par les utilisateurs depuis Botpress.

Que signifie la rapidité ?

‍Vitesse désigne le nombre moyen de jetons qu’un LLM génère par seconde lors du traitement d’une requête. Les jetons sont des unités de texte, comme des mots ou des fragments de mots, que le modèle lit ou produit. Cette mesure reflète la performance de sortie du modèle, indiquant la rapidité avec laquelle il peut fournir une réponse.

Les données dans les graphiques ci-dessus présentent la moyenne du nombre total de jetons générés par seconde par un modèle lorsqu’il est interrogé depuis Botpress ?

Que signifie le coût ?

Le coût correspond au prix moyen en dollars américains pour traiter 1 000 requêtes vers un LLM spécifique depuis Botpress. Cet indicateur permet d’évaluer le coût relatif de chaque modèle et d’estimer leur efficacité économique pour un grand volume de requêtes.

Une seule conversation peut contenir plusieurs requêtes. Vous pouvez utiliser les données des graphiques ci-dessus pour estimer, selon la nature de vos conversations, votre budget mensuel consacré à l’IA.

À quelle fréquence les données de cette page sont-elles mises à jour ?

Même si les informations sur l’utilisation des LLM dans Botpress sont collectées en temps réel, les graphiques de cette page sont actualisés toutes les 48 heures.

Découvrir les modèles

FAQ