LLM Classement | Quelles sont les performances des différents modèles sur Botpress?

Données des 90 derniers jours

modèle_seconde

modèle_premier

compter

output_tokens_per_sec_mean

Moyenne du coût

FAQ

Qu'est-ce qu'une demande ?

Une demande fait référence à une interaction unique envoyée à un grand modèle de langage (LLM) à partir de Botpress. Elle comprend les données d'entrée, les paramètres de configuration et tout contexte pertinent nécessaire pour que le modèle traite la demande et renvoie une réponse. Chaque demande représente un appel à LLM, tel que la génération de texte, la réponse à une question ou l'exécution d'autres tâches.

Les données figurant dans les graphiques ci-dessus indiquent le nombre de demandes individuelles adressées à chacun des LLMs interrogés par les utilisateurs à partir de Botpress.

À quoi la vitesse fait-elle référence ?

‍La vitesse fait référence au nombre moyen de jetons qu'un site LLM génère par seconde lors du traitement d'une requête. Les jetons sont des unités de texte, telles que des mots ou des parties de mots, que le modèle lit ou produit. Cette mesure reflète les performances de sortie du modèle, indiquant la rapidité avec laquelle il peut renvoyer une réponse.

Les données des graphiques ci-dessus montrent une moyenne du nombre total de jetons qu'un modèle génère par seconde lorsqu'il est interrogé à partir de Botpress.

À quoi se réfère le coût ?

Le coût correspond au prix moyen en dollars américains dollars pour le traitement de 1 000 demandes adressées à un site spécifique LLM à partir de Botpress. Cette mesure permet de démontrer les dépenses relatives liées à l'utilisation de différents modèles, en donnant un aperçu de leur rentabilité lors du traitement de gros volumes de demandes.

Une seule conversation peut contenir plusieurs demandes. Vous pouvez utiliser les données des graphiques ci-dessus pour estimer approximativement, en fonction de la nature de vos conversations, vos dépenses mensuelles en matière d'IA.

À quelle fréquence les données de cette page sont-elles mises à jour ?

Bien que les informations sur l'utilisation de LLM à Botpress soient collectées en temps réel, les graphiques de cette page sont mis à jour toutes les 48 heures.

Découvrir les modèles

FAQ