LLM Ranking | Wie schneiden die verschiedenen Modelle auf Botpress ab?

Daten aus den letzten 90 Tagen

modell_sekunde

model_first

zählen

output_tokens_per_sec_mean

$cost_mean

FAQs

Was sind Anträge?

Eine Anfrage bezieht sich auf eine einzelne Interaktion, die von Botpress an ein großes Sprachmodell (LLM) gesendet wird. Sie umfasst die Eingabedaten, Konfigurationsparameter und jeden relevanten Kontext, den das Modell benötigt, um die Anfrage zu verarbeiten und eine Antwort zu liefern. Jede Anfrage stellt einen Aufruf an ein LLM dar, wie z. B. die Generierung von Text, die Beantwortung einer Frage oder die Durchführung anderer Aufgaben.

Die Daten in den obigen Diagrammen zeigen die Anzahl der einzelnen Anfragen, die von Nutzern von Botpress an jedes der LLMs gestellt wurden.

Worauf bezieht sich die Geschwindigkeit?

‍Speed bezieht sich auf die durchschnittliche Anzahl von Token, die ein LLM bei der Bearbeitung einer Anfrage pro Sekunde erzeugt. Token sind Texteinheiten wie Wörter oder Teile von Wörtern, die das Modell liest oder erzeugt. Diese Messung spiegelt die Ausgabeleistung des Modells wider und gibt an, wie schnell es eine Antwort zurückgeben kann.

Die Daten in den obigen Diagrammen zeigen einen Durchschnitt der Gesamtzahl der Token, die ein Modell pro Sekunde erzeugt, wenn es von Botpress abgefragt wird.

Worauf beziehen sich die Kosten?

Die Kosten beziehen sich auf den durchschnittlichen Preis in den USA ( dollars ) für die Bearbeitung von 1.000 Anfragen an ein bestimmtes LLM von Botpress. Diese Kennzahl hilft dabei, die relativen Kosten für die Verwendung verschiedener Modelle aufzuzeigen und gibt einen Einblick in ihre Kosteneffizienz bei der Bearbeitung großer Mengen von Anfragen.

Eine einzelne Konversation kann mehrere Anfragen enthalten. Sie können die Daten in den obigen Diagrammen verwenden, um Ihre monatlichen KI-Ausgaben auf der Grundlage der Art Ihrer Konversationen grob zu schätzen.

Wie oft werden die Daten auf dieser Seite aktualisiert?

Obwohl die Informationen über die Nutzung von LLM in Botpress in Echtzeit erfasst werden, werden die Diagramme auf dieser Seite alle 48 Stunden aktualisiert.

Modelle entdecken

FAQs