LLM-Ranking | Wie schneiden verschiedene Modelle bei Botpress ab?

Daten der letzten 90 Tage

modell_zweiter

modell_erster

Anzahl

durchschnittliche_Ausgabe_Token_pro_Sekunde

$cost_mean

FAQs

Was sind Anfragen?

Eine Anfrage bezeichnet eine einzelne Interaktion, die von Botpress an ein großes Sprachmodell (LLM) gesendet wird. Sie umfasst die Eingabedaten, Konfigurationsparameter und alle relevanten Kontexte, die das Modell benötigt, um die Anfrage zu verarbeiten und eine Antwort zu liefern. Jede Anfrage entspricht einem Aufruf an ein LLM, zum Beispiel zur Textgenerierung, Beantwortung einer Frage oder für andere Aufgaben.

Die Daten in den obigen Diagrammen zeigen die Anzahl der individuellen Anfragen, die von Botpress-Nutzern an die jeweiligen LLMs gestellt wurden.

Was bedeutet Geschwindigkeit?

‍Geschwindigkeit bezeichnet die durchschnittliche Anzahl an Tokens, die ein LLM pro Sekunde bei der Verarbeitung einer Anfrage generiert. Tokens sind Texteinheiten, wie Wörter oder Wortteile, die das Modell liest oder erzeugt. Diese Messung gibt die Leistungsfähigkeit des Modells an und zeigt, wie schnell es eine Antwort liefern kann.

Die Daten in den obigen Diagrammen zeigen den Durchschnitt der Gesamtanzahl an Tokens, die ein Modell pro Sekunde generiert, wenn es von Botpress abgefragt wird.

Was bedeutet Kosten?

Kosten bezieht sich auf den durchschnittlichen Preis in US-Dollar für die Verarbeitung von 1.000 Anfragen an ein bestimmtes LLM über Botpress. Dieser Wert hilft, die Kostenunterschiede zwischen den Modellen zu verstehen und gibt Aufschluss über deren Kosteneffizienz bei hohem Anfragevolumen.

Ein einzelnes Gespräch kann mehrere Anfragen enthalten. Mithilfe der Daten in den obigen Diagrammen können Sie – je nach Art Ihrer Gespräche – Ihre monatlichen KI-Ausgaben grob abschätzen.

Wie oft werden die Daten auf dieser Seite aktualisiert?

Obwohl die LLM-Nutzungsdaten in Botpress in Echtzeit erfasst werden, werden die Diagramme auf dieser Seite alle 48 Stunden aktualisiert.

Modelle entdecken

FAQs