LLM Ranking | Botpress

Dane z ostatnich 90 dni

model_sekunda

model_first

liczyć

output_tokens_per_sec_mean

$cost_mean

Najczęściej zadawane pytania

Czym są prośby?

Żądanie odnosi się do pojedynczej interakcji wysłanej do dużego modelu językowego (LLM) z Botpress. Obejmuje ono dane wejściowe, parametry konfiguracyjne i wszelkie istotne konteksty potrzebne modelowi do przetworzenia żądania i zwrócenia odpowiedzi. Każde żądanie reprezentuje jedno wywołanie LLM, takie jak generowanie tekstu, odpowiadanie na pytanie lub wykonywanie innych zadań.

Dane na powyższych wykresach pokazują liczbę indywidualnych żądań skierowanych do każdego z LLMs zapytanych przez użytkowników z Botpress.

Do czego odnosi się prędkość?

‍Speed odnosi się do średniej liczby tokenów generowanych na sekundę przez stronę LLM podczas przetwarzania żądania. Tokeny to jednostki tekstu, takie jak słowa lub części słów, które model odczytuje lub tworzy. Pomiar ten odzwierciedla wydajność wyjściową modelu, wskazując, jak szybko może on zwrócić odpowiedź.

Dane na powyższych wykresach pokazują średnią całkowitej liczby tokenów generowanych przez model na sekundę podczas zapytania z Botpress.

Do czego odnosi się koszt?

Koszt odnosi się do średniej ceny w Stanach Zjednoczonych dollars za przetworzenie 1000 żądań do określonego LLM z Botpress. Ten wskaźnik pomaga wykazać względny koszt korzystania z różnych modeli, zapewniając wgląd w ich efektywność kosztową przy obsłudze dużej liczby żądań.

Pojedyncza rozmowa może zawierać wiele żądań. Możesz użyć danych na powyższych wykresach, aby z grubsza oszacować, w oparciu o charakter konwersacji, miesięczne wydatki na sztuczną inteligencję.

Jak często aktualizowane są dane na tej stronie?

Chociaż informacje o wykorzystaniu LLM w Botpress są zbierane w czasie rzeczywistym, wykresy na tej stronie są aktualizowane co 48 godzin.

Odkryj modele

Najczęściej zadawane pytania