Bir istek, Botpress adresinden büyük bir dil modeline (LLM) gönderilen tek bir etkileşimi ifade eder. Giriş verilerini, yapılandırma parametrelerini ve modelin isteği işlemesi ve bir yanıt döndürmesi için gereken ilgili bağlamı içerir. Her bir istek, metin oluşturma, bir soruyu yanıtlama veya diğer görevleri yerine getirme gibi bir LLM çağrısını temsil eder.
Yukarıdaki grafiklerde yer alan veriler, Botpress adresinden kullanıcılar tarafından sorgulanan LLMs adreslerinin her birine yapılan bireysel isteklerin sayısını göstermektedir.
Hız ne anlama geliyor?
Hız, bir LLM 'un bir isteği işlerken saniyede ürettiği ortalama belirteç sayısını ifade eder. Belirteçler, modelin okuduğu veya ürettiği sözcükler veya sözcük parçaları gibi metin birimleridir. Bu ölçüm, modelin çıktı performansını yansıtır ve ne kadar hızlı yanıt döndürebildiğini gösterir.
Yukarıdaki grafiklerde yer alan veriler, Botpress adresinden sorgulandığında bir modelin saniyede ürettiği toplam belirteç sayısının ortalamasını göstermektedir.
Maliyet ne anlama geliyor?
Maliyet, Botpress adresinden belirli bir LLM adresine gelen 1.000 talebin işlenmesi için ABD dollars cinsinden ortalama fiyatı ifade eder. Bu metrik, farklı modelleri kullanmanın göreceli masrafını göstermeye yardımcı olarak büyük hacimli talepleri ele alırken maliyet verimlilikleri hakkında fikir verir.
Tek bir görüşme birden fazla talep içerebilir. Yukarıdaki tablolarda yer alan verileri, görüşmelerinizin niteliğine bağlı olarak aylık yapay zeka harcamalarınızı kabaca tahmin etmek için kullanabilirsiniz.
Bu sayfadaki veriler ne sıklıkla güncelleniyor?
Botpress adresindeki LLM kullanımına ilişkin bilgiler gerçek zamanlı olarak toplansa da, bu sayfadaki grafikler her 48 saatte bir güncellenmektedir.
.png)
