LLM Pagraranggo | Botpress

Data mula sa nakalipas na 90 araw

modelo_segundo

modelo_una

bilangin

output_tokens_per_sec_mean

$ cost_mean

Mga FAQ

Ano ang mga kahilingan?

Ang isang kahilingan ay tumutukoy sa isang pakikipag-ugnayan na ipinadala sa isang malaking modelo ng wika ( LLM ) mula sa Botpress . Kabilang dito ang data ng input, mga parameter ng configuration, at anumang nauugnay na konteksto na kailangan para maproseso ng modelo ang kahilingan at magbalik ng tugon. Ang bawat kahilingan ay kumakatawan sa isang tawag sa isang LLM , tulad ng pagbuo ng teksto, pagsagot sa isang tanong, o pagsasagawa ng iba pang mga gawain.

Ipinapakita ng data sa mga chart sa itaas ang bilang ng mga indibidwal na kahilingang ginawa sa bawat isa sa LLMs tinanong ng mga user mula sa Botpress .

Ano ang tinutukoy ng bilis?

Ang bilis ay tumutukoy sa average na bilang ng mga token an LLM bumubuo bawat segundo kapag nagpoproseso ng isang kahilingan. Ang mga token ay mga yunit ng teksto, tulad ng mga salita o bahagi ng mga salita, na binabasa o ginagawa ng modelo. Sinasalamin ng pagsukat na ito ang pagganap ng output ng modelo, na nagsasaad kung gaano kabilis ito makakapagbalik ng tugon.

Ang data sa mga chart sa itaas ay nagpapakita ng average ng kabuuang bilang ng mga token na nabubuo ng isang modelo bawat segundo kapag na-query mula sa Botpress .

Ano ang tinutukoy ng gastos?

Ang gastos ay tumutukoy sa average na presyo sa US dollars para sa pagproseso ng 1,000 kahilingan sa isang partikular LLM mula sa Botpress . Nakakatulong ang sukatang ito na ipakita ang kaugnay na gastos sa paggamit ng iba't ibang modelo, na nagbibigay ng insight sa kanilang kahusayan sa gastos kapag humahawak ng malalaking volume ng mga kahilingan.

Ang isang pag-uusap ay maaaring maglaman ng maraming kahilingan. Maaari mong gamitin ang data sa mga chart sa itaas para halos tantiyahin, batay sa likas na katangian ng iyong mga pag-uusap, ang iyong buwanang paggastos sa AI.

Gaano kadalas ina-update ang data sa page na ito?

Kahit na impormasyon sa LLM paggamit sa Botpress ay kinokolekta sa real-time, ang mga chart sa page na ito ay ina-update tuwing 48 oras.

Tumuklas ng mga modelo

Mga FAQ