Gamitin ang calculator na ito upang tantyahin ang AI Spend ng iyong bot
Ilang pag-uusap ang magkakaroon ng iyong bot bawat buwan?
Ano ang average na bilang ng mga query sa Knowledge Base bawat pag-uusap?
Ano LLM Pangunahing ginagamit ba ng iyong bot ang mga Knowledge Base?
Ano ang average na bilang ng AI Tasks bawat pag-uusap?
Ano LLM pangunahing ginagamit ba ng iyong bot para sa AI Tasks?
*Bagaman ginagawa namin ang aming makakaya upang magbigay ng tumpak na pagtatantya ng iyong buwanang Paggastos sa AI, dahil sa pagkakaiba-iba sa paggawa, pag-uugali, at pakikipag-ugnayan ng chatbot, ang pinakatumpak na paraan upang mahulaan ang buwanang Paggastos sa AI ng iyong bot ay sa pamamagitan ng pag-extrapolate ng AI Spend batay sa aktwal na paggamit.
Isinaalang-alang ng partikular na pagkalkula ng gastos na ito ang mga sumusunod na pagpapalagay: walang ibang Ahente maliban sa Knowledge Base Agent na pinagana, KB ay mas malaki sa .5 MB, walang Maghanap sa Web bilang isang KB data source, KB chunking halaga na nakatakda sa 50 chunks, 25% caching rate .
Ang anumang pagkilos na nangangailangan ng mga kakayahan ng AI ay kumonsumo ng mga token ng AI, na naaangkop sa pakikipag-usap sa bot at sa Studio habang bumubuo at sumusubok sa Emulator.
Narito ang ilang halimbawa:
• Pagsagot sa Knowledge Base
• Nagre-rewrite ang Personality Agent
• Pagkilala sa wika ng Translator Agent at pagsasalin ng mensahe
• Buod Pagbubuod ng pag-uusap ng ahente
• AI Task, AI Transition, at AI Generate Text card
• Ipatupad ang generative AI code assist ng Code card
• Kumuha ng mga card
• Ginagawang nahahanap ang mga column ng Table
• Pagbabago ng mga pangungusap ng gumagamit sa isang vector
• Pag-index ng website
Tulad ng marami sa pagbuo ng bot, ang sagot ay depende ito. Kung maliit ang pahina ng Website (halimbawa, sumasakop ng mas mababa sa .87 MB sa vector DB storage) at pangunahing ginagamit ng iyong ahente ng kaalaman GPT -3.5, kung gayon ang Website ay karaniwang kumokonsumo ng mas kaunting AI Spend kaysa sa paggamit ng Search The Web.
Kung malaki ang source ng Website KB o pangunahing ginagamit ng ahente ng kaalaman GPT -4o, Ang Search The Web ay karaniwang kumokonsumo ng mas kaunting AI Spend.
Ang AI Spend ay hindi kinakalkula sa bawat mensahe; ito ay natamo ng anumang aksyon na kumonsumo ng mga token ng AI. Karaniwang nagti-trigger ang mga mensahe ng mga pagkilos na gumagamit ng mga AI token ngunit hindi lahat ng mensahe ay nagreresulta sa AI Spend.
May mga tanong pa ba? Makipag-ugnayan!