この計算機を使用して、ボットのAI支出を見積もる。
あなたのボットは月に何回会話をしますか?
1会話あたりのナレッジベース・クエリの平均数は?
あなたのボットは、ナレッジベースに主にどのようなLLM 。
会話ごとのAIタスクの平均数は?
あなたのボットは、AIタスクに主にどのようなLLM 。
* チャットボットの作成、動作、およびインタラクションにはばらつきがあるため、お客様のボットの毎月のAI支出を予測する最も正確な方法は、実際の使用に基づいてAI支出を推定することです。
この具体的なコスト計算では、以下の仮定を考慮しました:ナレッジベースエージェントを有効にしている以外は他のエージェントを使用しない、KBは0.5MBより大きい、KBデータソースとしてSearch the Webを使用しない、KBチャンキング量は50チャンクに設定、キャッシュ率は25%。
AI 機能を必要とするアクションはすべて、AI トークンを消費します。これは、ボットとの会話でも、エミュレータでのビルドやテスト中のスタジオでも適用できます。
以下はその例です:
- ナレッジベースの回答
- パーソナリティエージェントの書き換え
- トランスレータエージェントの言語識別とメッセージ翻訳
- サマリーエージェントの会話要約
- AIタスク、AIトランジション、AIテキスト生成カード
- コードカードの実行generative AI コードアシスト
- キャプチャカード
- テーブルカラムの検索可能化
- ユーザーセンテンスのベクトル変換
ボット構築の多くがそうであるように、答えは「場合による」です。Web サイトのページが小さく (たとえば、ベクター DB ストレージで .87 MB 未満)、ナレッジ エージェントが主に GPT-3.5 を使用している場合、Web サイトでは通常、Search The Web を使用するよりも AI 支出が少なくなります。
Web サイトの KB ソースが大きい場合、またはナレッジ エージェントが主に GPT-4 を使用している場合、Search The Web は一般的に AI 支出を消費しません。
AI Spendはメッセージごとに計算されるのではなく、AIトークンを消費するアクションによって発生します。通常、メッセージはAIトークンを消費するアクションの引き金になりますが、すべてのメッセージでAI Spendが発生するわけではありません。
まだ質問がありますか?ご連絡ください!