このレッスンでは
AI支出は、応答の生成や自然言語入力の処理などのタスクで使用される大規模言語モデル(LLMs)のボットの使用に割り当てられた予算を指します。AIを含むボットが実行する各アクションはトークンを消費し、これらのトークンはモデルプロバイダーによって設定された関連コストを持っています。
Botpress つまり、モデル・プロバイダーと直接取引した場合とまったく同じ価格で、同じ数のトークンを手に入れることができるのです。
ボットの構築とプロトタイピングを適切に開始できるように、AI使用量に対して毎月5ドルのクレジットを無料で提供しています。あなたのボットがこのクレジットを超えた場合、中断のないサービスを維持するためにAI Spendの上限を増やす必要があります。この上限は、ワークスペースのダッシュボードでAI Spendの上限を増やすことで調整できます。ペイ・アズ・ユー・ゴー・プランのAIスペンドは現在100ドルを超えることはできません。
AIの使用量をモニタリングすることは、効率的に予算を組み、割り当てられたリソース内でボットを運用するために重要です。ボットを構築する際、イベントデバッガにはトークン消費に関する詳細な情報がアクション別に記録されています。ボットが稼動したら、プロダクションログをチェックしてトークンの消費量をより正確に把握できます。ボットの「アナリティクス」タブには、LLM パフォーマンス、コスト、トークン消費に関する詳細情報もあります。
概要
AI Spendは、LLM-poweredアクションのトークン使用量を管理・追跡するために使用されます。
このコースの全レッスン