In dieser Lektion

KI-Ausgaben beziehen sich auf das Budget, das Ihrem Bot für die Verwendung von großen Sprachmodellen (LLMs) zugewiesen wird, die für Aufgaben wie die Generierung von Antworten und die Verarbeitung von Eingaben in natürlicher Sprache verwendet werden. Jede Aktion Ihres Bots, bei der KI zum Einsatz kommt, verbraucht Token, und diese Token sind mit Kosten verbunden, die von den Modellanbietern festgelegt werden.

Botpress gibt diese Kosten ohne Aufschlag direkt an Sie weiter. Das bedeutet, dass Sie für die gleiche Anzahl von Token genau den gleichen Preis erhalten, als wenn Sie direkt mit einem Modellanbieter arbeiten würden.

Um sicherzustellen, dass Sie mit der Entwicklung und dem Prorotyping richtig beginnen können, bieten wir Ihnen ein kostenloses monatliches Guthaben von $5 für AI Spend. Wenn Ihr Bot dieses Guthaben überschreitet, müssen Sie Ihr KI-Ausgabenlimit erhöhen, um einen unterbrechungsfreien Service zu gewährleisten. Sie können dieses Limit anpassen, indem Sie Ihr AI Spend Limit in Ihrem Workspace Dashboard erhöhen. Die KI-Ausgaben für Pay-as-you-go-Tarife können derzeit 100 $ nicht überschreiten. Wenn Sie einen höheren Betrag benötigen, können Sie sich über unsere Website mit uns in Verbindung setzen.

Die Überwachung Ihrer KI-Ausgaben ist wichtig für eine effiziente Budgetierung und um sicherzustellen, dass Ihr Bot innerhalb der ihm zugewiesenen Ressourcen arbeitet. Bei der Erstellung Ihres Bots bietet der Event-Debugger detaillierte Informationen zum Token-Verbrauch, aufgeschlüsselt nach Aktionen. Sobald Ihr Bot live ist, können Sie Ihre Produktionsprotokolle überprüfen, um den Token-Verbrauch besser zu verstehen. Auf der Registerkarte Analytics" für Ihren Bot finden Sie außerdem detaillierte Informationen zu Leistung, Kosten und Token-Verbrauch von LLM .

Zusammenfassung
AI Spend dient der Verwaltung und Verfolgung der Token-Nutzung für LLM-gestützte Aktionen.
alle Lektionen dieses Kurses