W tej lekcji

Wydatki na sztuczną inteligencję odnoszą się do budżetu przydzielonego na wykorzystanie przez bota dużych modeli językowych (LLMs), które są wykorzystywane w zadaniach takich jak generowanie odpowiedzi i przetwarzanie danych wejściowych w języku naturalnym. Każda czynność wykonywana przez bota, która wiąże się ze sztuczną inteligencją, zużywa tokeny, a te tokeny mają powiązane koszty określone przez dostawców modeli.

Botpress przenosi te koszty bezpośrednio na Ciebie bez żadnych marż, co oznacza, że otrzymujesz dokładnie taką samą cenę za tę samą liczbę tokenów, gdybyś współpracował bezpośrednio z dostawcą modelu.

Aby upewnić się, że możesz prawidłowo rozpocząć tworzenie i prorotypowanie, zapewniamy bezpłatny miesięczny kredyt w wysokości 5 USD na AI Spend. Jeśli twój bot przekroczy ten kredyt, będziesz musiał zwiększyć swój limit AI Spend, aby utrzymać nieprzerwaną usługę. Możesz dostosować ten limit, zwiększając limit wydatków na sztuczną inteligencję na pulpicie nawigacyjnym obszaru roboczego. Wydatki na AI w planach płatności zgodnie z rzeczywistym użyciem nie mogą obecnie przekraczać 100 USD - jeśli potrzebujesz wyższej kwoty, skontaktuj się z nami za pośrednictwem naszej strony internetowej.

Monitorowanie wydatków na sztuczną inteligencję jest ważne dla efektywnego budżetowania i zapewnienia, że bot działa w ramach przydzielonych zasobów. Podczas tworzenia bota debuger zdarzeń zawiera szczegółowe informacje o zużyciu tokenów w podziale na akcje. Po uruchomieniu bota można sprawdzić dzienniki produkcyjne, aby lepiej zrozumieć zużycie tokenów. Zakładka Analytics dla bota zawiera również szczegółowe informacje o wydajności, kosztach i zużyciu tokenów na stronie LLM .

Podsumowanie
AI Spend służy do zarządzania i śledzenia wykorzystania tokenów do działań wspieranych przez LLM.
wszystkie lekcje w tym kursie