LLM Classificação Botpress

Dados dos últimos 90 dias

modelo_segundo

modelo_primeiro

contagem

média de tokens de saída por segundo

$cost_mean

FAQs

O que são pedidos?

Um pedido refere-se a uma única interação enviada a um modelo linguístico de grande dimensão (LLM) a partir de Botpress. Inclui os dados de entrada, os parâmetros de configuração e qualquer contexto relevante necessário para o modelo processar o pedido e devolver uma resposta. Cada pedido representa uma chamada para um LLM, tal como gerar texto, responder a uma pergunta ou executar outras tarefas.

Os dados nos gráficos acima mostram o número de pedidos individuais feitos a cada um dos LLMs consultados pelos utilizadores a partir de Botpress.

A que é que se refere a velocidade?

‍Speed refere-se ao número médio de tokens que um LLM gera por segundo ao processar um pedido. Os símbolos são unidades de texto, tais como palavras ou partes de palavras, que o modelo lê ou produz. Essa medida reflete o desempenho de saída do modelo, indicando a rapidez com que ele pode retornar uma resposta.

Os dados nos gráficos acima mostram uma média do número total de tokens que um modelo gera por segundo quando consultado em Botpress.

A que se refere o custo?

O custo refere-se ao preço médio em US dollars para processar 1.000 pedidos para um LLM específico a partir de Botpress. Esta métrica ajuda a demonstrar a despesa relativa da utilização de diferentes modelos, fornecendo informações sobre a sua eficiência de custos ao tratar grandes volumes de pedidos.

Uma única conversa pode conter vários pedidos. Pode utilizar os dados nos gráficos acima para fazer uma estimativa aproximada, com base na natureza das suas conversas, dos seus gastos mensais com IA.

Com que frequência são actualizados os dados desta página?

Embora a informação sobre a utilização do LLM em Botpress seja recolhida em tempo real, os gráficos desta página são actualizados a cada 48 horas.

Descobrir modelos

FAQs