이 계산기를 사용하여 봇의 AI 지출을 추정하세요.
봇이 한 달에 얼마나 많은 대화를 할 수 있나요?
대화당 평균 기술 자료 쿼리 수는 몇 개입니까?
봇이 주로 지식창고에 어떤 LLM 을 사용하나요?
대화당 평균 AI 작업 수는 얼마인가요?
무엇 LLM 봇이 주로 AI 작업에 사용하나요?
* 월별 AI 지출에 대한 정확한 추정치를 제공하기 위해 최선을 다하고 있지만, 챗봇 생성, 동작 및 상호 작용의 변동성을 감안할 때 봇의 월간 AI 지출을 예측하는 가장 정확한 방법은 실제 사용량을 기반으로 AI 지출을 추정하는 것입니다.
이 특정 비용 계산에는 기술 자료 에이전트를 제외한 다른 에이전트가 활성화되지 않고, KB가 .5MB보다 크고, 웹을 KB 데이터 원본으로 검색하지 않으며, KB 청크 양이 50개 청크로 설정되고, 캐싱 속도가 25%라는 가정이 고려되었습니다.
AI 기능이 필요한 모든 작업은 AI 토큰을 사용하며, 에뮬레이터에서 빌드하고 테스트하는 동안 봇과의 대화와 스튜디오 모두에 적용할 수 있습니다.
몇 가지 예를 들면 다음과 같습니다.
• 기술 자료 답변
• 성격 에이전트 재작성
• 번역기 에이전트 언어 식별 및 메시지 번역
• 요약 상담원 대화 요약
• AI 태스크, AI 전환 및 AI 생성 텍스트 카드
• 코드 실행 카드의 generative AI 코드 어시스트
• 캡처 카드
• 테이블 열을 검색 가능하게 만들기
• 사용자 문장을 벡터로 변환
봇 구축의 많은 부분과 마찬가지로 답은 상황에 따라 다릅니다. 웹사이트 페이지가 작고(예를 들어 벡터 DB 스토리지에서 0.87MB 미만을 차지함) 지식 에이전트가 주로 GPT-3.5를 사용하는 경우에는 일반적으로 웹 검색을 사용하는 것보다 웹사이트가 AI 지출을 더 적게 소비합니다.
웹사이트 KB 소스가 크거나 지식 에이전트가 주로 GPT-4를 사용하는 경우에는 일반적으로 웹 검색이 AI 지출을 더 적게 소비합니다.
AI 지출은 메시지별로 계산되지 않으며, AI 토큰을 소비하는 모든 행동에 의해 발생합니다. 일반적으로 메시지는 AI 토큰을 소비하는 액션을 트리거하지만 모든 메시지가 AI 지출을 발생시키는 것은 아닙니다.
아직 궁금한 점이 있으신가요? 문의해 주세요!