웹사이트 또는 메시징 채널에 사용자 지정 OpenAI 어시스턴트를 배포하는 방법

고객 지원

기다리는 것을 좋아하는 사람은 아무도 없습니다. AI 어시스턴트는 즉각적인 응답을 제공하여 티켓 양을 줄이고 해결 시간을 개선합니다. 자주 묻는 질문을 처리하고, 문제를 해결하며, 필요한 경우 복잡한 문의를 인간 상담원에게 에스컬레이션합니다.

교육

AI 어시스턴트는 질문에 답하고, 개념을 설명하고, 실시간 피드백을 제공하여 학생들을 위한 온디맨드 튜터 역할을 할 수 있습니다. 플랫폼은 AI를 사용하여 대화형 수업과 퀴즈를 제공함으로써 학습에 더욱 몰입할 수 있도록 합니다.

헬스케어

환자는 증상, 진료 예약, 약물에 대한 정보에 빠르게 액세스할 수 있어야 합니다. AI 기반 비서가 진료 예약을 도와주고, 가이드라인 내에서 건강 관련 조언을 제공하며, 채팅 기반 상담을 통해 정신 건강 지원을 제공합니다.

영업 및 리드 생성

기술 기업의 경우, AI 챗봇은 제품 관련 질문에 답하고, 리드를 검증하고, 데모 일정을 잡는 등 영업 도우미 역할을 합니다. 또한 소프트웨어 문제를 해결하고 기능을 안내하여 기존 사용자를 지원하기도 합니다.

1. OpenAI 직접 빌드

OpenAI 이전에 어시스턴트 API를 도입했지만 2024년 4월 현재 개발이 중단된 상태이며 명확한 로드맵 없이 베타 버전으로 남아 있습니다. 대신 OpenAI 다음 분야로 초점을 전환했습니다. GPTs로 초점을 전환하여 사용자가 ChatGPT 플랫폼 내에서 맞춤형 AI 어시스턴트를 만들 수 있도록 했습니다.

그러나 GPTs 외부 웹사이트에 배포할 수 없으며 OpenAI에코시스템 내에만 머물러 있습니다. 사이트에 챗봇을 임베드하려면 OpenAI API를 사용하여 인터페이스를 구축해야 합니다.

2. 코드 없는 AI 어시스턴트 빌더 사용

많은 코딩 작업 없이 빠르고 확장 가능한 솔루션을 원하는 분들을 위해 노코드 AI 어시스턴트 플랫폼은 챗봇을 쉽게 배포할 수 있는 방법을 제공합니다. 이러한 플랫폼은 다음을 제공합니다:

• OpenAI 및 기타 AI 모델과의 통합이 미리 구축되어 있습니다.
• 웹사이트, 메시징 앱, 고객 지원 도구에 멀티채널을 배포하세요.
• 사용자 상호작용, 메모리, 자동화를 관리할 수 있는 워크플로우가 기본 제공됩니다.

몇 가지 예로는 Botpress, Voiceflow , Chatbot.com 등이 있습니다. 이러한 도구는 심층적인 개발 작업 없이도 기능적인 AI 챗봇이 필요한 비즈니스에 이상적입니다.

3. 처음부터 맞춤형 AI 어시스턴트 구축

개발자는 완전한 제어를 위해 OpenAIAPI를 LangChain, 벡터 데이터베이스, 사용자 정의 UI 구성 요소와 같은 AI 에이전트 프레임워크와 통합할 수 있습니다. 이를 통해 다음과 같은 고급 기능을 사용할 수 있습니다:

• 개인화된 응답을 위한 검색 증강 생성(RAG) 을 지원합니다.
• 데이터베이스, CRM 및 내부 도구와의 사용자 지정 통합.
• OpenAI기본 기능을 뛰어넘는 고급 메모리 처리.

이 방법은 학습 곡선이 있지만 개발 팀에 아웃소싱할 수 있는 경우가 많습니다.

‍

각 옵션에는 장단점이 있지만, 웹사이트에 완전히 내장된 AI 어시스턴트를 원한다면 OpenAIAPI 또는 코드가 없는 AI 어시스턴트 빌더를 사용하는 것이 좋습니다.

이제 OpenAI 어시스턴트를 빌드하고 배포하는 방법을 단계별로 살펴보겠습니다.

1단계: 프로젝트 설정

Botpress 새 프로젝트를 만듭니다. 로그인한 후 '처음부터 시작'을 선택하여 완전한 사용자 정의와 유연성을 확보하세요.

2단계: 명확한 지침 작성

챗봇이 사용자와 상호작용하는 방식과 정보에 대한 다음과 같은 측면을 변경할 수 있는 기회로 삼으세요.

1. Studio에서 '지침' 섹션을 엽니다.
2. 어시스턴트의 작동 방식을 정의하세요:

• 어조와 형식 - 형식적일까요, 캐주얼할까요, 간결할까요, 상세할까요?
• 지식 액세스 - 어떤 도구, API 또는 데이터 소스를 사용해야 하나요?
• 금지된 행동 - 어떤 응답을 피해야 하나요?

3. 지침을 저장하여 챗봇에 적용하세요.

3단계: AI 어시스턴트를 위한 OpenAI 모델 선택하기

Botpress Studio를 사용하면 필요에 따라 다양한 OpenAI 모델 중에서 선택할 수 있습니다:

1. 메인 메뉴에서 봇 설정을 엽니다.
2. 아래로 스크롤하여 LLM 옵션으로 이동합니다.
3. 필요에 따라 GPT 모델을 선택합니다(예: 속도 및 비용 효율성을 위한 GPT 미니).

모델마다 비용, 속도, 응답 품질 간에 다양한 절충점을 제공하므로 필요에 맞는 모델을 선택하세요. Botpress LLM 제공업체 가격 외에 추가 수수료를 부과하지 않습니다. 여기에서GPT 모델 가격을 확인하세요.

4단계: 지식창고 추가하기

AI 어시스턴트를 효과적으로 사용하려면 PDF 문서, 웹사이트 URL 또는 API와 같은 관련 외부 지식에 연결하세요. 방법은 다음과 같습니다:

1. 메뉴에서 '지식창고' 섹션으로 이동합니다.
2. 문서를 업로드하거나 웹사이트의 URL을 소스로 추가하세요.
3. 그런 다음 플랫폼은 콘텐츠를 자동으로 색인화하여 검색 가능한 작은 지식 덩어리로 세분화해야 합니다.

이렇게 하면 어시스턴트가 사용자에게 응답할 때 정확한 최신 정보를 가져올 수 있습니다.

5단계: 챗봇 배포

어시스턴트 구성이 완료되면 이제 웹사이트에 게시하고 임베드할 차례입니다:

1. 오른쪽 상단의 '게시'를 클릭합니다.
2. ' Webchat 사용자 지정' 으로 이동한 다음 '공유'를 선택합니다.

1. 임베드 코드를 복사하여 웹사이트의 HTML에 붙여넣습니다.

이제 OpenAI 어시스턴트가 실행되어 실시간으로 사용자를 지원할 준비가 되었습니다.

1. 다양한 모델 오퍼링으로 실험하기

모든 AI 모델이 다른 작업에서 동일한 성능을 발휘하는 것은 아닙니다. 토큰 사용량, 사용자 경험, 비용 효율성의 균형을 맞추기 위해 다양한 옵션을 시도해 보세요:

• 보다 비용 효율적인 모델로 전환 - 어시스턴트가 주로 기본 쿼리를 처리하는 경우 GPT 대신 DeepSeek-V3와 같은 저렴한 대화형 모델을 사용하는 것을 고려하세요.
• 복잡한 작업에 추론에 최적화된 모델 사용 - 다음과 같은 모델 사용 OpenAI o1 또는 o3와 같은 모델은 어시스턴트가 고급 추론이나 긴 맥락 이해가 필요한 경우 더 나은 논리적 처리를 제공합니다.

2. 자율 노드 및 AI 전환으로 워크플로우 향상

단일 프롬프트 응답 설정은 AI가 할 수 있는 일을 제한합니다. 대신 어시스턴트의 워크플로우를 다음과 같이 심화하세요:

• 자율 노드를 사용하여 AI가 수동 트리거 없이 다단계 상호작용을 처리할 수 있도록 합니다.
• 사용자 입력에 따라 동적으로 대화를 안내하는 AI 전환을 구현합니다.
• 도구 액세스 및 API를 통합하여 실시간 데이터를 가져오고 응답을 개선합니다.

3. AI 지출 및 토큰 사용 최적화

• AI 사용 추세를 모니터링하여 토큰이 비효율적으로 사용되는 위치를 파악하세요.
• 응답 길이와 장황함을 조정하여 명확성을 잃지 않으면서 토큰 소비를 줄이세요.
• 캐싱 또는 메모리 기능을 구현하여 반복적인 쿼리에 대한 중복 API 호출을 방지하세요.

이러한 요소를 미세 조정하면 비용을 절감하고 사용자 경험을 개선하며 시간이 지남에 따라 OpenAI 어시스턴트를 더욱 스마트하게 만들 수 있습니다.