회사에 메시지를 보냈는데 '적합한' 담당자의 답변을 기다리면서 끝없이 돌아다니는 듯한 느낌을 받은 적이 있으신가요? 답답하지 않나요?
이제 모든 쿼리가 해당 작업을 위해 특별히 구축된 AI 에이전트에 의해 즉시 처리되어 앞뒤 가리지 않고 필요한 정보를 정확하게 제공한다고 상상해 보세요.
이것이 바로 AI 상담원 라우팅의 힘입니다. 지원, 스케줄링, 온보딩 등 특정 워크플로우를 위한 AI 상담원을 구축하면 모든 대화가 적합한 전문 상담원이 즉시 처리하는 시스템을 만들 수 있습니다. 의도와 일치하는 추측이 필요 없습니다. 정확성만 있으면 됩니다.
첫 번째 시나리오는 너무 익숙하게 느껴지지만, 두 번째 시나리오는 공상 과학 소설이 아닌 AI 에이전트 라우팅의 힘입니다. 이를 세분화하여 기존 인텐트 분류기 기반 시스템에 비해 왜 AI 에이전트 라우팅이 획기적인지 살펴보겠습니다.
AI 에이전트 라우팅이란 무엇인가요?
간단히 말해, AI 에이전트 라우팅은 다중 에이전트 환경에서 쿼리의 성격에 따라 사용자 쿼리를 가장 적합한 AI 에이전트로 전달하는 프로세스입니다.
이 프로세스는 마치 접수 담당자가 전화를 적절한 부서로 효율적으로 안내하는 것과 유사하여 문의가 신속하고 정확하게 처리되도록 보장합니다. 이러한 접근 방식은 효율성을 극대화하고 사용자 만족도를 높이며 원활한 워크플로우를 보장합니다.
최신 AI 상담원 라우팅은 고급 대규모 언어 모델(LLMs)을 사용하여 컨텍스트에 따라 쿼리를 동적으로 분석하고 라우팅하므로 사전 정의된 의도나 광범위한 학습 데이터가 필요하지 않으며 제로 샷 기능을 손쉽게 달성할 수 있습니다.
레거시 인텐트 분류기 대 AI 라우팅
기존의 인텐트 분류기는 초기 대화형 AI 시스템의 기반이었습니다. 이 분류기의 주요 임무는 사용자의 메시지 뒤에 있는 '무엇'을 정확히 찾아내어 "주문 상태" 또는 "비밀번호 재설정"과 같은 버킷으로 의도를 분류하는 것이었습니다.
예를 들어 사용자가 "비밀번호 재설정을 도와주세요" 라고 말하면 시스템은 이 의도를 "비밀번호 재설정 "으로 분류합니다. 인텐트 식별이라고 하는 이 프로세스는 사전 정의된 카테고리에 대해 잘 작동합니다.
하지만 이러한 시스템에는 상당한 한계가 있었습니다:
- 사전 정의된 카테고리에 크게 의존했기 때문에 새롭거나 미묘한 쿼리에 유연하게 대응하지 못했습니다.
- 시간이 지남에 따라 사용자의 의도가 변화하는 복잡한 멀티턴 대화에 어려움을 겪었습니다.
- 외부 지식 소스의 컨텍스트를 통합하는 능력이 부족했습니다.
이와는 대조적으로 LLM 기반 AI 라우팅은 전체론적 접근 방식을 취합니다. LLMs 은 쿼리를 사전 정의된 카테고리에 엄격하게 매핑하는 대신 사용자 입력의 전체 컨텍스트를 분석합니다. 이를 통해 미묘한 뉘앙스를 파악하고, 모호한 문구를 처리하며, 의역된 쿼리에 적응할 수 있습니다.
AI 상담원 라우팅 작동 방식
AI 상담원 라우팅의 프로세스는 몇 가지 주요 단계로 나눌 수 있습니다:
.webp)
1. 컨텍스트 분석
"비밀번호를 재설정하는 데 도움이 필요해요" 와 같은 쿼리는 의도, 어조 및 문맥을 분석합니다. "비밀번호를 어떻게 변경하나요?"와 같이 다른 표현을 사용하더라도 시스템은 목표(비밀번호 재설정)를 식별합니다.
2. 상담원 매칭
시스템이 쿼리를 가장 관련성이 높은 상담원에게 연결해 줍니다. "내 비밀번호 재설정 "의 경우 일반 지원 상담원 대신 비밀번호 상담원이 선택됩니다.
3. 쿼리 라우팅
쿼리는 선택한 상담원에게 라우팅되어 정확한 응답을 보장합니다. 예를 들어, 비밀번호 에이전트는 단계별 안내 또는 직접 재설정 링크를 제공합니다.
4. 학습 및 적응
LLMs 은 시간이 지남에 따라 상호작용을 통해 학습합니다. "나도 이메일을 잊어버렸어요" 와 같은 쿼리가 나타나면 시스템은 향후 유사한 사례를 더 잘 처리할 수 있도록 검색 증강 생성 (RAG) 또는 유사한 동적 데이터 종속적 방법을 통해 적응합니다.
결과는? 더 빠른 해결, 더 행복한 고객, 더 적은 골칫거리.
에이전트 라우팅 구현의 과제
자동화된 시스템이 동적으로 사용할 도구와 리소스를 결정할 때 모든 결정을 상담원에게 맡기면 벅차게 느껴질 수 있습니다. 멀티 에이전트 시스템에서 AI 라우팅을 구현할 때 고려해야 할 사항은 다음과 같습니다.
통신 프로토콜 활용, 강력한 로깅 프레임워크 구현, 실시간 성능 최적화 등 신중한 전략으로 이러한 문제를 해결하면 자체 운영되는 멀티 에이전트 시스템을 구현할 수 있습니다.
AI 상담원 라우팅을 구현하는 방법
효과적인 AI 상담원 라우팅은 잘 구성된 다중 상담원 시스템에서 시작됩니다. 각 상담원에게 명확한 역할과 액세스 수준을 할당하여 집중력을 보장하고 컨텍스트 과부하를 줄이며 착각을 방지하세요. 이러한 설정은 토큰 사용을 최적화하여 각 상담원이 효율적으로 작업하고 일관성을 유지할 수 있도록 합니다.
.webp)
사용자 대면 에이전트는 정확한 명령어 집합을 사용하여 쿼리를 적절한 전문 에이전트로 라우팅하는 오케스트레이터 역할을 합니다. 이를 통해 각 에이전트의 강점을 활용하면서 계산 부하를 최소화하여 작업을 정확하게 처리할 수 있습니다.
예를 들어 전자상거래 시스템을 들 수 있습니다:
- 재무 쿼리 → 회계 AI.
- 스타일 질문 → 추천 에이전트.
- 불만 사항 → 담당자
다음은 라우팅 에이전트를 안내하는 지침 예시입니다:
쿼리 분류:
재무 쿼리: 결제, 환불, 청구와 같은 키워드 → 회계 AI로 전달.
스타일 쿼리: 추천, 디자인, 스타일 조언에 대한 언급 → 추천 AI로 전달.
불만 사항: 부정적인 감정이나 불만 → 사람 담당자에게 에스컬레이션.
일반 문의: 분류되지 않은 주제 → 기본 AI 상담원에게 응답하거나 전달합니다.
컨텍스트 유지:
사용자가 주제를 전환하는 경우 쿼리 유형을 업데이트하고 연속성을 위해 다음 상담원과 이전 컨텍스트를 공유합니다.
대체 지침:
적합한 상담원이 없는 경우 명확한 질문을 하거나 해결되지 않은 쿼리를 담당자에게 에스컬레이션합니다.
시나리오 예시:
"환불에 대한 도움이 필요합니다." → 회계 AI
"겨울 재킷의 트렌드는 무엇인가요?" → 추천 AI
"최악의 경험이에요!" → 인간 담당자
간결한 응답을 보장하고 사용자에게 쿼리가 처리되고 있음을 알립니다.AI 라우팅에 AI 트랜지션 사용
다음과 같은 도구 AI 전환와 같은 도구를 사용하면 사용자 입력을 미리 정의된 카테고리로 효율적으로 분류하여 AI 라우팅을 향상시킬 수 있습니다. 이러한 전환은 방대한 학습 데이터 없이도 사용자의 의도를 평가하여 라우팅을 더 빠르고 정확하게 수행할 수 있도록 도와줍니다.
AI 전환을 통합하면 라우팅을 간소화하고, 정확성을 보장하며, 다양한 사용자 입력을 효과적으로 처리할 수 있습니다.
손쉬운 AI 상담원 액세스 및 워크플로 관리
고객이 즉각적이고 개인화된 상호작용을 기대하는 세상에서 LLM- 기반 AI 상담원 라우팅은 단순한 이점이 아니라 필수입니다. 경직된 인텐트 분류기를 동적 컨텍스트 인식 시스템으로 대체함으로써 기업은 더 스마트하고, 더 빠르고, 더 매력적인 경험을 제공할 수 있습니다.
Botpress 을 사용하면 기본 제공되는 자율 노드를 사용하여 각 상담원의 권한, 행동 및 어조를 완벽하게 제어하여 브랜드 및 운영 목표에 원활하게 부합할 수 있습니다.
제작부터 배포까지 Botpress 에서 멀티 에이전트 시스템을 구축하고 최적화하는 데 필요한 모든 것을 제공합니다. 지금 바로 무료 플랫폼으로 시작하세요.
.svg)
