버티컬 AI 에이전트: 목적 중심 AI 이해

직접 API 액세스

일반 모델은 복잡한 툴로 감싸지 않으면 내부 시스템과 상호 작용할 수 없습니다. 버티컬 에이전트는 CRM, ERP 또는 스케줄링 플랫폼에 직접 연결하여 실시간 데이터를 가져오고, 기록을 생성하고, 워크플로를 안정적으로 트리거할 수 있습니다.

내장된 비즈니스 로직

수직적 상담원은 즉흥적인 요령에 의존하는 대신 잘 정의된 규칙과 흐름 내에서 운영됩니다. 다른 백엔드 시스템과 마찬가지로 무엇이 유효한지, 어떤 단계를 따라야 하는지, 회사 정책에 따라 어떻게 행동해야 하는지 잘 알고 있습니다.

구조화된 데이터 처리

자연어로 학습된 LLMs JSON, SQL 또는 리지드 스키마에서는 제대로 작동하지 않습니다. 버티컬 에이전트는 자유 형식 사용자 입력과 구조화된 백엔드 형식 사이를 번역하여 이러한 격차를 해소하고 출력이 제대로 작동하도록 보장합니다.

중요한 사항으로 좁혀진 컨텍스트

제너럴리스트 모델은 환불 정책이 Wikipedia 더 중요하다는 사실을 모릅니다. 수직적 에이전트는 SOP, 정책 문서 또는 지식 기반과 같은 도메인별 지식에 기반을 두고 있으므로 관련성이 있는 범위 내에서만 작동합니다.

LLM 하나의 구성 요소일 뿐입니다.

수직 에이전트에서 LLM 요약, 해석 또는 자연스러운 응답을 위해 사용되는 보조적인 역할을 합니다. 하지만 로직, 메모리 및 액세스 제어가 적용되는 시스템 내부에 포함되어 있으므로 프로덕션에 안전하게 사용할 수 있습니다.

이러한 계층을 통해 수직적 에이전트는 제너럴리스트 모델에는 없는 구조를 갖추게 됩니다. 이들은 교묘한 유도나 희망에 의존하지 않고 액세스, 책임감, 실제 비즈니스 요구 사항에 대한 조율을 통해 운영됩니다.

워크플로 소유권을 가진 고객 대면 상담원

챗봇 설계에서 가장 큰 오해 중 하나는 대화가 가치와 같다고 생각하는 것입니다. 온보딩, 예약, 애플리케이션 등 대부분의 고객 대면 흐름은 "대화"가 아닙니다. 이러한 흐름은 로직, 유효성 검사, 백엔드 종속성이 있는 구조화된 작업입니다.

그러나 기업들은 종종 여기에 일반 챗봇을 배포하고 최상의 결과를 기대합니다. 결과는? 사용자를 혼란스럽게 하고, 흐름이 끊기고, 리드를 놓치게 됩니다.

반면에 고객 서비스를 위해 특별히 설계된 버티컬 에이전트는 전체 여정을 완료하도록 설계되었습니다. 이들은 단계를 알고, 규칙을 따르며, 내부 시스템과 직접 통합됩니다. 상담원이 '더 똑똑해서'가 아니라 해당 업무를 위해 구축되었기 때문에 경험이 더 원활하게 느껴집니다.

작업 자동화를 위한 내부 운영 에이전트

레코드 업데이트, 티켓 할당, 도구 간 데이터 동기화 등 반복 가능하지만 여전히 번거로운 내부 업무가 엄청나게 많습니다. RPA로 자동화할 수도 있지만, RPA는 무언가 바뀌는 순간 중단되는 경우가 많습니다.

버티컬 에이전트는 워크플로우 자동화의 로직 레이어로서의 뛰어난 능력과 뉘앙스를 이해하는 능력으로 이 간극을 훌륭하게 메웁니다. 동적 입력을 처리할 수 있을 만큼 똑똑하지만 가드레일 내에 머물 수 있을 만큼 구조화되어 있습니다. 더 중요한 것은 내부 워크플로를 정의하는 API 및 로직에 연결되어 있다는 점입니다.

영업 및 CRM 통합 상담원

영업은 빠르게 움직이고 세부 사항에 민감합니다. 일반 GPT 상담원은 정중하게 응대할 수는 있지만 자격 기준, 어떤 담당자가 어느 지역을 담당하는지, CRM에 리드가 이미 존재하는지 여부는 알 수 없습니다.

HubSpot과 같은 플랫폼이 상담원에게 이 모든 귀중한 정보를 제공하는 만큼, 이를 최대한 활용할 수 있는 상담원이 필요합니다.

제대로 수직적으로 구축된 영업 챗봇은 다릅니다. 챗봇은 파이프라인 로직 내부에 존재합니다. 챗봇은 실시간으로 리드를 검증하고, 메모를 기록하고, 후속 조치를 트리거하고, 인계 일정을 잡을 수 있으며, 심지어 사람이 수동으로 안내하지 않아도 됩니다.

시스템 간 조정 에이전트

어떤 작업은 하나의 시스템에서 수행할 수 없습니다. 분기별 보고서 생성, 후속 캠페인 전송, 여러 지점의 재고 조정 등을 생각해 보세요. 이러한 작업은 '대화형' 작업이 아니라 시스템과 로직에 걸쳐 있는 미니 워크플로우입니다.

일반 상담원에게 프롬프트를 사용하여 이 작업을 수행하도록 하는 것은 악몽과도 같습니다. 모델이 컨텍스트를 잊어버리고, API 호출이 실패하고, 로직이 엉망이 됩니다.

버티컬 에이전트는 이 공간에서 성공합니다. 도구를 조율하고 프로세스 로직을 준수하며 엔드투엔드 작업을 완료하기 때문에 사람이 보살필 필요가 없습니다. AI라고 생각하지 말고 인프라라고 생각하면 됩니다.

‍

이는 가상의 시나리오가 아닙니다. 팀들은 이미 프로덕션에 버티컬 에이전트를 배포하여 취약한 자동화와 과장된 조종을 실제로 업무를 처리하는 시스템으로 조용히 대체하고 있습니다. 핵심은 단순한 인텔리전스가 아니라 구조, 집중, 통합입니다.

그렇다면 개념에서 실제 작동하는 버티컬 에이전트로 전환하려면 어떻게 해야 할까요? 자세히 살펴보겠습니다.

1. 상담원 설정으로 시작하기

구체적이고 반복 가능하며 명확하게 정의된 작업을 선택하세요. 약속 예약, 접수 흐름 또는 리드 자격 검증과 같은 작업이 완벽한 출발점이 될 수 있습니다.

Botpress 대시보드로 이동하여 새 봇을 만들고 봇의 목적을 바로 정의하세요. "다중 위치 예약 에이전트" 또는 "리드 자격 보조"와 같은 간단한 설명을 입력합니다. 상담원 역할 섹션에 이 상담원이 해야 할 일에 대해 한 줄로만 작성하세요. 그 범위가 중요합니다.

2. 상담원에게 근거가 되는 지식 추가하기

LLMs 강력하지만 비즈니스 맥락이 없으면 추측에 불과합니다. 지식창고 탭으로 이동하여 PDF, 도움말 문서, 가격 책정 페이지, 내부 FAQ, 심지어 이미지와 스크린샷까지 상담원이 알아야 할 모든 것을 업로드하세요(운영의 일부인 경우).

CRM 어시스턴트 (예: HubSpot용)를 구축하는 경우에는 온보딩 문서, 제품 정보 및 서비스 정책을 업로드하세요. 각 항목에 명확하게 태그를 지정하고 나중에 더 많은 상담원을 구축할 계획이라면 별도의 지식창고를 만드세요.

KB에 상담원의 도메인과 관련된 내용만 포함되도록 하세요. 그래야 범위 이탈과 환각을 방지할 수 있습니다.

3. 플로우 에디터에서 비즈니스 로직을 매핑합니다.

여기서 대화를 넘어 실행으로 나아갈 수 있습니다.

플로우 편집기로 이동하여 구조 구축을 시작합니다: 상담원이 수집해야 하는 정보는 무엇인가요? 계속 진행하기 전에 어떤 조건을 확인해야 하나요? 언제 에스컬레이션하거나 중지할까요?

예를 들어 예약 봇을 구축하는 경우입니다:

• 사용자가 선호하는 시간, 위치, 서비스를 수집합니다.
• API 호출을 사용하여 사용 가능 여부를 확인합니다(곧 설명하겠습니다).
• 슬롯을 확인하거나 대안을 제시하세요.

조건 노드, 표현식, 변수를 사용하면 LLM 로직으로 구동되어 하드와이어링 없이 트리거하고 작동할 수 있으므로 로직이 동적이지만 항상 범위가 정해져 있는 느낌을 줄 수 있습니다.

4. API 액세스 추가

연동 서비스 패널로 이동하여 상담원에게 필요한 API 호출을 설정합니다. 여기에는 예약 시스템(예: Calendly 또는 내부 스케줄링 API), CRM 엔드포인트 또는 지원 티켓팅 시스템 등이 포함될 수 있습니다.

• 기본 URL 및 인증 헤더
• 매개변수(동적 또는 정적)
• 응답을 저장할 위치(예: workflow.slotOptions)
• 플로우에서 해당 응답을 사용하는 방법(예: 사용 가능한 시간 표시 또는 양식 제출)

작동이 시작되면 사용자를 워크플로에 연결하세요. 이제 에이전트는 더 이상 '똑똑한' 존재가 아니라 유용한 존재가 됩니다.

5. 상담원 행동 확인

봇 에뮬레이터를 사용하여 전체 대화를 실행하고 실시간으로 디버깅하세요. 철자를 잘못 입력하거나, 단계를 건너뛰거나, 이상한 입력을 하는 등 일부러 오류를 일으키세요. 상담원이 어떻게 복구하는지 확인하세요.

그런 다음 폴백을 추가합니다. 유효성 검사를 추가합니다. 조건부 노드를 사용하여 에지 케이스를 포착하세요. 사용자가 필수 필드를 건너뛰는 경우 대화 흐름을 깨지 않는 친절한 설명으로 다시 안내하세요. API 호출이 실패하면 실패를 확인하고 정확한 다음 단계를 사용자와 소통하세요.

테스트가 완료되면 상담원 대시보드의 홈으로 이동하여 상담원을 배포할 채널을 선택합니다.

하나의 버티컬 에이전트를 구축한 후에는 이 패턴을 반복할 수 있습니다. 대화뿐만 아니라 자동화하고 범위를 지정하여 시스템으로 전환할 수 있는 워크플로우를 더 많이 발견할 수 있습니다. 이것이 바로 봇을 구축하는 것뿐만 아니라 업무를 발전시키는 인프라를 구축하는 진정한 힘입니다.

직접 만들고 싶으신가요? Botpress 여러 API, 플랫폼 및 서비스와의 LLM 상호 작용을 지원하는 기능이 가득합니다. LLMs 배송하는 에이전트로 전환하는 실험을 해볼 수 있는 좋은 방법입니다.

지금 바로 무료로 구축을 시작하세요.

버티컬 AI 에이전트는 기존의 규칙 기반 챗봇과 어떻게 다른가요?

규칙 기반 챗봇은 딱딱한 스크립트를 따르기 때문에 적응력이 떨어집니다. 반면에 버티컬 AI 에이전트는LLMs 과 로직 레이어를 사용하여 실제로 컨텍스트를 이해하고, 의사 결정을 내리고, 실제 비즈니스 시스템에 연결할 수 있습니다.

버티컬 에이전트는 대기업에서만 유용할까요, 아니면 중소기업도 혜택을 받을 수 있을까요?

중소기업이 혜택을 누릴 수 있습니다. 실제로 버티컬 에이전트는 전체 운영팀을 고용하지 않고도 특정 작업을 자동화해야 하는 소규모 팀에 적합합니다.

버티컬 에이전트가 시간이 지남에 따라 다기능 에이전트로 진화할 수 있나요?

물론 범위를 잘 관리하고 혼란스러운 제너럴리스트가 되지 않는다면 범위를 좁게 시작하여 점차적으로 더 많은 기능을 추가할 수 있습니다.

수직 에이전트를 구현할 때 흔히 저지르는 실수나 함정에는 어떤 것이 있나요?

가장 큰 문제는 너무 빨리 너무 광범위하게 모든 것을 한꺼번에 하려고 하는 것입니다. 다른 하나는 통합 작업을 건너뛰고 실제 로직이나 데이터 연결 없이 LLMs 지나치게 의존하는 것입니다.

업종, 업무, 부서 또는 위의 모든 것을 기준으로 '수직적'을 어떻게 정의하나요?

위의 모든 것. 업종은 집중적인 사용 사례를 정의하는 모든 것이 될 수 있습니다. 소매업과 같은 산업, 지원과 같은 기능 또는 리드 스코어링과 같은 단일 작업일 수도 있습니다.