잠재 고객과 사용자로부터 가장 많이 받는 질문 중 하나는 "인텐트 분류기는 어디에 있나요?"입니다.
저희는 없습니다. 네, 일부러 그런 거죠.
Botpress LLMs 을 사용하여 사용자 의도를 식별합니다. 왜 그럴까요? AI 에이전트의 빌더와 사용자 모두에게 훨씬 더 효과적이기 때문입니다.
저희는 이러한 입장에 대해 강하게 느끼고 있으므로 잠시 시간을 내어 의도 분류 기능의 부재에 대해 설명드리고자 합니다.
구축이 더 쉽고, 더 정확하며, 유지 관리가 더 간단합니다.
이전(LLM) 시절
(인텐트 분류기가 무엇이고 어떤 기능을 하는지 잘 알고 있다면 이 섹션을 건너뛰셔도 됩니다.)
인텐트 분류기는 학습 데이터를 기반으로 사용자 입력을 미리 정의된 인텐트로 분류하는 도구입니다.
개발자는 시스템이 사용자 입력을 이러한 예시와 일치시킬 수 있기를 바라면서 가능한 각 의도에 대해 수많은 예시를 선별하고 레이블을 지정해야 합니다.
예를 들어, 전자상거래 챗봇의 경우 개발자는 "TrackOrder"와 같은 인텐트를 정의할 수 있습니다. 예시 발화에는 다음이 포함될 수 있습니다: "내 패키지는 어디에 있나요?" "내 주문 추적", "배송 상태를 확인해 줄 수 있나요?" 등이 있습니다.
기본적으로 예시를 제시하여 AI 에이전트가 사용자의 의도를 인식하도록 훈련시키는 것입니다. 그리고 예제를 모두 수기로 입력해야 합니다.
다행히도 LLMs 이 발전함에 따라 가능한 발화를 의도에 수동으로 매핑하는 작업의 필요성은 거의 사라졌습니다.
하지만 여전히 많은 대화형 AI 플랫폼에서 이를 사용하고 있습니다. 왜 그럴까요? 곧 알아볼 것입니다.
인텐트 분류기의 4가지 단점
단순히 프로세스가 길다는 것뿐만 아니라 인텐트 분류기는 여러 가지 이유로 형편없습니다. 다음은 몇 가지입니다:
1. 데이터 종속성
인텐트 분류기는 데이터를 많이 사용합니다. 정확하게 작동하려면 각 인텐트에 대한 방대한 양의 대표적인 사용자 예시 데이터 세트가 필요합니다. 그렇지 않으면 입력을 정확하게 분류하는 데 어려움을 겪습니다.
그리고 이러한 데이터세트를 구축하는 것은 매우 힘든 일입니다. 개발자는 예제를 수집하고 라벨을 붙이는 데 끝없이 많은 시간을 소비하는데, 이는 의심할 여지 없이 좋은 시간 활용이 아닙니다.
2. 제한된 확장성
인텐트 분류기는 또한 확장할 수 있도록 만들어지지 않았습니다. 새로운 인텐트를 추가하려면 더 많은 데이터를 수집하고 모델을 재학습해야 하므로 개발의 병목 현상이 빠르게 발생합니다. Plus 언어 사용이 진화함에 따라 발화도 진화하기 때문에 유지 관리에 골칫거리가 될 수 있습니다.
3. 언어 이해력 부족
인텐트 분류기는 진정한 언어 이해가 부족합니다. 다음과 같은 다양한 언어에 어려움을 겪습니다:
- 동의어
- 패러프레이즈
- 모호한 문구
- 오타
- 익숙하지 않은 구어체 표현
- 조각난 입력
또한 일반적으로 각 발화를 개별적으로 처리하기 때문에 대화 전반에 걸쳐 문맥을 유지하는 기능이 부족합니다.
4. 오버피팅
의도 분류기는 일반적인 패턴을 학습하는 대신 학습 예제를 암기하는 과적합이 발생하기 쉽습니다.
즉, 이전에 본 정확한 문구에는 잘 작동하지만 새롭거나 다양한 입력에는 어려움을 겪습니다. 따라서 전문적인 사용 사례에 적합한 것보다 훨씬 더 취약합니다.
LLMs 이 더 나은 6가지 이유
LLMs 는 이러한 문제를 모두 해결했습니다. 컨텍스트와 뉘앙스를 이해하므로 개발자는 시작하기 위해 학습 데이터를 채울 필요가 없습니다. LLM 기반 에이전트는 생성되는 순간부터 대화를 시작할 수 있습니다.
1. 제로 샷 학습 기능
LLMs 학습을 위해 예제가 필요하지 않습니다. 광범위한 사전 교육을 통해 개발자가 구체적인 예제를 제공하지 않아도 맥락, 뉘앙스, 의도를 이미 이해하고 있습니다.
2. 뉘앙스라는 작은 것
LLMs 는 인텐트 분류기가 부족한 부분을 탁월하게 보완합니다. 관용구, 풍자, 모호한 언어도 쉽게 해석할 수 있습니다.
다양한 데이터 세트에 대한 광범위한 훈련을 통해 의도 분류기가 종종 놓치는 인간 커뮤니케이션의 미묘한 뉘앙스를 파악할 수 있습니다.
3. 더 나은 컨텍스트
LLMs 대화를 놓치지 마세요. 이전에 말한 내용을 기억하기 때문에 대화가 자연스럽게 흐르고 일관된 느낌을 줍니다.
이러한 맥락은 모호한 부분을 정리하는 데도 도움이 됩니다. 입력 내용이 모호하거나 복잡한 경우에도 더 넓은 대화 내용을 살펴봄으로써 이를 종합적으로 파악할 수 있습니다.
4. 확장성
LLMs 는 확장성이 100% 더 뛰어납니다. 언어에 대한 폭넓은 이해 덕분에 새로운 주제를 다루기 위해 재교육을 받을 필요가 없습니다.
따라서 거의 모든 사용 사례를 즉시 처리할 수 있습니다. 멀티 에이전트 시스템의 경우 인텐트 분류기 대신 LLM 을 사용하는 것은 당연한 일입니다.
5. 유연성
LLMs 딱딱한 템플릿에 의존하지 마세요. 유연성이 뛰어나 응답이 자연스럽고 다양하며 대화에 완벽하게 맞춰진다는 것을 의미합니다. 이는 딱딱한 의도 분류기보다 훨씬 더 나은 사용자 경험을 제공합니다.
6. 적은 훈련 데이터
LLMs 작업별 레이블이 지정된 데이터 없이도 작업을 완료할 수 있습니다. 다양한 텍스트에 대한 방대한 사전 학습을 통해 그 힘을 발휘하므로 공들여 주석이 달린 데이터 세트에 의존하지 않아도 됩니다.
필요한 경우 개발자는 언제든지 프로젝트에 맞게 LLM 을 사용자 지정할 수 있습니다. 예를 들어 LLMs 은 최소한의 데이터로 미세 조정할 수 있으므로 특수한 사용 사례나 산업에 빠르게 적응할 수 있습니다.
다른 회사들은 왜 인텐트 분류기를 사용하나요?
좋은 질문입니다. LLMs 이 인텐트 분류에 훨씬 더 효과적이라면 왜 아직도 많은 회사에서 인텐트 분류기를 사용하는 걸까요?
그 대답은 예쁘지도 않고, 외교적으로 말하기에도 적절하지 않은 레거시 기술의 문제입니다.
대부분의 회사는 인텐트 분류기를 사용하는 데 기득권을 가지고 있습니다. 그들은 이를 기반으로 운영되는 거대한 설치 기반을 구축했습니다. 사용자들이 자신들이 구축한 시스템에서 벗어나도록 설득할 이유가 없습니다.
하지만 Botpress 는 LLM
LLMs 는 구식 인텐트 분류기보다 인텐트를 훨씬 더 잘 식별할 수 있습니다. 이것이 바로 2020년에 처음으로 LLM 로 처음부터 다시 작성한 이유입니다.
우리는 더 나은 기술이 등장했음을 알고 레거시 기술에 집착하는 대신 도약을 위해 투자했습니다.
인텐트 분류기를 추가할 예정인가요?
아니요, 저희는 빌더 경험과 사용자 경험을 너무 중요하게 생각합니다.
인텐트 분류의 미래
인텐트 분류기는 과거의 도구입니다. 그래서 저희는 LLMs 에 올인했습니다.
LLMs 이 계속 발전함에 따라 Botpress 에 구축된 AI 에이전트도 계속 발전할 것입니다. 저희는 대화형 AI가 할 수 있는 일의 기준을 계속 높여갈 준비가 되어 있고 기대가 큽니다.
LLMs 을 기반으로 유연한 AI 에이전트를 구축하려는 경우 Botpress 에서 자유롭게 구축을 시작하세요. 무료입니다.
.svg)
