ChatGPT Chatbots 비즈니스용 

ChatGPT 는 놀랍습니다. 누구나 질문하고 믿을 수 있는 고품질의 답변을 받을 수 있는 혁신적인 AI 제품입니다. GPT-3.5와 ChatGPT 의 출시와 그에 따른 반응은 매우 인상적이어서 Microsoft가 OpenAI에 대한 투자를 100억 달러까지 늘릴 정도로 박차를 가하고 있습니다. 구글조차도 자사의 주력 제품인 구글 검색이 시대에 뒤처질까봐 대안을 찾기 위해 동분서주하고 있다는 소문이 돌고 있습니다. 실제로 구글의 딥마인드는 스패로우라는 유사한 제품을 곧 출시할 예정입니다. ChatGPT 와 달리 Sparrow는 자신의 주장을 뒷받침하는 인용문을 제공하며, 현재 ChatGPT 의 주요 우려 사항 중 하나인 사실 착각 경향을 부분적으로 해결하고 있습니다. 이처럼 인공 지능의 획기적인 발전으로 인해 챗봇 구축 플랫폼에 특히 흥미로운 시기가 도래하고 있으며, 인공지능의 세대적 도약은 더 나은 봇을 약속하고 있습니다. 

이 글에서는 generative AI 이 chatbots 을 개선하여 chatbots 비즈니스를 ChatGPT 처럼 만드는 몇 가지 방법에 대해 이야기해 보려고 합니다. ChatGPT 는 현재 형태로도 매우 유용한 도구입니다. 그러나 이 도구의 힘과 일반적으로 대규모 언어 모델의 힘이 가까운 미래에 새로운 사용 사례에 활용될 수 있고 활용될 수 있는 방법은 많습니다.

Botpress 지식 베이스

Botpress 에서 곧 비즈니스용 봇( ChatGPT)과 유사한 봇을 만들 수 있는 중요한 내용을 발표할 예정입니다. 곧 액세스를 제공하게 될 한 가지 훌륭한 사용 사례는 다음과 같습니다. 지식 베이스는 간단한 설명과 웹사이트 링크만으로 몇 분 안에 챗봇을 생성할 수 있는 챗봇 생성 기능입니다. 이렇게 자동 생성된 챗봇은 즉시 사용하거나 다른 사람들과 공유할 수 있습니다.

ChatGPT & GPT-3란 무엇인가요? 

간단히 말해, ChatGPT 은 베타 기간 동안 일반인에게 제공되는 범용 채팅 애플리케이션입니다. 이 앱은 사용자가 던지는 모든 질문에 가능한 답변을 사용하여 답변할 수 있습니다.

반면에 GPT는 텍스트 완성 엔진이며 GPT-3가 최신 버전입니다. GPT-3에는 더 빠른 모델, 더 나은 로직이 있지만 더 느리고 비용이 많이 드는 모델 등 여러 가지 모델이 있습니다. 가장 최신의 가장 뛰어난 모델은 text-davinci-003이며 ChatGPT 에 사용된 모델입니다. ChatGPT 대신 GPT-3을 사용하는 경우 응답 길이, 입력한 내용을 그대로 반복할 가능성, 주제를 바꾸거나 계속 진행할 빈도 등의 변수를 조정할 수 있습니다. GPT 초보자의 경우, ChatGPT 은 사람과의 대화에 사용할 수 있는 합리적인 기본값이 포함되어 있어 사용하기가 더 쉽습니다. 반면에 GPT-3는 코드를 작성하거나 패턴을 따르는 데 사용할 수 있으며 개발자가 쉽게 사용할 수 있는 API가 있습니다. 예를 들어, 아기 이름 애플리케이션에 쉽게 입력할 수 있는 이름 목록을 생성할 수 있습니다. 

ChatGPT 는 사용자 인터페이스와 텍스트 응답을 위해 고도로 튜닝된 GPT-3 엔진을 결합합니다. 예를 들어 ChatGPT 은 특별한 지시가 없는 한 학교 과제에서 주어진 것과 같이 길고 완전한 답변을 선호합니다. 답변이 길기 때문에 종종 사고 과정처럼 보이는 것을 볼 수 있습니다. 이는 최종 사용자 애플리케이션에는 불필요한 경우가 많지만 데모에는 유용합니다. 

이론적으로는 멋진 콘텐츠를 제작할 때만 GPT-3가 필요하지만, 실제로는 ChatGPT 을 사용하면 업계 전문가를 제외한 모든 사람이 이 기술을 쉽게 사용할 수 있습니다. 봇을 구축하기 위한 ChatGPT 기능을 연구할 때, 프로세스를 더 잘 제어하기 위해 GPT-3를 사용합니다.

마법인가요? 

별도의 추가 노력 없이도 원활하게 작동하는 이러한 종류의 AI 제품에 사람들이 관심을 갖는 이유를 쉽게 알 수 있습니다. 대부분의 사용 사례(논리적으로 복잡한 상황을 제외하면)에서 좋은 답을 얻을 가능성이 높습니다.

안타깝게도 ChatGPT 이 경우에 따라 "그냥 작동"할 수도 있지만, 신뢰할 수 없는 출력으로 봇을 만들 때는 여전히 약간의 위험이 따릅니다. 예를 들어 호텔 봇에게 조식이 몇 시에 제공되는지 물었을 때 실제로는 조식을 제공하지 않는데도 조식은 리셉션 근처에서 오전 7시에 시작한다는 응답을 받은 경우를 생각해 보세요! 이와 같은 잘못된 응답은 비즈니스에 타격을 입히고 비즈니스 소유자와 사용자 모두를 빠르게 실망시킬 수 있습니다. 

기존 봇 프로젝트에서는 사용 사례를 나열하고, 봇이 알아야 할 정보를 생각해낸 다음, 모든 것을 테스트하여 제대로 작동하는지 확인해야 했습니다. GPT를 사용하면 봇 정보를 수집하는 프로세스를 획기적으로 간소화하고 단축하여 봇 구축의 가장 큰 어려움을 없앨 수 있습니다. 

새로운 모델 활용 

ChatGPT는 간단히 말해 두 가지 기능을 결합하여 놀라운 예측력을 제공합니다. 첫 번째는 사용자가 제공한 모든 정보는 물론 2022년 이전부터 알고 있는 모든 정보를 검색하거나 액세스할 수 있다는 것입니다. 두 번째 기능은 텍스트를 작성하여 이해하는 것입니다.

간단한 쿼리로 검색을 설명해 보겠습니다:

• 영국의 유명한 석조 기념물의 이름은 무엇인가요?
  스톤헨지입니다.

생성은조금 더 복잡합니다. 위의 예는 단순히 검색만 하고 새로운 것을 생성하지 않는다고 주장할 수 있습니다. 다른 리콜 질문을 해보겠습니다: 

• 영국에서 유명한 성의 이름은 무엇인가요?
  영국에서 가장 유명한 성은 윈저 성입니다.

텍스트가 조금 더 많지만 여전히 명확하지는 않습니다. 이 두 가지를 결합하여 두 가지 기능을 명확하게 표현해 보겠습니다:

• 영국에서 유명한 성의 이름과 영국에서 가장 유명한 석조 기념물의 이름은 무엇이며 얼마나 가까이 있나요?
  영국에서 가장 유명한 성은 영국 버크셔에 위치한 윈저 성입니다. 런던에서 서쪽으로 약 25마일 떨어져 있습니다. 영국에서 가장 유명한 석조 기념물은 영국 윌트셔에 위치한 스톤헨지입니다. 런던에서 남서쪽으로 약 90 마일 떨어져 있습니다. 따라서 이 두 사이트는 약 65마일 떨어진 꽤 멀리 떨어져 있습니다.

훌륭합니다! 이제 리콜과 생성에 대해 설명했습니다. 얼마나 인간과 유사한 세대인지 주목하세요. 이것이 바로 회사를 대표하는 봇에 필요한 품질입니다. 마지막으로, 기본적인 기하학 계산에 실패하고 답을 제공하지 못하는 뻔뻔함이라는 새로운 기능도 시연해 보았습니다.

저희 팀은 작년 말 ChatGPT 이 출시되기 훨씬 전부터 GPT-3를 사용해 왔으며, 봇이 사실 목록에서 정확한 답변을 할 수 있도록 다른 솔루션과 함께 이를 활용하는 제품도 출시했습니다. 봇의 응답 정확도는 현세대 챗봇 엔지니어보다 크게 향상되었지만, 여전히 사용자가 사실 목록을 제출해야만 봇이 작동할 수 있었습니다. 

ChatGPT 가 등장하고 GPT-3가 최신 버전으로 업데이트된 이후, 저희는 챗봇 구축에 대한 몇 가지 새로운 접근 방식을 연구해 왔으며 곧 발표할 예정입니다. 곧 시연할 사용 사례 중 하나는 제너레이티브 측면을 활용하여 봇 구축 시간을 단축하는 기능으로, ChatGPT 을 사용하는 것만큼이나 마법 같은 구축 경험을 제공할 수 있습니다. 

이상적인 세계에서 봇을 구축하는 것은 원하는 것에 대한 몇 가지 질문에 답한 다음 불확실한 사실에 대한 정확성을 검토하고 실행 버튼을 누르는 것만큼 간단해야 합니다. 

기업용 GPT 활용의 어려움

비즈니스에서 GPT를 활용하는 데에는 몇 가지 문제가 있습니다. 아래에서 실제 GPT-3 출력에서 흔히 발생할 수 있는 몇 가지 함정을 살펴보겠습니다.

오탐인 답변: 이는 일반적인 답변 범주이며 어느 정도는 피할 수 없습니다.

• 사용자: 은행 대출을 신청할 수 있나요?
  GPT-챗봇: 네! 저희는 1991년에 설립된 은행입니다.

공개되어야 하지만 전혀 공개되지 않은 답변: 마케팅에서 단순하게 유지하기 위해 누락했거나, 질문이 너무 구체적이거나, 처음부터 포함했어야 하는 작은 글씨로 된 면책 조항이 있을 수 있습니다.

• 사용자: 시간이 지남에 따라 내 휴대폰의 성능이 저하되는 이유는 무엇인가요?
  GPT-챗봇 [좋음/나쁨?]: 휴대폰의 배터리를 절약하기 위해 시간이 지남에 따라 성능을 조정합니다.
  GPT-chatbot [good / bad?] 잘 모르겠지만 제품 문제인 것 같습니다. [email protected] 으로 문의하세요.
  

추론해야 하는 것: 상점의 제품처럼 부모와 자식 관계를 통해 추론하거나, 명확하게 쓰여 있지 않을 때 사용자를 도울 수 있는 최선의 방법이 무엇인지 파악하는 것입니다.

• 사용자: 이 의자의 반품 정책은 어떻게 되나요?
  GPT-챗봇 [나쁜]: 이 의자는 반품 정책이 없습니다.
  GPT-챗봇 [좋은]: 이 의자는 특별한 정책이 없지만 30일 이내에 무료 반품이 가능합니다.↪f_200D↩
  ↪f_200D↩
• 사용자: 소프트웨어 엔지니어링 직책에 어떻게 지원하나요?
  GPT-chatbot [bad]: 어떻게 도와드릴 수 있을지 모르겠습니다. 채용 페이지가 없는 것 같습니다.
  GPT-chatbot [good]: 잘 모르겠지만 문의 페이지에 있는 이메일을 사용해 보세요.

공개적으로 사용할 수 없어야 하는 항목(예: 월마트 식료품 환불 승인 프로세스): 일부 항목은 사용할 수 없어야 하며, 이 경우 봇이 사용자를 추측하거나 도와주려고 시도해서는 안 됩니다.

• 사용자: 온라인 식료품에 대한 환불을 신청하면 요청 승인 여부를 평가하는 절차는 어떻게 되나요?
  GPT-chatbot [bad]: 신용 카드의 사기 거래 기록과 평균 이상의 환불 비율을 확인하기 위해 신원 조회를 실시합니다.
  GPT-챗봇 [좋음]: 잘 모르겠습니다. [email protected] 에서 답변을 받으실 수 있습니다. 

어떤 것은 사적이거나 상황에 따라, 또는 개인과 관련된 것이므로 예 또는 아니오로 대답하는 것은 어느 쪽이든 위험하며 "모르겠다"고 말하는 것은 도움이 되지 않습니다. 

• 사용자: 환불받을 수 있나요?
  GPT-chatbot [bad]: 네, 환불 받으실 수 있습니다. 계정에 로그인하여 주문을 열고 환불을 클릭하세요.
  GPT-chatbot [good]: 잘 모르겠습니다. 계정에 로그인하여 주문을 열고 환불을 클릭하세요.

위의 모든 사항은 봇이 응답할 수 있는지 여부에 따라 달라집니다. 일반적으로 챗봇의 범위를 결정하기 위해서는 약간의 계획과 의사 결정이 필요하기 때문에 이 자체로도 까다로운 작업입니다. 너무 적은 범위로 설정하면 챗봇이 쓸모없게 느껴질 것입니다. 모든 것을 다 하려고 하면 실패할 것입니다. 챗봇 프로젝트가 성공하려면 균형 잡힌 작업이 필요합니다.

저희( Botpress )의 목표는 이러한 문제를 극복할 수 있는 도구를 개발하여 사용자가 GPT의 강력한 기능을 최대한 활용하는 동시에 이러한 함정을 극복할 수 있도록 하는 것입니다.

봇의 미래 

GPT-3와 같은 대규모 언어 모델은 Google 검색 및 Bing과 같은 서비스에 공급되며, 이는 이러한 서비스에 대한 실존적 위협이므로 ChatGPT 와 같은 서비스를 만들기 위해 많은 투자를 하고 있습니다. 문제는 순전히 기술적인 문제가 아닙니다. 챗봇과의 상호작용이 광고 수익에 있어 동일한 기회를 제공하지 않을 수 있으므로 Google은 비즈니스 모델을 고려해야 합니다. 지금은 이러한 방식으로 대규모 언어 모델을 사용하기에는 비용이 너무 많이 들지만, 혁신의 속도를 고려할 때 비용 문제는 곧 문제가 되지 않을 것입니다.

이러한 검색 엔진은 자연어 질문을 이해하고 답변하는 능력을 향상시키지 않으면 검색 엔진 영역에서 새로운 플레이어의 공세에 직면할 수밖에 없습니다. 이러한 기술에 대한 막대한 투자는 봇 구축 플랫폼에 희소식입니다. 봇 구축 플랫폼은 이러한 검색 엔진(모든 공개 정보를 색인화)을 활용하여 대화식으로 쿼리에 응답할 수 있게 되기 때문입니다.

특정 검색어에 대한 정보가 없는 경우 답변을 생성하는 것이 까다로워지는데, 이는 생각보다 자주 발생하는 문제입니다! 저희는 리서치 도구를 사용하여 봇을 개발하면서 웹사이트가 정보를 대화식으로 작성하지 않기 때문에 정보를 추출하는 것이 까다롭다는 사실을 깨달았습니다. 심지어 중요한 정보가 아예 없는 경우도 많았습니다(예: 연락처 이메일 대신 커리어 페이지). 즉, 봇 빌더는 문제를 해결하는 표준 방법(예: 전자상거래 사이트에서 할인을 요청할 때 봇이 어떻게 응답해야 하는가?)을 찾고 행간을 읽어내는 어려운 작업을 수행해야 합니다(예: 채용 페이지가 없는 경우 채용 문의에 어떻게 답변해야 하는가?). 사용자가 주문한 상품이 2주 후에 도착할 것이라고 알려줬는데 상점이 겨울 방학으로 문을 닫아 상품을 배송하지 않은 경우 어떻게 응답해야 할까요?

검색 엔진이 예측할 수 없거나 접근할 수 없는 봇이 처리할 수 있어야 하는 작업은 무궁무진하며, 이는 ChatGPT 와 같은 기존 봇 빌더와 경쟁할 수 있는 정말 환상적이고 사용하기 쉬운 봇 빌더를 만들기 위해 연구가 나아가야 할 방향입니다! 

봇의 미래를 구축하도록 도와주세요 

봇의 미래를 구축하는 데 도움을 주세요. 지식 베이스를 사용해보고 를 사용해 보시고 피드백을 보내주세요. 웹페이지에 너무 많은 질문에 대한 정보가 부족하다는 사실을 깨달은 후, 저희는 이 기능이 웹사이트에서 콘텐츠를 찾아서 제공할 뿐만 아니라 이를 뛰어넘어 웹사이트에 없는 세부 정보까지 제공할 수 있는 잠재력을 가지고 있다는 사실을 깨달았습니다.

마술이라는 단어에 대한 옥스퍼드 언어의 정의는 다음과 같습니다. 신비하거나 초자연적인 힘을 사용하여 사건의 진행에 영향을 미치는 힘. ChatGPT 확실히 신비스럽고 Botpress 같은 봇 빌더가 새로운 기술을 더 쉽게 사용할 수 있도록 만들고 있지만, 이 애플리케이션을 사용하여 사건의 진행에 영향을 미치는 것은 독자의 몫으로 남겨두겠습니다!

‍