ChatGPT 과 같은 GPT 챗봇을 사용해 본 적이 있다면 다양한 출력 품질을 경험해 보셨을 것입니다.
때로는 필요한 정보를 정확하게 뱉어내기도 합니다. 때로는 AI의 '지능'이 다소 과장된 것 같다는 의구심이 들 때도 있습니다.
게임을 한 단계 업그레이드할 수 있습니다. ChatGPT 게임을 한 단계 업그레이드할 수 있습니다. 연쇄적 사고 프롬프트는 LLM 가 응답을 생성하기 전에 단계별로 작업을 추론하도록 유도합니다.
최신 AI 모델과 기능은 사고 연쇄 추론 기능을 직접 구축하기 시작하여 별도의 프롬프트 없이도 모델이 자동으로 문제를 추론할 수 있도록 하고 있습니다.
생각의 연쇄 프롬프트란 무엇인가요?
연쇄 사고 프롬프트는 복잡한 작업을 세분화하여 각 단계를 추론한 후 응답하도록 모델에 지시하는 AI의 프롬프트 엔지니어링 기법입니다.
'연쇄 추론'이라는 용어를 들어보셨을 수도 있습니다. 이는 모델이 당면한 작업을 추론하기 위해 취하는 단계별 프로세스를 의미합니다.
OpenAI o1 모델에는 이미 연쇄 추론이 내장되어 있으므로 연쇄 추론 프롬프트가 필요하지 않습니다. 하지만 모든 LLM 기반 챗봇에서 연쇄 추론 프롬프트를 사용할 수 있습니다.
사고 연쇄 추론은 어떻게 작동하나요?
연쇄 추론은 문제를 더 작고 논리적인 단계로 세분화하여 AI 챗봇이 순차적으로 해결할 수 있도록 하는 것입니다.
먼저 AI가 문제의 핵심 부분을 식별합니다. 그런 다음 한 단계가 다음 단계로 이어지는 방식을 고려하여 각 부분을 순차적으로 처리합니다. 각 단계는 이전 단계를 기반으로 하여 AI가 논리적인 결론을 향해 체계적으로 나아갈 수 있도록 합니다.
생각의 연쇄 프롬프트의 예
유명한 '딸기' 프롬프트
ChatGPT 와 다른 LLMs 에는 잘 문서화된 약점이 있습니다. 하나는 '딸기'라는 단어에 몇 개의 'R'이 있는지 정확하게 식별하지 못한다는 것입니다. (아마도 o1 모델의 코드명인 Strawberry의 유명한 한계일 것입니다.)
ChatGPT-4o는 연쇄 추론을 사용하지 않습니다. 대신, 학습 데이터를 참조하여 각 단어가 이전 단어에 뒤따를 가능성을 기반으로 응답을 생성합니다. 대부분의 경우 올바르게 들릴 수 있지만 추론하거나 연구를 수행하는 것이 아니라 인간의 언어를 모방하기 위해 생성할 뿐입니다.
ChatGPT-4o에 유명한 딸기 질문을 하면 정답을 제공할 수 없습니다:
그러나 LLM- 기반 챗봇이 정답에 도달하도록 돕기 위해 연쇄 프롬프트 기법을 사용할 수 있습니다:
OpenAI o1-preview에서 제공하는 ChatGPT 의 최신 버전은 추가 프롬프트 없이 생각의 사슬 추론을 사용하는 최초의 주요 LLM 입니다.
위의 두 번째 ChatGPT-4o 프롬프트와 동일한 프로세스를 자동으로 따르도록 지시되었기 때문에 첫 번째 시도에서 답을 크래킹합니다. 유일한 차이점은 추가 프롬프트 없이 이 프로세스를 수행한다는 것입니다.
수학
이전 버전의 ChatGPT 에 초등학교 교과서에 나오는 수학 문제를 출제하면 항상 정답을 맞히지 못합니다.
다단계 수학 문제에는 이전 LLMs 에는 없던 추론이 필요합니다. 문제의 각 단계를 세분화할 수는 있지만 올바른 단계를 모르는 경우 LLM 이 도움이 되지 못했습니다.
ChatGPT-4o는 문제의 일련의 단계를 세분화하여 질문에 대한 답을 추론할 수 있습니다:
허브스팟에 연결된 AI 에이전트
실제 애플리케이션을 위해 Hubspot에 통합된 LLM- 기반 AI 에이전트를 예로 들어 보겠습니다. 영업팀은 이 AI 에이전트를 사용하여 여러 채널에서 수집된 신규 리드를 처리합니다.
시나리오
영업 담당자가AI 에이전트에게 새 리드를 보내서 Hubspot에 등록하고 첫 번째 터치포인트 이메일을 보내되, 이미 잠재 고객인 회사에서 근무하는 경우 작성하지 않도록 요청합니다.
LLM 사고의 연쇄 추론 없이
LLM- 기반 AI 에이전트가리드를 등록하고 회사가 이미 잠재 고객인지 확인하지 않고 이메일을 전송하여 핵심 조건을 놓쳤습니다.
LLM 사고의 연쇄 추론으로
LLM- 기반 AI 에이전트는조치를 취하기 전에 해당 기업이 이미 잠재 고객인지 확인합니다. 잠재 고객인 경우 등록과 이메일 발송을 건너뛰고, 그렇지 않은 경우 영업 담당자의 지시에 따라 리드를 등록하고 이메일을 발송합니다.
연쇄 사고 프롬프트는 언제 사용해야 하나요?
연쇄적 사고 프롬프트는 단계별 추론이 필요한 시나리오에서 가장 잘 사용됩니다.
논리적 추론, 수학 문제, 절차적 과제 또는 여러 단계에 걸쳐 답을 찾아야 하는 상황이 포함된 과제가 주요 후보입니다.
하지만 잠깐만요, 추론이 멋지게 들리는데 왜 항상 사용하지 않을까요?
좋은 질문입니다. 모든 질문에 추론이 필요한 것은 아닙니다. 예를 들어
- '캐나다의 수도는 어디인가요?'와 같은 간단한 사실 관련 질문입니다.
- '145 + 37은 무엇인가요?'와 같은 단답형 문제입니다.
- '동료에게 프로젝트가 아직 끝나지 않았는지 묻는 정중한 3문장 이메일 작성'과 같은 콘텐츠 생성 작업을 예로 들 수 있습니다.
생각의 연결 고리 프롬프트 Botpress
Botpress 사용자들은 이미 연쇄 추론을 사용하는 기능에 익숙해져 있습니다.
오토노머스 노드는 2024년 7월에 AI 에이전트 구축을 위한 플랫폼인 Botpress 에서 첫 선을 보였습니다. 오토노머스 노드는 다단계 워크플로우를 자동화하고 자율적으로 의사 결정을 내릴 수 있습니다.
자율 노드를 생성하고 '귀하의 목적은 적격 리드를 생성하는 것입니다'와 같은 간단한 텍스트 한 줄로 메시지를 표시할 수 있습니다. 사용자가 구매 의사를 표시하면 Salesforce에서 리드를 생성합니다.'와 같은 텍스트 한 줄로 자율 노드를 만들 수 있습니다.
이 자율 노드를 사용하여 구축한 AI 에이전트는 사람이 설계한 워크플로와 무관하게 목표를 달성하기 위해 다양한 조치를 취합니다. 또한 필요에 따라 다른 LLMs 사이를 전환하여 속도 또는 성능 중 우선순위를 결정할 수 있습니다.
나만의 자율 에이전트 구축
Botpress 는 진정한 자율 에이전트를 구축할 수 있는 유일한 AI 에이전트 플랫폼입니다.
개방적이고 유연한 Botpress Studio를 사용하면 HR부터 리드 생성에 이르기까지 산업 전반에 걸쳐 무궁무진한 사용 사례를 만들 수 있습니다. 사전 구축된 통합 라이브러리와 광범위한 튜토리얼을 통해 사용자는 처음부터 AI 에이전트를 쉽게 구축할 수 있습니다.
지금 바로 구축을 시작하세요. 무료입니다.
또는 영업팀에 문의하세요.
.svg)
