AI 에이전트란 무엇인가요?

1단계: 인식

먼저, AI 에이전트는 다양한 소스로부터 입력을 받습니다. 여기에는 목적에 따라 다음과 같은 것들이 포함될 수 있습니다:

• 사용자 상호 작용
• 외부 시스템에서 데이터를 가져오는 API
• 연결된 애플리케이션의 센서 또는 로그
• 인벤토리 시트, 인사 정책 등 저장된 지식 기반이 있습니다.

2단계: 처리

데이터를 확보한 후에는 AI 에이전트가 데이터를 이해해야 합니다.

에이전트는 NLP, 구조화된 데이터 또는 실시간 신호를 사용하여 어떤 입력을 사용하도록 구축되든 이를 처리할 수 있습니다.

데이터베이스에서 관련 지식을 가져와야 하는 경우 검색 증강 생성 (RAG)을 사용하여 검색할 수 있습니다.

3단계: 의사 결정

의사 결정 프로세스는 빌더가 AI 에이전트를 어떻게 구성하는지에 따라 달라집니다.

영업팀에서 고안한 공식에 따라 잠재 고객의 자격 여부를 결정하는 등 맞춤형 비즈니스 로직을 사용할 수 있습니다. 

또한 과거 사기 사례를 기반으로 거래를 사기 거래로 표시하는 등 머신 러닝 예측 또는 강화 학습을 사용할 수도 있습니다.

최고의 AI 에이전트 도구는 AI 에이전트가 결정의 근거를 얼마나 명확하게 설명할 수 있는지, 즉 AI 설명 가능성을 고려합니다.

4단계: 조치 취하기

AI 에이전트가 인지, 처리, 판단을 마치면 조치를 취할 준비가 완료됩니다.

AI 에이전트가 수행할 수 있는 작업에는 제한이 없습니다. '이 3개의 계정은 잠재적인 이탈 징후를 보이고 있습니다'와 같은 간단한 문자 응답으로 후속 조치를 취할 수 있습니다.

창고 시스템에서 실시간 인벤토리 데이터를 가져오거나 비밀번호 재설정 요청을 시작하는 등의 API 호출을 트리거할 수 있습니다.

다른 AI 에이전트는 이커머스 스토어에서 가격 조정, 영업 통화 예약, 물류 배송 경로 변경, 보안 정책에 따른 시스템 설정 수정 등 직접적인 운영 작업을 수행합니다.

일부 AI 상담원은 CRM 시스템의 워크플로우 자동화, 고객 기록 업데이트, 사전 정의된 비즈니스 규칙에 따른 환불 처리 등 외부 애플리케이션과 상호 작용하기도 합니다.

이러한 에이전트는 전체 에이전트 AI 워크플로우를 처음부터 끝까지 커리어화할 수 있습니다.

어떤 작업을 수행하든 AI 에이전트는 의사 결정 프로세스에 맞게 대응하며, 많은 경우 결과를 통해 학습하여 향후 작업을 개선합니다.

1. LLM 라우팅

무엇보다도, AI 에이전트의 인식을 아웃소싱해야 합니다. LLM. 실제로 가끔 AI 에이전트의 하위 집합인 'LLM 에이전트'라는 문구를 듣게 될 것입니다. 

훌륭한 상담원은 업무에 따라 서로 다른 LLMs 사용할 수 있어야 합니다.

특히 빠른 개발 속도를 고려할 때 우수한 단일 LLM 존재하지 않습니다. AI 에이전트가 긴 형식의 텍스트를 생성할 때는 한 모델을 사용하고, 사용자의 입력을 분석할 때는 다른 모델을 사용하는 것이 유용할 수 있습니다.

모든 AI 에이전트가 LLM 에이전트인가요? 거의 그렇지만 전부는 아닙니다.

LLMs 사용하지 않는 AI 에이전트에는 로봇 프로세스 자동화 봇, 트래픽 제어 시스템이나 군집 지능과 같은 다중 에이전트 시스템, 로봇 공학에서와 같은 강화 학습 에이전트 등이 있습니다.

2. 신원 및 지침

모든 AI 에이전트에는 정체성, 사명, 목표가 필요합니다. 왜 존재할까요? 무엇을 달성할 것이며 어떻게 달성할 것인가?

IT 지원 회사의 고객 서비스 팀의 1차 방어선을 예로 들어보겠습니다. 이 AI 상담원의 목표는 가능한 한 많은 고객 문제를 올바르게 해결하면서 복잡한 사례는 인간 상담원에게 에스컬레이션하는 것일 수 있습니다. 

지침은 역할뿐만 아니라 의사 결정 임계값(예: 언제 에스컬레이션을 하거나 사용자를 다른 곳에 의뢰해야 하는가?) 및 KPI를 정의해야 합니다.

3. 도구

도구는 AI 에이전트가 데이터를 수집하고 조치를 취하는 방식입니다. 

자율적인 특성으로 인해 AI 에이전트는 작업을 수행하는 데 사용할 도구를 선택할 수 있습니다. 

예를 들어, 리드 생성 AI 에이전트는 Hubspot에서 적격 리드를 생성하는 작업을 수행할 수 있습니다.

상담원은 사용자 상호작용에 따라 CRM에서 중복 여부를 확인하거나, 사용자에게 특정 콘텐츠를 제안하거나, 리드를 확보할 때까지 추가 질문을 할 수 있습니다.

AI 에이전트의 무기고에는 다음과 같은 도구가 포함될 수 있습니다:

• HubSpot, Linear 또는 Zendesk 같은 외부 시스템
• 애드혹 도구를 만들기 위한 코드 실행
• 기본 제공 기능
• 기타 AI 에이전트
• 사람(예: AI 에이전트가 작업을 수행하기 전에 사람의 승인이 필요한 경우)

4. 기억과 지식

AI 에이전트의 기억과 지식은 에이전트가 무엇을 알고 있으며 시간이 지나도 정보를 유지하는 방법을 정의합니다.

단순히 필요에 따라 정보를 검색하는 기존 소프트웨어와 달리 AI 에이전트는 과거의 상호 작용을 저장하고, 기억하고, 이를 바탕으로 더 스마트한 결정을 내릴 수 있습니다.

예를 들어 고객 지원 AI 상담원은 사용자와의 과거 문제 해결 시도를 기억하여 비효율적인 해결책을 반복하지 않을 수 있습니다. 영업 AI 상담원은 잠재 고객과의 이전 상호 작용을 기억하고 그에 따라 메시지를 조정할 수 있습니다.

AI 에이전트는 두 가지 주요 메모리 유형에 의존합니다:

1. 단기 기억 - 사용자의 언어 기본 설정과 같이 진행 중인 대화나 작업의 임시 컨텍스트입니다.
2. 장기 기억 - 주문량이나 공급업체 선호도 리콜과 같이 상담원이 시간이 지나도 액세스할 수 있는 영구적인 지식입니다.

AI 에이전트는 메모리 외에도 데이터베이스 및 API, 회사 지식 기반 또는 기타 관련 문서와 같은 정형 및 비정형 지식 소스에 액세스합니다.

5. 채널

채널은 AI 에이전트가 사용자와 상호작용하는 방식입니다. 사용 사례에 따라 텍스트, 이미지, 비디오 또는 음성을 사용할 수 있습니다. 웹사이트 위젯이나 webchat 인터페이스를 통해 사용자에게 다가갈 수도 있습니다, 

AI 에이전트는 webchat 위젯, 메시징 앱WhatsApp, Messenger, Telegram, Slack 등)에 배포하거나 이메일 워크플로에 임베드할 수도 있습니다.

음성 상호작용의 경우 음성 상담원은 전화 시스템이나 스마트 어시스턴트와 통합할 수 있으며, 텍스트 기반 상담원은 실시간 채팅, SMS 또는 내부 엔터프라이즈 툴에서 작업할 수 있습니다.

‍

6. 거버넌스 

전 세계적으로 AI 관련 법률이 진화하고 있으며, 규정 준수를 고려하지 않고 AI 에이전트를 구축하는 것은 낭비입니다.

거버넌스는 AI 에이전트가 윤리적이고 투명하며 법적 테두리 내에서 운영되도록 보장합니다.

잘 관리된 AI 에이전트가 따라옵니다:

• 정책 준수 - 브랜드 가이드라인, 어조 및 비즈니스 규칙에 부합합니다.
• 보고 및 KPI 추적 - 성과, 편향성, 의사 결정의 정확성을 모니터링합니다.
• 승인 및 HITL(휴먼 인 더 루프) - 중요한 작업에 대해 사람의 검증이 필요합니다.
• 피드백 메커니즘 - 사용자 의견과 감독을 바탕으로 지속적으로개선합니다.
• 규정 준수 및 감사 추적 - 규정 요건을 충족하기 위한 의사 결정 및 조치를 기록합니다.

고객 서비스

AI 에이전트의 가장 일반적인 애플리케이션 중 하나는 소박한 고객 지원 봇입니다.

이러한 가상 상담원은 고객에게 특정 정책을 안내하고, 맞춤형 제품을 제안하거나, 비밀번호 재설정과 같은 계정 작업을 처리할 수도 있습니다.

기업이 고객 서비스 챗봇을 제공하는 것은 이제 일반적인 일이 되었지만, 과거의 규칙 기반 챗봇은 브랜드에 부정적인 영향을 미치는 경우가 많습니다. 오늘날에는 조직의 사용자에게 서비스를 제공하는 것은 동적 LLM 에이전트입니다.

우리는 인공지능 챗봇의 죽음과 인공지능 에이전트의 부상에 접어들고 있습니다. 고객 지원 봇도(또는 특히) 레벨 업이 필요합니다.

리드 생성

적어도 이 글을 쓰는 시점에서 Botpress 배포된 대부분의 AI 에이전트는 어떤 형태로든 리드 생성 에이전트입니다.

리드 생성 에이전트는 AI 영업 에이전트의 하위 집합입니다.

사용자에게 중요한 정보를 전달하고 그 과정에서 자격을 갖춘 리드를 수집하여 수동 개입 없이 영업팀에 전달합니다. 

의료 컨설팅 회사인 Waiver Group은 '문의하기' 양식을 대체하는 봇을 배포한 후 잠재 고객을 25% 늘릴 수 있었습니다.

웨이버린은 웹사이트 방문자와 대화하고, 리드를 검증하고, Google Calendar 이벤트를 예약하는 모든 작업을 사람의 개입 없이 수행할 수 있습니다.

지식 관리

사람보다 봇이 더 잘 처리하는 사용 사례인 지식 관리는 내부 문서에서 고객 대면 셀프 서비스 시스템에 이르기까지 다양한 분야에 걸쳐 있습니다.

직원들은 위키, PDF, 이메일 또는 지원 티켓에 묻혀 있는 중요한 정보를 검색하느라 시간을 낭비할 수 있습니다. AI 상담원은 자연어 쿼리에 관련 계정 정보, 정책 또는 문제 해결 단계로 응답할 수 있습니다. 

고객 대면 측면에서는 사용자가 관련 양식과 가이드라인을 찾을 수 있도록 도와주는 보험 봇처럼 보일 수 있습니다.

워크플로 및 작업 오케스트레이션

워크플로 및 작업 오케스트레이션 AI 에이전트는 단일 작업만 실행하는 것이 아니라 여러 시스템에서 여러 단계를 조율합니다. (이를 AI 오케스트레이션이라고도 합니다.)

• 구매 AI 에이전트는 구매 요청을 자동으로 생성하고 예산과 교차 확인한 후 주문하기 전에 관리자의 승인을 위해 보낼 수 있습니다. 
• 인사팀에서는 온보딩 AI 상담원이 손 하나 까딱하지 않고도 신입사원의 교육 일정을 예약하고, 소프트웨어 액세스 권한을 부여하고, 급여를 설정할 수 있습니다. 
• IT 부서의 AI 상담원은 지원 티켓을 분류하고, 시스템 로그를 확인하고, 해결되지 않은 문제를 엔지니어에게 에스컬레이션할 수 있습니다.

기업이 각 프로세스마다 서로 다른 자동화 도구를 조합하는 대신, AI 에이전트는 전체 워크플로우를 동적으로 처리하고 실시간으로 의사 결정을 내리고 조건 변화에 따라 적응하는 중앙 집중식 오케스트레이터 역할을 합니다.

이러한 유형의 AI 워크플로 자동화는 AI 상담원의 가장 일반적인 사용 사례 중 하나입니다.

인공지능은 지식 근로자의 시간을 빼앗는 작은 일상 업무에 쉽게 적용될 수 있습니다.

개발자 공동 파일럿

AI 에이전트는 코딩, 디버깅 및 문서화 속도를 높여 개발자에게 필수적인 요소가 되고 있습니다.

코파일럿 AI는 코드를 자동 완성하고 오류를 표시하며 실시간으로 최적화를 제안할 수 있습니다.

이러한 에이전트는 코딩 외에도 풀 리퀘스트 검토, 보안 검사 및 종속성 추적에 도움을 줍니다.

엔지니어링 팀에게 AI 공동 파일럿은 개발 주기가 빨라지고 버그가 줄어들며 반복적인 작업에 소요되는 시간이 줄어든다는 것을 의미합니다.

가상 비서

때로는 약간의 추가 도움이 필요할 때가 있습니다.

조사를 수행하고, 지표를 분석하고, 정보를 통합할 수 있는 사람이 필요합니다. 예정된 작업에 대한 알림을 보내는 개인 스케줄러나 이메일 초안을 작성하고 보고서를 요약할 수 있는 어시스턴트가 필요할 수도 있습니다.

이러한 공백은 사용자를 대신하여 작업을 실행하는 소프트웨어 프로그램인 AI 상담원 어시스턴트로 메울 수 있습니다.

가장 유명한 음성 어시스턴트인 Siri와 Alexa처럼 AI 어시스턴트라는 개념은 이미 우리에게 친숙합니다.

AI 에이전트를 사용하면 다음 단계의 심층적인 개인화 계획을 세울 수 있습니다.

휴가를 계획하고 있다면 AI 여행사 어시스턴트가 새로운 목적지의 위치를 추천하고 호텔을 찾아줄 뿐만 아니라 최적의 항공편과 호텔을 선택해 대신 예약해 줍니다.

1. 확장성 및 유연성

AI 에이전트는 경직된 워크플로우에 국한되지 않습니다. 상황에 따라 도구, API 및 모델을 동적으로 선택하므로 훨씬 더 적응력이 뛰어납니다.

2. 자율적 의사 결정 

AI 에이전트는 모든 플로우를 미리 정의하는 대신 실시간으로 의사 결정을 내리고 엔드투엔드 작업을 수행합니다. 구축이 더 빠르고 배포 후 훨씬 더 효율적입니다.

3. 사용 사례 전반에서 확장 가능 

고객 지원용으로 구축된 AI 상담원은 완전한 재구축 없이 영업, 내부 워크플로 또는 HR 자동화를 처리하도록 확장할 수 있습니다.

4. 24시간 가용성

AI 에이전트는 다운타임 없이 작업을 처리하고, 사용자에 응답하고, 워크플로를 실행하는 등 지속적으로 작동합니다.

5. 규모에 맞는 비용 효율성

AI 상담원은 고객 지원, 영업 및 내부 운영에서 대규모 수작업 팀의 필요성을 줄이면서 고품질 서비스를 유지합니다.

6. 엔드투엔드 자동화

AI 에이전트는 단순히 질문에 답하는 데 그치지 않고 워크플로우를 실행하고, CRM에서 작업을 트리거하고, 승인을 관리하고, 실제 의사 결정을 내림으로써 운영 병목 현상을 줄여줍니다.

7. 원활한 시스템 통합

AI 에이전트는 Salesforce, HubSpot, Zendesk, Slack 및 독점 시스템과 같은 도구와 연결하여 통합된 기술 stack 보장합니다.

8. 가치 실현 시간(TTV) 단축

기존 자동화 프로젝트와 달리 AI 에이전트는 상호 작용을 통해 학습하고 지속적으로 개선하여 배포와 ROI를 가속화합니다.

9. 정확성 및 규정 준수 향상 

AI 에이전트는 브랜드 가이드라인, 법적 프레임워크, 의사 결정 로직을 준수하여 비즈니스 정책 내에서 운영될 수 있습니다.

멀티 에이전트 시스템

다중 에이전트 시스템 (MAS)은 중요한 목표를 달성하기 위해 상호 작용하는 여러 AI 에이전트로 구성됩니다. 

이러한 시스템은 일반적으로 단일 AI 에이전트가 관리하기에는 너무 크거나 복잡하거나 분산된 작업을 처리하도록 설계되었습니다. 적절한 AI 에이전트 라우팅을 통해 올바른 작업을 올바른 에이전트에게 할당할 수 있습니다.

다중 에이전트 시스템의 각 에이전트는 독립적으로 행동하여 환경을 인식하고 해석하고 의사 결정을 내린 다음 목표를 달성하기 위한 조치를 취할 수 있습니다.

MAS의 효율성은 AI 상담원 평가 시스템을 통해 평가되며, 여기에는 정량적 및 정성적 인사이트가 모두 포함될 수 있습니다.

예를 들어, 시장 조사 회사에서 한 에이전트가 업계 보고서를 수집하고, 다른 에이전트가 주요 인사이트를 추출하고, 세 번째 에이전트가 결과를 고객이 읽을 수 있는 요약본으로 요약하고, 네 번째 에이전트가 데이터 정확도를 모니터링하고 시간이 지남에 따라 결과물을 개선하는 MAS( )를 사용할 수 있습니다.

단순 반사 에이전트

단순 반사 에이전트는 미리 정의된 일련의 조건-행동 규칙에 따라 작동합니다. 현재 지각에 반응하며 이전 지각의 이력을 고려하지 않습니다.

복잡성이 제한적이고 기능 범위가 좁은 작업에 적합합니다. 간단한 반사 에이전트의 예로 스마트 온도 조절기를 들 수 있습니다.

‍

모델 기반 반사 에이전트

모델 기반 에이전트는 환경에 대한 내부 모델을 유지하고 모델의 이해를 바탕으로 의사 결정을 내립니다.

이를 통해 더 복잡한 작업을 처리할 수 있습니다. 

차량의 속도, 앞차와의 거리, 다가오는 정지 신호와 같은 데이터를 수집할 수 있기 때문에 자율주행차 기술 개발에 사용됩니다. 에이전트는 차량의 속도와 제동 기능을 기반으로 제동 시점에 대해 정보에 입각한 결정을 내릴 수 있습니다.

유틸리티 기반 에이전트

효용 기반 에이전트는 가능한 각 작업의 예상 효용을 고려하여 의사 결정을 내립니다.

여러 옵션을 비교하여 예상되는 효용성이 가장 높은 옵션을 선택해야 하는 상황에서 자주 사용됩니다.

특정 작업을 위한 작업 과정이나 다른 유형의 컴퓨터와 같이 상담원이 추천해 주기를 원하는 경우 유틸리티 기반 상담원이 도움을 줄 수 있습니다.

학습 에이전트

학습 에이전트는 알 수 없는 환경에서 작동하도록 설계되었습니다. 학습 에이전트는 경험을 통해 학습하고 시간이 지남에 따라 행동에 적응합니다.

딥 러닝과 신경망은 학습 에이전트 개발에 자주 사용됩니다.

시간이 지남에 따라 사용자가 선호하는 것을 학습하기 때문에 이커머스 및 스트리밍 플랫폼 기술에서 개인화 추천 시스템을 강화하는 데 자주 사용됩니다. 

신념-욕구-의도 에이전트

신념-욕구-의도 에이전트는 환경, 욕구, 의도에 대한 신념을 유지함으로써 인간과 유사한 행동을 모델링합니다. 따라서 추론하고 그에 따라 행동을 계획할 수 있으므로 복잡한 시스템에 적합합니다.

논리 기반 에이전트

논리 기반 에이전트는 일반적으로 논리 규칙을 통해 연역적 추론을 사용하여 의사 결정을 내립니다. 복잡한 논리적 추론이 필요한 작업에 적합합니다.

목표 기반 에이전트

목표 기반 상담원은 목표를 달성하기 위해 행동하며 그에 따라 자신의 행동을 조정할 수 있습니다. 현재 행동의 미래 결과에 따라 보다 유연하게 의사 결정을 내릴 수 있습니다.

목표 기반 에이전트의 일반적인 응용 분야는 창고에서 길을 안내하는 에이전트와 같은 로봇 공학입니다. 로봇은 잠재적인 경로를 분석하여 목표 목적지까지 가장 효율적인 경로를 선택할 수 있습니다.

1단계: 파일럿 사용 사례 파악하기

"AI 에이전트를 도입하자!" 상사가 'AI 에이전트의 해'라는 최신 헤드라인을 읽은 후 이런 말을 했다면, 어떤 종류의 AI 에이전트를 시범 운영해야 할지 파악하는 것은 여러분에게 달려 있습니다.

과대 광고에 현혹되기 쉽지만, 가장 좋은 접근 방법은 명확하고 영향력 있는 사용 사례부터 시작하는 것입니다.

상담원이 리드 자격 검증, 고객 지원, 내부 지식 검색 등 업무량을 줄이거나 정확성을 개선하거나 의사 결정을 향상시킬 수 있는 분야를 고려하세요.

강력한 파일럿 사용 사례는 신속하게 구현할 수 있을 만큼 좁지만 영향력을 입증할 수 있을 만큼 가치가 있어야 합니다.

올바른 선택은 구매 동의를 확보하고 ROI를 입증하며 더 광범위한 AI 채택을 위한 기반을 마련하는 데 도움이 됩니다.

2단계: 적합한 플랫폼 찾기

적합한 도구는 전적으로 상황에 따라 달라집니다. 사내 개발 전문 지식은 얼마나 보유하고 있나요? 시간은 얼마나 걸리나요? 에이전트가 파일럿 사용 사례뿐만 아니라 장기적으로 달성해야 하는 목표는 무엇인가요?

대부분의 경우 처음부터 시작하는 대신 AI 플랫폼을 사용하는 것이 좋습니다.

최적의 선택은 수직적이고 유연한 플랫폼, 즉 모든 사용 사례를 구축하고 모든 외부 도구에 연결할 수 있는 구축 소프트웨어입니다. 

최고의 AI 에이전트 구축 도구, 최고의 챗봇 플랫폼 또는 최고의 오픈 소스 플랫폼 목록을 확인할 수 있습니다. 하지만 솔직히 말씀드리자면 저는 저희 플랫폼에 상당히 편향되어 있습니다.

Botpress 포춘 500대 기업 중 35%와 50만 개 이상의 빌더가 사용하고 있습니다.

수년 동안 AI 에이전트를 배포해 왔으며 무료로 사용할 수 있으므로 잃을 것이 없습니다.

3단계: 도구 통합

AI 상담원이 Hubspot 리드를 생성하는 경우, 먼저 AI 플랫폼을 Hubspot과 통합하는 것부터 시작해야 합니다. 

좋은 플랫폼은 미리 구축된 통합 기능을 제공하지만, 틈새 사용 사례의 경우 상담원의 커넥터를 사용자 지정하기 위한 추가 작업이 필요합니다.

팀에서 내부 툴이나 타사 소프트웨어 등 여러 시스템을 통합하는 경우 에이전트가 AI 오케스트레이터 역할을 수행하여 플랫폼 간에 원활한 동기화를 보장할 수 있습니다.

4단계: 테스트 및 개선

네 번째 단계는 플랫폼의 기본 제공 테스트 툴을 사용하여 상담원을 철저하게 테스트하는 것입니다.

테스트 결과에 따라 매개변수, 프롬프트 문구 및 워크플로를 조정하여 실제 시나리오에서 상담원이 잘 수행되도록 하세요.

5단계: 배포 및 모니터링

빌드 및 배포 단계가 중심이 되는 경우가 많지만, 봇 분석을 통한 장기적인 모니터링의 중요성을 과소평가해서는 안 됩니다. 

플랫폼에는 배포 후 상담원의 상호작용과 성과를 추적할 수 있는 모니터링 툴이 포함되어 있어야 합니다.

플랫폼에서 제공하는 피드백 메커니즘을 활용하여 필요에 따라 인사이트를 수집하고 설정을 개선하세요. 

그리고 기억하세요: 최고의 AI 에이전트는 업데이트가 필요합니다. 현업에서 가장 뛰어난 성능을 발휘하는 AI 에이전트 중 일부는 최초 출시 이후 수백 번 업데이트되었습니다.

에이전트를 더 많이 조정할수록 ROI는 더 높아집니다.

작게 시작한 다음 확장

우리는 AI로 강화된 조직의 시대에 접어들고 있지만 누구도 한 번에 도약할 수는 없습니다. AI 에이전트를 확장하기 전에 빠르게 성과를 거둘 수 있는 강력한 파일럿 사용 사례부터 시작하세요.

이를 크롤링-워크-런 방식이라고 합니다. 자세한 내용은 AI 에이전트 구현을 위한 블루프린트에서 확인할 수 있습니다.

고품질 데이터 원본 보장

옛 속담에 '쓰레기가 들어오면 쓰레기가 나온다'는 말이 있습니다. AI 에이전트가 잘 관리된 데이터베이스에서 정보를 가져오지 않는다면 그 영향력은 제한적일 수밖에 없습니다.

상담원이 Hubspot을 사용하여 거래 주기를 추적하고 성사 및 성사 예측 요인을 분석하는 경우 영업 담당자는 잠재 고객의 통화 및 데이터를 추적하는 데 주의를 기울여야 합니다.

명확한 KPI 및 성공 지표 설정

AI 에이전트의 영향력을 제대로 측정할 수 없다면 얼마나 성공적인지 알기 어렵습니다.

응답 정확도, 시간 절약, 전환율, 비용 절감 등 KPI( )를 미리 정의하세요. 이러한 벤치마크는 개선 방향을 제시하고 ROI를 입증하는 데 도움이 됩니다.

RAG 사용

검색 증강 생성을 사용하면 AI 에이전트가 회사의 지식 기반, CRM 또는 문서와 같은 최신 데이터에 근거하여 답변을 제공할 수 있습니다.

이렇게 하면 환각이 발생할 가능성이 줄어들고 정확하고 맥락에 맞는 응답을 보장할 수 있습니다.

규정 준수 위험

AI 에이전트는 GDPR, HIPAA, SOC 2 및 산업별 정책과 같은 규정을 준수해야 합니다. 

규정 준수 위험은 빌더가 처음부터 구축하는 대신 플랫폼에서 AI 에이전트를 만드는 가장 큰 이유 중 하나입니다.

AI 컴플라이언스를 준수해야 하는 업무가 아니라면 전문가에게 맡기는 것이 리소스를 더 효율적으로 사용할 수 있습니다.

사용자 데이터를 잘못 처리하거나, 결정을 기록하지 않거나, 규정을 준수하지 않는 응답을 생성하면 법적 및 재정적 결과를 초래할 수 있습니다.

환각

환각은 대화형 AI 시스템이 부정확하거나 오해의 소지가 있는 정보를 생성하는 것을 말합니다.

이러한 실수는 에어캐나다 챗봇의 실패나 쉐보레 타호를 1달러에 판매한 봇과 같은 스캔들의 중심이 되기도 했습니다.

신중하게 만들어진 AI 에이전트는 거의 환각을 일으키지 않습니다. 검색 증강 생성, 사람 검증 또는 검증 계층을 통해 응답 품질을 보호할 수 있습니다. 실제로 AI 에이전트가 환각을 일으키지 않도록 하는 방법에는 여러 가지가 있습니다.

설명 가능성 부족

AI 에이전트가 의사 결정을 내리는 경우 팀은 그 방법과 이유를 이해할 수 있어야 합니다.

투명성 없이 결과물을 제공하는 블랙박스 시스템은 신뢰를 약화시켜 오류 진단, 규정 준수 보장 또는 성능 개선을 어렵게 만들 수 있습니다.

설명 가능성은 의사 결정을 감사할 수 있어야 하는 규제 대상 산업에서 특히 중요합니다.

에이전트 추론 로깅, 소스 표면화, 휴먼 인 더 루프 검증 통합과 같은 기술은 AI 기반 의사 결정을 명확하고 책임감 있게 유지하는 데 도움이 될 수 있습니다. 

설명 기능이 내장되어 있지 않으면 팀이 상담원의 행동을 정당화하는 데 더 많은 시간을 소비하게 됩니다.

진행 중인 리소스

AI 에이전트는 '한 번 설정하고 잊어버리는' 리소스가 아닙니다.

시간이 지남에 따라 지속적인 모니터링과 개선이 필요한 실제 소프트웨어 프로젝트입니다. 유지 관리는 간과할 경우 에이전트의 성공에 큰 타격을 줄 수 있는 필수 요소입니다.

좋은 소식은 팀이 이에 대한 계획을 세우지 않는다면 이는 단점일 뿐이라는 것입니다. AI 투자에 착수할 준비가 되어 있다면 AI 에이전트에 필요한 지속적인 리소스를 수익률로 쉽게 확인할 수 있습니다.

1. 자율성

AI 에이전트는 사람의 개입 없이 작동하여 독립적으로 의사 결정을 내리고 그에 따라 행동할 수 있습니다.

AI 에이전트는 자율성을 통해 복잡한 작업을 처리하고 프로세스를 가장 잘 완료하는 방법에 대한 실시간 결정을 내릴 수 있지만, 사람이 특정 작업의 구체적인 단계를 코딩하지 않아도 됩니다.

자율 에이전트라고 하면 2001: 스페이스 오디세이의 말하는 컴퓨터인 HAL 9000을 떠올릴 수 있지만, AI 에이전트는 여전히 인간의 지시에 의존합니다.

사용자나 개발자는 상담원에게 무엇을 해야 하는지 설명하는 데 시간을 할애해야 하지만 상담원은 작업을 가장 잘 완료할 수 있는 방법을 찾아 문제를 해결합니다.

2. 지속적인 학습

피드백은 시간이 지남에 따라 AI 에이전트가 개선되는 데 필수적입니다.

이러한 피드백은 비평가 또는 환경 자체의 두 가지 출처에서 나올 수 있습니다.

비평자는 상담원의 성과를 평가하는 인간 상담원이거나 다른 AI 시스템일 수 있습니다. AI 상담원의 환경은 상담원의 행동으로 인한 결과의 형태로 피드백을 제공할 수 있습니다.

이 피드백 루프를 통해 상담원은 적응하고 경험을 통해 학습하며 향후 더 나은 결정을 내릴 수 있습니다.

더 많은 작업을 경험하면서 더 나은 결과를 만들어내는 방법을 학습합니다. 학습 및 개선 능력 덕분에 AI 에이전트는 빠르게 변화하는 환경에 적응할 수 있습니다.↪CF_200D↩

3. 사후 대응 및 사전 예방

AI 에이전트는 환경에 대응하는 동시에 능동적으로 대처할 수 있습니다.

감각 입력을 받아들이기 때문에 환경 변화에 따라 행동 방침을 바꿀 수 있습니다.

예를 들어, 스마트 온도 조절기는 예상치 못한 뇌우가 시작되면 실내 온도가 낮아지는 것을 감지할 수 있습니다. 그 결과 에어컨의 강도를 낮출 수 있습니다. 

또한 매일 거의 같은 시간에 태양이 실내에 비추면 태양의 온기가 나오는 시간에 맞춰 에어컨을 능동적으로 가동합니다.

기업이 첫 AI 에이전트를 배포할 때 흔히 저지르는 실수는 무엇인가요?

기업이 첫 AI 에이전트를 배포할 때 흔히 저지르는 실수는 명확하게 정의된 사용 사례나 측정 가능한 성공 기준 없이 시작하여 참여도가 낮고 영향력이 제한되는 경우가 많습니다. 또한 시간이 지나도 효과를 유지하기 위해 정기적인 업데이트와 개선이 필요한 시스템이 아닌 일회성 배포로 AI 에이전트를 취급하는 경우도 많습니다.

AI 에이전트 파일럿을 위해 어느 정도의 시간과 예산을 계획해야 하나요?

집중 파일럿 프로젝트는 일반적으로 2~6주 이내에 시작할 수 있으며, 특히 노코드 또는 로우코드 플랫폼의 경우 300~700달러를 사용할 수 있습니다.

어떤 종류의 로깅 또는 감사 추적을 구현해야 하나요?

모든 사용자 입력, 상담원의 결정, 취한 조치, 타임스탬프 및 사용자 식별자를 포함한 모든 API 호출을 기록하여 추적할 수 있도록 해야 합니다. 투명성과 진단을 강화하기 위해 가능한 경우 추론 단계나 신뢰도 점수도 포함하면 도움이 됩니다.

휴먼 인 더 루프(HITL)는 실제로 어떤 모습일까요?

실제로 HITL은 AI 에이전트가 승인, 에스컬레이션 또는 모호한 사례와 같은 특정 결정에 대해 사람의 의견을 듣기 위해 잠시 멈춘 후 진행하는 것을 의미합니다. 이를 통해 안전장치를 마련하여 불확실한 작업은 필요할 때 사람이 감독할 수 있도록 합니다.

단일 AI 상담원이 여러 부서(예: HR 및 영업)를 지원할 수 있나요?

예, 적절한 컨텍스트 분리, 역할 기반 행동에 대한 명확한 지침, 지능적인 쿼리 라우팅으로 설계된 경우 하나의 AI 에이전트가 여러 부서에 서비스를 제공할 수 있습니다. 많은 조직에서 한 부서에서 시작하여 에이전트의 기능을 점진적으로 확장하여 중복이나 혼란을 피합니다.