Academy
Cách xây dựng và triển khai AI Agent đầu tiên của bạn
Đo lường, giám sát và cải thiện AI Agent sau khi ra mắt
8
ai-agent-dau-tien-cua-ban
8
7
6
5
4
2
3
1
5
15
11
9
20
18
19
17
16
15
14
13
12
11
10
8
7
6
5
4
3
2
1
10
18
17
16
14
13
12
10
9
8
7
6
4
3
2
1
9
8
7
6
5
4
3
2
1
7
6
5
4
3
2
1
6
5
4
3
2
1
Bài học tiếp theo
Bài học tiếp theo
Trong bài học này

Khi bạn không xác định tiêu chí thành công cho dự án agent của mình, sẽ không có cách nào để nó thành công.

Các nhóm triển khai agent, thấy có một số hoạt động rồi dần không biết liệu nó có thực sự mang lại lợi ích cho doanh nghiệp hay không. Một agent hoạt động không chỉ đơn giản là chạy được.

Đó là agent tạo ra kết quả có thể đo lường, lặp lại và phù hợp với mục tiêu bạn đã đặt ra.

Bài học này giúp bạn xây dựng thói quen đo lường những gì thực sự quan trọng: không phải các chỉ số hình thức, mà là các chỉ số chứng minh agent của bạn đang thực sự làm việc. Thành công bắt đầu từ việc xác định rõ giá trị.

Câu trả lời cần liên kết trực tiếp với một kết quả kinh doanh.

Ví dụ:

  • Giải quyết 50% yêu cầu hỗ trợ mà không cần con người can thiệp.
  • Tăng giá trị đơn hàng trung bình lên 20%.
  • Thu thập và tổng hợp phản hồi khách hàng mỗi tuần.
  • Giảm một nửa thời gian phản hồi trung bình.

Mỗi mục tiêu này đều đơn giản, có thể đo lường và phù hợp với nhu cầu vận hành thực tế. Khi đã đặt ra mục tiêu, bạn có thể xác định các chỉ số để xác nhận mình có đang đạt được mục tiêu đó hay không.

Các chỉ số đáng tin cậy nhất cho AI agent thuộc 5 nhóm sau:

  1. Sử dụng — số lượng phiên hoặc tương tác trong một khoảng thời gian nhất định.
  2. Tỷ lệ hoàn thành — tần suất agent hoàn thành nhiệm vụ thành công.
  3. Tỷ lệ chuyển tiếp — tần suất cuộc trò chuyện được chuyển cho con người.
  4. Tác động kinh doanh — các chỉ số liên quan đến kết quả như doanh thu, tỷ lệ chuyển đổi hoặc điểm hài lòng.
  5. Sức khỏe hệ thống — dữ liệu hiệu suất như độ trễ, chi phí và tỷ lệ lỗi.

Theo dõi cả năm chỉ số này sẽ cho bạn cái nhìn cân bằng về trải nghiệm khách hàng và độ tin cậy kỹ thuật. Khi các chỉ số này cải thiện, bạn biết agent đang làm tốt nhiệm vụ. Nếu không, bạn có thông tin cần thiết để điều chỉnh.

Tại Terminal Roast, cả nhóm đồng ý cùng chịu trách nhiệm giám sát thành công.

Taryn, chủ quán, tập trung vào kết quả định tính — cảm nhận của khách hàng và mức độ hài lòng tổng thể.

Gideon, trưởng nhóm kỹ thuật, theo dõi bảng phân tích số liệu về mức sử dụng, tỷ lệ hoàn thành và lỗi.

Adrian, nhân viên pha chế, xem lại các bản tổng hợp hàng tuần do agent tạo ra để xem phản hồi có thể thực hiện được không.

Họ cùng nhau họp mỗi tuần để xem số liệu và thảo luận những gì cần điều chỉnh. Nếu agent chuyển quá nhiều cuộc trò chuyện cho con người, họ kiểm tra lại lời nhắc hoặc hướng dẫn có cần tinh chỉnh không. Nếu lượng sử dụng giảm, họ kiểm tra xem widget có hiển thị và hoạt động trên website không.

Việc cùng chịu trách nhiệm giữ cho dự án luôn hoạt động. Nhóm xem agent như một hệ thống sống, liên tục cải tiến theo thời gian, thay vì chỉ xây dựng một lần rồi thôi. Tiêu chí thành công cũng quyết định cách bạn cải tiến. Nếu chỉ theo dõi dữ liệu bề nổi, bạn sẽ bỏ lỡ những vấn đề thực sự.

Ví dụ, số lượng cuộc trò chuyện cao có thể trông tốt, nhưng nếu tỷ lệ hoàn thành thấp, agent đang thất bại một cách âm thầm. Một hệ thống chỉ số rõ ràng sẽ ngăn điều đó. Nó cho bạn biết khi nào cần huấn luyện lại, khi nào cần điều chỉnh quy trình, và khi nào cần cải thiện trải nghiệm cho người dùng.

Đây là một cấu trúc tốt để giám sát sau khi ra mắt:

  1. Xác định 2–3 chỉ số chính phù hợp với mục tiêu ban đầu của bạn.
  2. Thiết lập giá trị cơ sở bằng quy trình hiện tại trước khi agent được triển khai.
  3. Đặt ngưỡng để can thiệp — ví dụ tỷ lệ chuyển tiếp trên 20%, hoặc thời gian phản hồi vượt quá giới hạn đặt ra.
  4. Xem xét hàng tuần lúc đầu, sau đó hàng tháng khi hệ thống đã ổn định.

Hãy kết hợp cả dữ liệu định lượng và định tính. Số liệu cho thấy kết quả, còn phản hồi của con người cho thấy chất lượng.

Nhóm Terminal Roast có được một quy trình có thể lặp lại.

Họ thu thập phản hồi, thực hiện các cập nhật nhỏ và theo dõi kết quả. Mỗi cải tiến đều dựa trên bằng chứng, không phải phỏng đoán.

Chu trình này (đo lường, điều chỉnh và lặp lại) biến agent của họ từ thử nghiệm thành công cụ vận hành thực tế. Đây cũng là chu trình mà mọi nhóm thành công với AI ở quy mô lớn đều áp dụng. Định nghĩa thành công không chỉ để đo lường kết quả, mà còn đảm bảo tiến trình không bao giờ dừng lại.

Hành động: Viết ra hai chỉ số thành công cho agent của bạn: một liên quan đến trải nghiệm người dùng và một liên quan đến tác động kinh doanh.

Quyết định ai trong nhóm sẽ giám sát từng chỉ số, và tần suất họ sẽ xem xét sau khi ra mắt.

Vậy là xong! Nếu có một điều bạn rút ra từ khóa học này, thì đó là việc lên kế hoạch tốt trước khi bắt đầu xây dựng sẽ giúp bạn tiến rất xa. Chúc bạn xây dựng bot vui vẻ!

Tóm tắt
Cách xác định các chỉ số thành công cho AI agent để liên kết việc sử dụng và hiệu suất với kết quả kinh doanh thực tế.
tất cả bài học trong khóa học này
Fresh green broccoli floret with thick stalks.