Con người trong vòng lặp (Human-in-the-Loop) trong AI là gì?

Cung cấp phản hồi cho việc học tập liên tục

Bạn biết khi nào ChatGPT hỏi bạn câu trả lời nào trong hai câu trả lời tốt hơn? Phản hồi có thể được coi là dữ liệu mới để mô hình đào tạo.

Tuy nhiên, phản hồi không nhất thiết phải rõ ràng.

Hãy nghĩ đến các đề xuất trên phương tiện truyền thông xã hội. Một mô hình dự đoán liên tục đề xuất nội dung dựa trên lịch sử của bạn. Khi bạn sử dụng nền tảng, lựa chọn nội dung của bạn được sử dụng làm dữ liệu để liên tục đào tạo mô hình đề xuất.

Trong trường hợp này, bạn là con người. Và khi sử dụng ứng dụng, bạn đóng vai trò là người hướng dẫn cho các khuyến nghị trong tương lai. 

Đây chính là nơi mọi thứ được hoàn thiện: mô hình được đào tạo dựa trên dữ liệu, người dùng tương tác với mô hình và những tương tác này lại tạo ra dữ liệu mà mô hình tiếp tục được đào tạo.

Xử lý các tình huống leo thang

HITL không nhất thiết là cải thiện hệ thống. Đôi khi nó là chuyển những trường hợp khó khăn cho con người.

Hãy xem xét một chatbot hỗ trợ khách hàng . Nó giúp giảm bớt một phần lớn công việc của nhóm bạn bằng cách trả lời 95% câu hỏi một cách rõ ràng, súc tích và chính xác.

Nhưng sau đó vẫn còn 5%.

Một số trường hợp sẽ quá cụ thể hoặc đủ mơ hồ đến mức chúng nằm ngoài khả năng của AI. Mặc dù sự can thiệp của con người không cải thiện được mô hình trong trường hợp này, nhưng đây là một ví dụ tuyệt vời về cách con người và máy học có thể hoạt động cộng sinh.

Chú thích dữ liệu để đào tạo

Về mặt kỹ thuật, hầu như tất cả các máy học đều được xây dựng bằng cơ chế HITL. Vì lý do đó, khi chúng ta nói về HITL, chúng ta chủ yếu đề cập đến các danh mục trên.

Tuy nhiên, tôi sẽ có lỗi nếu không đề cập đến sức lao động và chuyên môn của con người trong vòng lặp học máy.

Dữ liệu là xương sống của AI và nó phụ thuộc vào con người. Các mô hình AI được đào tạo để dự đoán nhãn dựa trên dữ liệu đầu vào . Nhãn là đầu ra dự kiến của AI và con người là người tạo ra chúng.

Một số ví dụ về việc dán nhãn của con người bao gồm:

• Viết tay phản hồi cho các lời nhắc để đào tạo các mô hình ngôn ngữ lớn ( LLMs )
• Phiên âm các tệp âm thanh cho mô hình nhận dạng giọng nói .
• Chú thích các đối tượng trong hình ảnh cho các mô hình phát hiện đối tượng
• Đánh dấu email mẫu là thư rác hay không phải thư rác cho trình phát hiện thư rác của máy khách email

Đánh giá hiệu suất mô hình

Phần lớn thời gian dành cho việc xây dựng các mô hình AI là tìm cách cải thiện chúng. Mặc dù có vô số số liệu bạn có thể tính toán, như độ chính xác và độ thu hồi , nhưng cần có hiểu biết chuyên môn để tìm ra cách mô hình hoạt động và quan trọng hơn là phải làm gì về vấn đề đó.

Ví dụ, một nhà nghiên cứu có thể nhận thấy mô hình này rất tốt trong việc nhận dạng hình ảnh chó, nhưng không phải xúc xích . Điều đó thường có thể khắc phục bằng cách thêm hoặc đa dạng hóa hình ảnh xúc xích.

Đôi khi mô hình trò chuyện sẽ gặp khó khăn trong việc ghi nhớ thông tin từ các tin nhắn trước đó. Nhà nghiên cứu thường sẽ giải quyết vấn đề này bằng cách thực hiện các điều chỉnh cấp thấp đối với kiến trúc hoặc phương pháp tạo mô hình.

1. Độ chính xác và độ tin cậy

Cái này thì không cần phải suy nghĩ. Cái gì tốt hơn AI thông thường? AI đã được hiệu chỉnh. 

Không chỉ được tối ưu hóa để giải quyết các trường hợp ngoại lệ mà còn đáng tin cậy theo nghĩa người dùng biết rằng kết quả sẽ liên tục được xem xét và cải thiện.

2. Giảm thiểu thiên vị

Dữ liệu không hoàn hảo và kết quả đầu ra của mô hình sẽ phản ánh điều đó. Sự thiên vị - thiên về một số kết quả đầu ra hơn những kết quả đầu ra khác - là một vấn đề trong học máy và AI.

Những thứ như tạo ra hình ảnh mang tính phân biệt chủng tộc hoặc xác định trình độ công việc theo giới tính là những ví dụ về cách AI phản ánh sự thiên vị có trong dữ liệu đào tạo.

HITL cho phép mọi người đánh dấu những vấn đề này và định hướng mô hình theo hướng công bằng hơn.

3. Cải tiến liên tục và khả năng thích ứng

Quá trình đào tạo không kết thúc chỉ vì mô hình đang trong quá trình sản xuất. HITL cho phép mô hình tiếp tục đào tạo trên dữ liệu mới để khái quát tốt hơn trong các trường hợp chưa từng thấy. 

Ví dụ, việc chỉnh sửa văn bản đã tạo hoặc theo dõi lựa chọn nội dung của người dùng sẽ cung cấp nhiều dữ liệu hơn mà mô hình có thể sử dụng để cải thiện.

Nhưng cải thiện mô hình thôi là chưa đủ; mô hình cũng cần phải thay đổi.

Thật dễ dàng để coi nhẹ cách chúng ta đang thích nghi với một thế giới luôn thay đổi. Với AI, điều này không phải là điều hiển nhiên. HITL kết hợp chuyên môn và phán đoán sắc thái để giữ cho đầu ra của mô hình phù hợp với thời đại.

4. Minh bạch và tin cậy

Việc có sự tham gia của con người làm cho các quyết định của AI minh bạch hơn. Với việc mọi người sửa lỗi đầu ra hoặc giải quyết các trường hợp có độ chắc chắn thấp, người dùng có thể yên tâm rằng họ đang tương tác với một thuật toán hợp lý.

Nó giúp chúng ta kiểm soát được AI, chứ không phải ngược lại.

1. Tự lái

Với giá trị thị trường dự kiến đạt 3,9 nghìn tỷ USD trong thập kỷ tới, xe tự lái có thể là biên giới lớn tiếp theo của AI. Nó tận dụng các mô hình phát hiện vật thể và ra quyết định từng khoảnh khắc để mô phỏng việc lái xe của một người.

Nhưng đối với một thứ không cần can thiệp, nó phụ thuộc khá nhiều vào con người. Các mô hình liên tục quan sát các kiểu lái xe của con người và so sánh quyết định của họ với dự đoán của chính nó.

2. Bán lẻ

Chatbot bán lẻ là một cách tuyệt vời để tự động hóa tương tác với khách hàng trong khi vẫn cung cấp trải nghiệm được cá nhân hóa. HITL cho phép bạn duy trì trải nghiệm đó một cách mượt mà và phù hợp với doanh nghiệp của bạn. Ví dụ: bạn có thể:

• Xem lại và sửa các đề xuất sản phẩm của bot
• Yêu cầu khách hàng nói về nhu cầu cơ bản của họ trước khi chuyển đến nhân viên hỗ trợ

3. Tài chính

Chatbot tài chính là cách tuyệt vời để kết hợp giữa tự động hóa AI và chuyên môn của con người.

Hệ thống phát hiện gian lận rất tuyệt vời trong việc phát hiện các hoạt động đáng ngờ trong giao dịch. Nhưng không phải mọi hoạt động đáng ngờ đều là xấu xa và bạn không muốn thẻ của mình bị hủy mỗi khi đổi đơn hàng cà phê.

HITL có thể chuyển những trường hợp có mức độ chắc chắn và rủi ro thấp sang cho con người.

Đánh giá rủi ro cho vay là một lĩnh vực khác mà AI rất giỏi - nó rất tuyệt trong việc tính toán xác suất trên tất cả các loại dữ liệu có vẻ không liên quan. Tuy nhiên, dữ liệu đó gần như chắc chắn sẽ bao gồm một số sai lệch. 

Việc duy trì sự công bằng và giảm thiểu thiên vị thường cần đến sự giúp đỡ của một người thực sự.

4. Chăm sóc sức khỏe

Người dùng Reddit được Claude cứu sống sẽ là người đầu tiên ủng hộ tiềm năng của AI trong chăm sóc sức khỏe.

Các chatbot AI y tế đã thể hiện một số tiềm năng của nó, nhưng nó còn hơn thế nữa: AI có thể giúp xác định chẩn đoán dựa trên kết quả MRI hoặc đề xuất theo dõi dựa trên kết quả xét nghiệm. Nhưng tôi chưa sẵn sàng từ bỏ bác sĩ.

HITL mang đến điều tốt nhất của cả hai thế giới: phát hiện những trường hợp mà bác sĩ có thể bỏ sót, đồng thời vẫn cho phép họ đưa ra quyết định cuối cùng.

Làm sao tôi biết được hệ thống AI của tôi có cần sự tham gia của con người hay không?

Hệ thống AI của bạn có thể cần sự tham gia của con người nếu nó xử lý các quyết định quan trọng, thường xuyên gặp phải các tình huống mơ hồ hoặc hiếm gặp, có nguy cơ tạo ra kết quả đầu ra thiên vị hoặc có hại hoặc hoạt động trong các lĩnh vực mà độ chính xác tuyệt đối và khả năng phán đoán của con người là cần thiết để tuân thủ hoặc tạo niềm tin cho khách hàng.

Liệu con người có thể được sử dụng trong các quy trình kinh doanh phi kỹ thuật hay chỉ trong các mô hình AI?

Con người trong vòng lặp có thể được sử dụng trong các quy trình kinh doanh phi kỹ thuật như xem xét khiếu nại của khách hàng hoặc kiểm duyệt nội dung, vì điều này có nghĩa là đưa phán đoán của con người vào bất kỳ quy trình làm việc tự động nào mà chỉ dựa vào quyết định của máy móc có thể không đủ.

Việc sử dụng con người trong vòng lặp có nghĩa là hệ thống AI của tôi kém tiên tiến hơn không?

Việc sử dụng con người trong vòng lặp không có nghĩa là hệ thống AI của bạn kém tiên tiến hơn. Điều này cho thấy bạn đang ưu tiên sự an toàn và công bằng bằng cách kết hợp tốc độ và khả năng nhận dạng mẫu của AI với khả năng phán đoán của con người để đưa ra những quyết định tinh tế, điều này thường rất cần thiết.

Liệu AI có sự tham gia của con người có hiệu quả về mặt chi phí đối với các doanh nghiệp nhỏ hay chỉ dành cho các doanh nghiệp lớn?

AI có sự tham gia của con người ngày càng tiết kiệm chi phí cho các doanh nghiệp nhỏ vì các công cụ hiện đại cho phép bạn chỉ sử dụng con người một cách có chọn lọc cho các trường hợp khó, giảm thiểu chi phí lao động nhưng vẫn cải thiện độ chính xác và độ tin cậy mà không cần đến lực lượng lao động lớn.

Phải mất bao nhiêu chi phí để thêm các quy trình có sự tham gia của con người vào hệ thống AI?

Việc thêm các quy trình có sự tham gia của con người có thể tốn kém từ mức tối thiểu - nếu bạn thỉnh thoảng sử dụng nhân viên nội bộ - cho đến mức đáng kể, lên tới hàng trăm hoặc hàng nghìn dollars hàng tháng nếu bạn cần người đánh giá chuyên trách hoặc nhà thầu chuyên môn, với chi phí chủ yếu phụ thuộc vào khối lượng và độ phức tạp của các nhiệm vụ mà con người phải xử lý.