- Human-in-the-loop (HITL) ผสมผสานการดูแลโดยมนุษย์เข้ากับระบบ AI เพื่อปรับปรุงความแม่นยำ
- มนุษย์เข้ามาแทรกแซงโดยการใส่คำอธิบายประกอบข้อมูล ตรวจสอบผลลัพธ์ของ AI จัดการการยกระดับ และแนะนำการปรับปรุงโมเดล
- HITL ช่วยเพิ่มความน่าเชื่อถือ ลดอคติ ช่วยให้สามารถเรียนรู้ได้อย่างต่อเนื่อง และทำให้ระบบ AI โปร่งใสมากขึ้น
- กรณีการใช้งานครอบคลุมถึงรถยนต์ขับเคลื่อนอัตโนมัติ หุ่นยนต์ค้าปลีก การตรวจสอบความเสี่ยงทางการเงิน และการตัดสินใจด้านการดูแลสุขภาพ
หากคุณกำลังคิดที่จะปรับปรุงธุรกิจของคุณด้วย AI คุณไม่ได้คิดอยู่คนเดียว เนื่องจากแชทบอท AI เป็น ช่องทางการสื่อสารที่เติบโตเร็วที่สุด แชทบอทจึงไม่ใช่สิ่งฟุ่มเฟือยอีกต่อไป แต่เป็นสิ่งที่คาดหวัง
การยอมสละการควบคุมนั้นอาจดูน่ากลัว การโอนภาระการทำงานที่สำคัญให้กับสิ่งที่เรียกว่า "อัลกอริทึมกล่องดำ" อาจดูเหมือนเป็นการแสดงความศรัทธาครั้งใหญ่
และนั่นคือเหตุผลว่าทำไมธุรกิจจึงพึ่งพาการแทรกแซงของมนุษย์ในการบังคับบัญชา AI เฟรมเวิร์กของ เอเจนต์ AI เกือบทั้งหมดมีการควบคุมดูแลโดยมนุษย์ในการดำเนินการ AI

ในบทความนี้ ฉันจะอธิบายว่ามันคืออะไร มันทำงานอย่างไร และยกตัวอย่างบางส่วนว่าการแทรกแซงของมนุษย์ถูกนำมาใช้ในชีวิตประจำวันอย่างไร เพื่อให้ผู้ใช้ควบคุม แชทบอทและตัวแทน AI ได้มากขึ้น
Human-in-the-loop คืออะไร?
Human-in-the-loop (HITL) คือแนวทางการทำงานร่วมกันของ AI โดยนำข้อมูลจากมนุษย์มาปรับปรุงหรือขยายขีดความสามารถของ AI ซึ่งอาจอยู่ในรูปแบบของข้อมูลที่มีคำอธิบายประกอบโดยมนุษย์ ผลลัพธ์ของโมเดลที่ได้รับการแก้ไข หรือการให้มนุษย์ทำงานทั้งหมดในกรณีที่ AI ไม่แน่นอนหรือถือว่าไม่มีประสิทธิภาพ
คำศัพท์นี้อาจคลุมเครือเล็กน้อย โดยทางเทคนิคแล้ว คำศัพท์ดังกล่าวหมายถึงการมีส่วนร่วม ของ มนุษย์ในวงจรชีวิตของแอปพลิเคชัน AI ตั้งแต่ การติดฉลากข้อมูล และ การประเมินโมเดล ไปจนถึง การเรียนรู้เชิงรุก และ การยกระดับ
ในทางปฏิบัติ เมื่อผู้ให้บริการ AI เสนอฟังก์ชัน HITL โดยทั่วไปจะหมายถึงการดูแลผลลัพธ์ของ AI: โอกาสในการตรวจสอบคำตอบและส่งต่อการโต้ตอบของแชทบอทไปยังเจ้าหน้าที่
มนุษย์อยู่ในวงจรของ AI อย่างไร?
ระบบ AI ที่มีประสิทธิภาพจะต้องมีจุดเข้าหลายจุดสำหรับมนุษย์
AI ได้รับการฝึกฝนให้เปิดเผยรูปแบบในข้อมูลฝึกอบรม จากนั้นจึงสรุปรูปแบบเหล่านี้ให้เป็นข้อมูลใหม่ที่ไม่เคยเห็นมาก่อน เราเป็นผู้ตัดสินใจว่าโมเดลจะมองเห็นข้อมูลใด แต่ไม่สามารถตัดสินใจได้ว่าโมเดลจะดึงรูปแบบใดมาจากข้อมูล
ในทุกขั้นตอนของกระบวนการ ตั้งแต่การรวบรวมข้อมูล การฝึกอบรม และการปรับใช้ เป็นหน้าที่ของผู้คนที่จะตรวจสอบให้แน่ใจว่าโมเดลทำงานตามที่คาดหวัง
ขึ้นอยู่กับว่าการแทรกแซงของมนุษย์เกิดขึ้นที่ไหนและอย่างไร อาจเข้าข่ายหมวดหมู่ใด ๆ ต่อไปนี้:
การให้ข้อเสนอแนะเพื่อการเรียนรู้ต่อเนื่อง
คุณรู้เมื่อไหร่ ChatGPT ถามคุณว่าคำตอบใดดีกว่ากัน ข้อเสนอแนะสามารถถือเป็นข้อมูลใหม่สำหรับโมเดลในการฝึกอบรมได้

อย่างไรก็ตาม ข้อเสนอแนะไม่จำเป็นต้องชัดเจน
ลองนึกถึงคำแนะนำในโซเชียลมีเดีย โมเดลเชิงทำนายจะแนะนำเนื้อหาตามประวัติของคุณอย่างต่อเนื่อง ในขณะที่คุณใช้แพลตฟอร์ม เนื้อหาที่คุณเลือกจะถูกใช้เป็นข้อมูลในการฝึกโมเดลคำแนะนำอย่างต่อเนื่อง
ในกรณีนี้ คุณคือ มนุษย์ และในการใช้แอป คุณกำลังทำหน้าที่เป็นแนวทางสำหรับคำแนะนำในอนาคต
นี่คือที่มาของวงจรเต็มรูปแบบ: โมเดลจะได้รับการฝึกด้วยข้อมูล ผู้ใช้โต้ตอบกับโมเดล และการโต้ตอบเหล่านี้จะสร้างข้อมูลที่โมเดลจะได้รับการฝึกอีกครั้ง
การจัดการกับสถานการณ์ที่ทวีความรุนแรงมากขึ้น
HITL ไม่จำเป็นต้องเป็นการปรับปรุงระบบเสมอไป บางครั้งอาจเป็นการเลื่อนกรณีที่ยากไปให้มนุษย์จัดการแทน
ลองพิจารณาใช้ แชทบอทสำหรับฝ่ายสนับสนุนลูกค้า ซึ่งจะช่วยลดภาระงานของทีมของคุณลงได้มาก โดยตอบคำถามได้ชัดเจน กระชับ และถูกต้องถึง 95%
แต่แล้วยังมีอีก 5% นะ
บางกรณีอาจมีความเฉพาะเจาะจงมากเกินไปหรือคลุมเครือมากพอจนเกินขอบเขตความสามารถของ AI แม้ว่าการแทรกแซงของมนุษย์จะไม่ได้ช่วยปรับปรุงโมเดลในกรณีนี้ แต่ก็ถือเป็นตัวอย่างที่ดีของวิธีที่มนุษย์และการเรียนรู้ของเครื่องจักรสามารถทำงานร่วมกันได้
การใส่คำอธิบายประกอบข้อมูลสำหรับการฝึกอบรม
หากพูดกันในทางเทคนิคแล้ว การเรียนรู้ของเครื่องเกือบทั้งหมดถูกสร้างขึ้นด้วยกลไก HITL ด้วยเหตุนี้ เมื่อเราพูดถึง HITL เราจะหมายถึงหมวดหมู่ข้างต้นเป็นส่วนใหญ่
กล่าวได้ว่า ฉันคงจะละเลยหน้าที่ถ้าฉันไม่ดึงความสนใจไปที่แรงงานของมนุษย์และความเชี่ยวชาญในวงจรการเรียนรู้ของเครื่องจักร
ข้อมูลถือเป็นกระดูกสันหลังของ AI และต้องอาศัยมนุษย์ โมเดล AI ได้รับการฝึกฝนให้ทำนาย ป้ายกำกับ โดยอิงจาก ข้อมูลอินพุต ป้ายกำกับ คือผลลัพธ์ที่คาดหวังจาก AI และขึ้นอยู่กับเราในฐานะมนุษย์ที่จะสร้างป้ายกำกับเหล่านี้
ตัวอย่างของการติดฉลากของมนุษย์ ได้แก่:
- การตอบคำถาม ด้วยลายมือเพื่อ ฝึก โมเดลภาษาขนาดใหญ่ ( LLMs -
- ถอดเสียงไฟล์เสียง สำหรับโมเดล การจดจำเสียงพูด
- การใส่คำอธิบาย วัตถุ ใน ภาพ สำหรับแบบจำลอง การตรวจจับวัตถุ
- การทำเครื่องหมาย อีเมล ตัวอย่างว่าเป็น สแปมหรือไม่ใช่สแปม สำหรับ เครื่องตรวจจับสแปม ของไคลเอนต์อีเมล
การประเมินประสิทธิภาพของโมเดล
เวลาส่วนใหญ่ที่ใช้สร้างโมเดล AI คือการคิดหาวิธีทำให้โมเดลดีขึ้น แม้ว่าจะมีเมตริกมากมายที่คุณสามารถคำนวณได้ เช่น ความแม่นยำและการเรียกคืน แต่ต้องใช้ข้อมูลเชิงลึกจากผู้เชี่ยวชาญจึงจะระบุได้ว่าโมเดลทำงานอย่างไร และที่สำคัญกว่านั้นคือต้องทำอย่างไรกับมัน
ตัวอย่างเช่น นักวิจัยอาจสังเกตเห็นว่าโมเดลนี้ทำงานได้ดีในการระบุรูปภาพของสุนัข แต่ไม่สามารถระบุรูปภาพของ ฮอทดอก ได้ โดยทั่วไปแล้ว ปัญหานี้สามารถแก้ไขได้โดยการเพิ่มหรือทำให้รูปภาพของฮอทดอกหลากหลายขึ้น
บางครั้งโมเดลการแชทอาจประสบปัญหาในการจดจำข้อมูลจากข้อความก่อนหน้า โดยทั่วไปนักวิจัยจะแก้ไขปัญหานี้โดยการปรับสถาปัตยกรรมหรือวิธีการสร้างโมเดลในระดับต่ำ
ประโยชน์ของ AI ที่มนุษย์อยู่ในวงจร
AI อาจมีประสิทธิภาพและมีประสิทธิผลอย่างเหลือเชื่อในการจดจำรูปแบบที่ละเอียดอ่อน แต่มนุษย์ก็ ฉลาด
HITL คือการผสมผสานความแตกต่างในระดับของมนุษย์เข้ากับประสิทธิภาพของ ระบบอัตโนมัติเวิร์กโฟลว์ของ AI เพื่อให้การตอบสนองได้รับการปรับแต่งตามประสบการณ์ที่ผู้ใช้และผู้ให้บริการกำลังมองหา
1. ความแม่นยำและความน่าเชื่อถือ
อันนี้ไม่ต้องคิดมากเลย อะไรจะดีไปกว่า AI ธรรมดาๆ ล่ะ AI ที่ได้รับการแก้ไขแล้ว
ไม่เพียงแต่ได้รับการปรับปรุงเพื่อจัดการกับกรณีขอบเท่านั้น แต่ยัง เชื่อถือได้ ในแง่ที่ว่าผู้ใช้รู้ว่าผลลัพธ์จะได้รับการตรวจสอบและปรับปรุงอย่างต่อเนื่อง

2. การลดอคติ
ข้อมูลไม่สมบูรณ์แบบ และผลลัพธ์ของโมเดลจะสะท้อนให้เห็นสิ่งนั้น อคติ – การเบี่ยงเบนไปทางผลลัพธ์บางอย่างมากกว่าผลลัพธ์อื่นๆ – เป็นปัญหาที่เกิดขึ้นในระบบการเรียนรู้ของเครื่องจักรและปัญญาประดิษฐ์
สิ่งต่างๆ เช่น การสร้างภาพที่แสดงถึงเชื้อชาติ หรือการกำหนดคุณสมบัติในการทำงานตามเพศ เป็นตัวอย่างวิธีที่ AI สะท้อนอคติที่มีอยู่ในข้อมูลการฝึกอบรม
HITL ช่วยให้ผู้คนสามารถแจ้งปัญหาเหล่านี้และชี้นำโมเดลไปสู่ผลลัพธ์ที่ยุติธรรมมากขึ้น
3. การปรับปรุงและปรับตัวอย่างต่อเนื่อง
การฝึกอบรมไม่ได้สิ้นสุดลงเพียงเพราะโมเดลกำลังอยู่ในระหว่างการผลิต HITL ช่วยให้โมเดลสามารถฝึกอบรมข้อมูลใหม่ต่อไปได้ เพื่อให้สามารถสรุปผลกรณีที่ไม่เคยพบเห็นได้ดียิ่งขึ้น
ตัวอย่างเช่น การแก้ไขข้อความที่สร้างขึ้น หรือ การเลือกเนื้อหาตามของผู้ใช้ จะทำให้มีข้อมูลชิ้นมากขึ้นที่โมเดลสามารถใช้ปรับปรุงได้
แต่การที่โมเดลจะดีขึ้นนั้นไม่เพียงพอ มันยังต้องเปลี่ยนแปลงด้วย
การปรับตัวให้เข้ากับโลกที่เปลี่ยนแปลงตลอดเวลานั้นเป็นเรื่องง่าย แต่ AI จะทำให้สิ่งนี้เกิดขึ้นได้ HITL ผสมผสานความเชี่ยวชาญและการตัดสินใจอย่างพิถีพิถันเพื่อให้ผลลัพธ์ของแบบจำลองสอดคล้องกับยุคสมัย
4. ความโปร่งใสและความไว้วางใจ
การมีส่วนร่วมของมนุษย์ทำให้การตัดสินใจของ AI โปร่งใสมากขึ้น เมื่อผู้คนแก้ไขผลลัพธ์หรือแก้ไขกรณีที่มีความแน่นอนต่ำ ผู้ใช้สามารถมั่นใจได้ว่าพวกเขากำลังโต้ตอบกับอัลกอริทึมที่สมเหตุสมผล
มันช่วยให้เราควบคุม AI ได้ ไม่ใช่ทางอื่น
กรณีการใช้งานของ Human-in-the-Loop
1. การขับขี่ด้วยตนเอง

ด้วยมูลค่าทางการตลาดที่คาดว่าจะสูงถึง 3.9 ล้านล้าน USD ในช่วงทศวรรษหน้า ระบบขับขี่อัตโนมัติอาจกลายเป็นแนวโน้มสำคัญครั้งต่อไปของ AI โดยใช้ประโยชน์จากโมเดลการตรวจจับวัตถุและการตัดสินใจในแต่ละช่วงเวลาเพื่อจำลองการขับขี่ของบุคคล
แต่สำหรับสิ่งที่ไม่ต้องลงมือทำอะไรมาก มันต้องอาศัยมนุษย์เป็นอย่างมาก โมเดลจะสังเกตรูปแบบการขับขี่ของมนุษย์อย่างต่อเนื่อง และเปรียบเทียบการตัดสินใจของมนุษย์กับการคาดการณ์ของตัวเอง
2. การขายปลีก
Chatbot สำหรับร้านค้าปลีก เป็นวิธีที่ยอดเยี่ยมในการทำให้การโต้ตอบกับลูกค้าเป็นระบบอัตโนมัติในขณะที่ยังมอบประสบการณ์ที่เป็นส่วนตัว HITL ช่วยให้คุณสามารถรักษาประสบการณ์นั้นให้ราบรื่นและสอดคล้องกับธุรกิจของคุณ ตัวอย่างเช่น คุณสามารถ:
- ตรวจสอบและแก้ไขคำแนะนำผลิตภัณฑ์ของบอท
- ให้ลูกค้าพูดคุยเกี่ยวกับความต้องการพื้นฐานของพวกเขา ก่อนที่จะส่งต่อไปยังเจ้าหน้าที่
3.การเงิน
แชทบอททางการเงิน เป็นวิธีที่ยอดเยี่ยมในการเชื่อมโยงระหว่างการทำงานอัตโนมัติของ AI และความเชี่ยวชาญของมนุษย์
ระบบตรวจจับการฉ้อโกงนั้นยอดเยี่ยมมากในการตรวจหาการกระทำที่น่าสงสัยในการทำธุรกรรม แต่ไม่ใช่ว่าการกระทำที่น่าสงสัยทั้งหมดจะเป็นการกระทำที่ชั่วร้าย และคุณคงไม่อยากให้บัตรของคุณถูกยกเลิกทุกครั้งที่คุณเปลี่ยนคำสั่งซื้อกาแฟ
HITL สามารถเลื่อนคดีที่มีความแน่นอนต่ำและความเสี่ยงต่ำให้กับมนุษย์ได้
การประเมินความเสี่ยงของสินเชื่อเป็นอีกสาขาหนึ่งที่ AI ทำได้ยอดเยี่ยม เนื่องจากสามารถคำนวณความน่าจะเป็นจากข้อมูลทุกประเภทที่ดูเหมือนไม่เกี่ยวข้องกันได้ อย่างไรก็ตาม ข้อมูลดังกล่าวแทบจะรวมถึงอคติบางส่วนด้วย
การรักษาความยุติธรรมและลดอคติมักต้องได้รับความช่วยเหลือจากบุคคลจริง
4. การดูแลสุขภาพ

ผู้ใช้ Reddit ที่ ชีวิตของเขาได้รับการช่วยชีวิต โดย Claude จะเป็นคนแรกที่จะสนับสนุนศักยภาพของ AI ในระบบดูแลสุขภาพ
แชทบอท AI ทางการแพทย์ ได้แสดงให้เห็นถึงศักยภาพบางส่วนแล้ว แต่ยังมีศักยภาพมากกว่านั้น: AI สามารถช่วยวินิจฉัยโรคโดยอาศัยผล MRI หรือแนะนำการติดตามผลโดยอาศัยผลการทดสอบ แต่ฉันไม่พร้อมที่จะละทิ้งแพทย์
HITL นำเสนอสิ่งที่ดีที่สุดของทั้งสองโลก: การตรวจจับกรณีที่แพทย์อาจพลาดไป ขณะเดียวกันก็ยังให้พวกเขาเป็นผู้ตัดสินใจขั้นสุดท้ายได้
ใช้ AI เสริมของมนุษย์วันนี้
Botpress มีบอทนับพันตัวที่ถูกปรับใช้โดยการควบคุมโดยมนุษย์อย่างราบรื่น และเป็นแพลตฟอร์มตัวแทน AI ที่มีความยืดหยุ่นมากที่สุดในตลาด
Botpress มาพร้อมกับการบูรณาการ HITL ตัวสร้างแบบลากและวาง และการปรับใช้ข้ามช่องทางการสื่อสารยอดนิยมทั้งหมด (รวมถึง Slack - Telegram - WhatsApp , เว็บ) ดังนั้นการใช้ AI ไม่ได้หมายถึงการเสียสละการสัมผัสส่วนบุคคลของคุณ
เริ่มสร้างวันนี้ ฟรี
คำถามที่พบบ่อย
ฉันจะรู้ได้อย่างไรว่าระบบ AI ของฉันจำเป็นต้องมีการมีส่วนร่วมของมนุษย์หรือไม่
ระบบ AI ของคุณอาจต้องมีมนุษย์เข้ามามีส่วนร่วม หากต้องจัดการกับการตัดสินใจที่มีความสำคัญสูง พบเจอกับสถานการณ์ที่คลุมเครือหรือเกิดขึ้นไม่บ่อย เสี่ยงต่อการสร้างผลลัพธ์ที่ลำเอียงหรือเป็นอันตราย หรือทำงานในพื้นที่ที่ความแม่นยำสูงสุดและการตัดสินของมนุษย์มีความจำเป็นต่อการปฏิบัติตามข้อกำหนดหรือความไว้วางใจของลูกค้า
Human-in-the-loop สามารถใช้ในกระบวนการทางธุรกิจที่ไม่เกี่ยวกับเทคนิคหรือใช้เฉพาะในโมเดล AI เท่านั้นได้หรือไม่
การใช้มนุษย์ร่วมอยู่ในกระบวนการทางธุรกิจสามารถนำมาใช้ในกระบวนการทางธุรกิจที่ไม่เกี่ยวกับเทคนิค เช่น การตรวจสอบข้อร้องเรียนของลูกค้าหรือการควบคุมเนื้อหา เนื่องจากหมายถึงการแทรกการตัดสินใจของมนุษย์เข้าไปในเวิร์กโฟลว์อัตโนมัติใดๆ ที่การตัดสินใจของเครื่องจักรเพียงอย่างเดียวอาจไม่เพียงพอ
การใช้ human-in-the-loop หมายความว่าระบบ AI ของฉันมีความก้าวหน้าน้อยลงหรือไม่?
การใช้มนุษย์ร่วมวงไม่ได้หมายความว่าระบบ AI ของคุณมีความก้าวหน้าน้อยลง แต่มันแสดงให้เห็นว่าคุณให้ความสำคัญกับความปลอดภัยและความเป็นธรรม ด้วยการผสานความเร็วและการจดจำรูปแบบของ AI เข้ากับการตัดสินใจของมนุษย์เพื่อการตัดสินใจที่ละเอียดอ่อน ซึ่งมักเป็นสิ่งสำคัญ
การใช้ AI แบบมีมนุษย์ร่วมด้วยนั้นคุ้มต้นทุนสำหรับธุรกิจขนาดเล็กหรือสำหรับองค์กรขนาดใหญ่เท่านั้นหรือไม่
AI ที่มีมนุษย์ร่วมอยู่ในกระบวนการมีความคุ้มทุนมากขึ้นสำหรับธุรกิจขนาดเล็ก เนื่องจากเครื่องมือสมัยใหม่ช่วยให้คุณสามารถเลือกมนุษย์เข้ามามีส่วนร่วมเฉพาะในกรณีที่ยุ่งยากเท่านั้น ซึ่งจะช่วยลดต้นทุนแรงงานให้เหลือน้อยที่สุด ในขณะเดียวกันก็ปรับปรุงความแม่นยำและความน่าเชื่อถือโดยไม่จำเป็นต้องใช้พนักงานจำนวนมาก
การเพิ่มกระบวนการควบคุมโดยมนุษย์ลงในระบบ AI มีค่าใช้จ่ายเท่าไร?
การเพิ่มกระบวนการที่มีมนุษย์ร่วมอยู่ในวงจรอาจมีต้นทุนตั้งแต่เพียงเล็กน้อย — หากคุณใช้พนักงานภายในเป็นครั้งคราว — ไปจนถึงต้นทุนสูงที่สูงถึงหลายร้อยหรือหลายพัน dollars รายเดือนหากคุณต้องการผู้ตรวจสอบเฉพาะทางหรือผู้รับเหมาเฉพาะทาง โดยต้นทุนจะขึ้นอยู่กับปริมาณและความซับซ้อนของงานที่มนุษย์ต้องจัดการเป็นหลัก