ตัวแทนมนุษย์ในวง
เจ้าหน้าที่ Human-in-the-loop (HITL) คือระบบ AI ที่หยุดชั่วคราวเพื่อขออนุมัติ แก้ไข หรือป้อนข้อมูลจากบุคคลก่อนดำเนินการที่เป็นผลตามมา
ภาพรวม
They keep a human accountable for high-stakes decisions while still letting automation do the heavy lifting.
เจาะลึก
ตัวแทนที่เป็นอิสระอย่างเต็มที่จะตัดสินใจและดำเนินการด้วยตนเอง เจ้าหน้าที่ที่อยู่ในวงจะแทรกจุดตรวจสอบซึ่งบุคคลจะตรวจสอบการกระทำที่เสนอของเจ้าหน้าที่ก่อนที่จะดำเนินการ รูปแบบทั่วไป ได้แก่ ประตูการอนุมัติ (ตัวแทนร่างอีเมลหรือการคืนเงินและรอการคลิกเพื่อส่ง) การยกระดับตามความเชื่อมั่น (จะขัดจังหวะมนุษย์เมื่อความแน่นอนลดลงต่ำกว่าเกณฑ์เท่านั้น) และการเรียนรู้เชิงรุก (กรณีที่ไม่แน่นอนถูกส่งไปยังผู้คน ซึ่งคำตอบจะกลายเป็นข้อมูลการฝึกอบรมในอนาคต) เป้าหมายคือการรวมความเร็วและขนาดของระบบอัตโนมัติเข้ากับวิจารณญาณของมนุษย์ ความรับผิดชอบ และความสามารถในการตรวจจับข้อผิดพลาดก่อนที่จะก่อให้เกิดอันตราย สำหรับองค์กรไม่แสวงผลกำไร นี่อาจหมายถึงตัวแทนที่ร่างคำตอบให้ แต่ไม่เคยส่งตัวแทนที่ไม่เกี่ยวข้องกับพนักงานลงลายมือชื่อเลย
ข้อมูลเชิงลึกทางเทคนิค
ในทางเทคนิคแล้ว HITL ถูกนำมาใช้เป็นการขัดจังหวะหรือประตูการเรียกเครื่องมือในลูปควบคุมของเอเจนต์ เมื่อตัวแทนเสนอการดำเนินการที่มีความละเอียดอ่อน ผู้จัดทำจะระงับการดำเนินการ เรียงลำดับสถานะของตัวแทน และส่งคำขอให้มีการตรวจสอบโดยมนุษย์ บุคคลอนุมัติ แก้ไข หรือปฏิเสธ การตอบสนองนั้นจะถูกป้อนกลับตามบริบทและการวนซ้ำจะดำเนินต่อไป คะแนนความเชื่อมั่น การประมาณการความไม่แน่นอน หรือกฎนโยบายจะตัดสินว่าการดำเนินการใดทำให้เกิดการหยุดชั่วคราวและการทำงานโดยอัตโนมัติ
ผลกระทบเชิงกลยุทธ์
สร้างทางเลือก
การออกแบบระดับแอปพลิเคชันจะกำหนดว่า AI จะปรับปรุงผลลัพธ์ที่แท้จริงหรือไม่
ทีมงานและขั้นตอนการทำงาน
การบูรณาการขั้นตอนการทำงานที่ดีจะช่วยเพิ่มผลผลิตที่ผู้ใช้ไว้วางใจได้
ความเสี่ยงและความปลอดภัย
กรณีการใช้งานที่มีขอบเขตดีจะช่วยลดความเหนื่อยล้าของการเปลี่ยนแปลงและความเสี่ยงในการดำเนินการ
อนาคตของตัวแทนแบบ Human-in-the-Loop
คาดหวังการควบคุมที่เหมาะสมยิ่งกว่าการอนุมัติ/ปฏิเสธแบบไบนารี ตัวแทนจะถามคำถามที่ชัดเจนมากขึ้น นำเสนอทางเลือกต่างๆ มากมายพร้อมข้อดีข้อเสีย และเรียนรู้การยอมรับความเสี่ยงของผู้ใช้แต่ละราย เพื่อให้รบกวนน้อยลงเมื่อเวลาผ่านไป กฎระเบียบ เช่น พระราชบัญญัติ AI ของสหภาพยุโรป ผลักดันให้มีการควบคุมดูแลโดยมนุษย์สำหรับการใช้งานที่มีความเสี่ยงสูง ดังนั้นจุดตรวจ HITL จึงกลายเป็นข้อกำหนดในการปฏิบัติตามข้อกำหนด ไม่ใช่แค่ทางเลือกในการออกแบบเท่านั้น เครื่องมือสำหรับการอนุมัติแบบอะซิงโครนัส เส้นทางการตรวจสอบ และสถานะตัวแทน 'หยุดชั่วคราวและดำเนินการต่อ' กำลังเติบโตอย่างรวดเร็ว
การใช้งานจริงในโลกแห่งความเป็นจริง
ตัวแทนฝ่ายสนับสนุนลูกค้าร่างการอนุมัติการคืนเงิน แต่กำหนดเส้นทางการคืนเงินที่มากกว่า $500 ไปยังผู้จัดการที่เป็นมนุษย์เพื่อการลงชื่อออกในคลิกเดียว
AI การเข้ารหัสทางการแพทย์จะทำเครื่องหมายการวินิจฉัยที่ไม่ชัดเจนเพื่อให้ผู้เขียนโค้ดที่ผ่านการรับรองยืนยันแทนที่จะคาดเดา
ระบบกลั่นกรองเนื้อหาจะลบสแปมที่ชัดเจนโดยอัตโนมัติ แต่จะเพิ่มระดับโพสต์ที่เสี่ยงต่อการตรวจสอบที่เป็นมนุษย์
เอเจนต์การเขียนโค้ดเสนอการย้ายฐานข้อมูลและรอให้นักพัฒนาอนุมัติก่อนที่จะดำเนินการจริง
ความเสี่ยงและรั้ว
การทำให้กระบวนการที่เสียหายเป็นอัตโนมัติสามารถขยายปัญหาที่มีอยู่ได้
ทีมอาจดำเนินการอัตโนมัติมากเกินไปและลบวิจารณญาณของมนุษย์ที่จำเป็นออก
คุณภาพอาจคลาดเคลื่อนได้หากไม่ได้รับการประเมินผลลัพธ์อย่างต่อเนื่อง
แผนงานการดำเนินงาน
แมปขั้นตอนการทำงานปัจจุบันและระบุขั้นตอนที่มีแรงเสียดทานสูงสุด
กำหนดจุดตรวจของมนุษย์ก่อนระบบอัตโนมัติเต็มรูปแบบ
ฝึกอบรมผู้ใช้เกี่ยวกับการแจ้งเตือน เส้นทางการยกระดับ และมาตรฐานคุณภาพ
ติดตามผลลัพธ์ระดับงานเพื่อยืนยันคุณค่าที่ยั่งยืน
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Human-in-the-Loop Agents quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
การสะท้อนตนเองใน Agent Loops
คำถามที่พบบ่อย
What is Human-in-the-Loop Agents?
เจ้าหน้าที่ Human-in-the-loop (HITL) คือระบบ AI ที่หยุดชั่วคราวเพื่อขออนุมัติ แก้ไข หรือป้อนข้อมูลจากบุคคลก่อนดำเนินการที่เป็นผลตามมา พวกเขาให้มนุษย์รับผิดชอบต่อการตัดสินใจที่มีเดิมพันสูง ในขณะที่ยังคงปล่อยให้ระบบอัตโนมัติเข้ามาช่วยงานหนัก
อะไรเป็นตัวกำหนดตัวแทนแบบมนุษย์ในวงเมื่อเปรียบเทียบกับตัวแทนแบบอัตโนมัติโดยสมบูรณ์
คุณลักษณะที่กำหนดคือจุดตรวจสอบของมนุษย์ที่บุคคลจะตรวจสอบ แก้ไข หรืออนุมัติการดำเนินการที่ตัวแทนเสนอก่อนที่จะดำเนินการ
รูปแบบ 'การยกระดับตามความเชื่อมั่น' ในระบบ HITL คืออะไร
การยกระดับตามความเชื่อมั่นจะกำหนดเส้นทางเฉพาะกรณีที่ไม่แน่นอนไปยังบุคคลเท่านั้น โดยให้ตัวแทนจัดการกรณีที่มีความเชื่อมั่นสูงโดยอัตโนมัติ
โดยทั่วไปแล้วจุดตรวจของมนุษย์จะถูกนำไปใช้ภายในลูปควบคุมของตัวแทนอย่างไร
ผู้เรียบเรียงระงับการวนซ้ำ บันทึกสถานะ และส่งคำขอให้ตรวจสอบโดยมนุษย์ การตอบสนองของมนุษย์จะดำเนินต่อ
ใน 'การเรียนรู้เชิงรุก' จะเกิดอะไรขึ้นกับกรณีที่มนุษย์แก้ไขได้
การเรียนรู้แบบลงมือปฏิบัติจะกำหนดเส้นทางกรณีที่ไม่แน่นอนไปยังมนุษย์ และใช้คำตอบที่มีป้ายกำกับเพื่อปรับปรุงโมเดลเมื่อเวลาผ่านไป
เหตุใดกฎระเบียบเช่นพระราชบัญญัติ AI ของสหภาพยุโรปจึงเกี่ยวข้องกับตัวแทน HITL
พระราชบัญญัติ AI ของสหภาพยุโรปกำหนดให้มีการควบคุมดูแลโดยมนุษย์อย่างมีความหมายสำหรับแอปพลิเคชันที่มีความเสี่ยงสูง ทำให้จุดตรวจ HITL จำเป็นต้องมีการปฏิบัติตามข้อกำหนด