ตัวแทนการสะท้อนกลับและการแก้ไขตนเอง
การสะท้อนกลับเป็นเทคนิคที่เจ้าหน้าที่ AI สะท้อนความล้มเหลวของตนเองเป็นลายลักษณ์อักษร และนำบทเรียนเหล่านั้นกลับไปสู่ความพยายามครั้งถัดไป
ภาพรวม
It matters because it lets agents improve on a task without retraining the underlying model.
เจาะลึก
Reflexion ซึ่งนำมาใช้ในรายงานปี 2023 โดย Shinn และเพื่อนร่วมงาน ทำให้ตัวแทนมีการวนซ้ำ: พยายามทำงาน รับสัญญาณเกี่ยวกับวิธีการทำงาน (ผลการทดสอบ รางวัล หรือการวิจารณ์) จากนั้นเขียน 'การสะท้อน' ในภาษาธรรมชาติสั้นๆ เพื่ออธิบายสิ่งที่ผิดพลาดและสิ่งที่ควรลองต่อไป การสะท้อนนั้นจะถูกเก็บไว้ในหน่วยความจำและนำหน้าข้อความแจ้งของความพยายามครั้งถัดไป สิ่งสำคัญที่สุดคือน้ำหนักของแบบจำลองไม่เคยเปลี่ยนแปลง การเรียนรู้เกิดขึ้นทั้งหมดในหน้าต่างบริบทในรูปแบบข้อความ 'การเรียนรู้เสริมด้วยวาจา' นี้ช่วยให้เจ้าหน้าที่สามารถวนซ้ำปัญหาการเขียนโค้ด การนำทางเว็บ และงานการให้เหตุผล ในเกณฑ์มาตรฐานการเขียนโค้ด HumanEval การแก้ไขตัวเองในรูปแบบ Reflexion ช่วยเพิ่มอัตราการส่งบอลให้สูงกว่าความพยายามในการยิงนัดเดียวอย่างมาก เพียงแค่ปล่อยให้เจ้าหน้าที่แก้ไขข้อผิดพลาดของตัวเองในการพยายามไม่กี่ครั้ง
ข้อมูลเชิงลึกทางเทคนิค
การสะท้อนกลับแยกบทบาทสามอย่าง: นักแสดงที่สร้างการกระทำ ผู้ประเมินที่ให้คะแนนผลลัพธ์ (การทดสอบหน่วย การตรวจสอบการจับคู่แบบตรงทั้งหมด หรือการตัดสิน LLM) และแบบจำลองการสะท้อนตนเองที่เปลี่ยนคะแนนนั้นให้เป็นบทเรียนที่เป็นข้อความ บทเรียนจะเข้าสู่บัฟเฟอร์หน่วยความจำแบบตอนที่นำมาใช้ซ้ำในการทดลองครั้งถัดไป เนื่องจากความคิดเห็นเป็นภาษามากกว่าการไล่ระดับสี จึงไม่จำเป็นต้องมีการฝึกอบรม GPU แต่ขึ้นอยู่กับสัญญาณการประเมินที่เชื่อถือได้เป็นอย่างมาก เพื่อหลีกเลี่ยงการเสริมความมั่นใจแต่สะท้อนกลับผิด
ผลกระทบเชิงกลยุทธ์
สร้างทางเลือก
การออกแบบระดับแอปพลิเคชันจะกำหนดว่า AI จะปรับปรุงผลลัพธ์ที่แท้จริงหรือไม่
ทีมงานและขั้นตอนการทำงาน
การบูรณาการขั้นตอนการทำงานที่ดีจะช่วยเพิ่มผลผลิตที่ผู้ใช้ไว้วางใจได้
ความเสี่ยงและความปลอดภัย
กรณีการใช้งานที่มีขอบเขตดีจะช่วยลดความเหนื่อยล้าของการเปลี่ยนแปลงและความเสี่ยงในการดำเนินการ
อนาคตของการสะท้อนกลับและตัวแทนการแก้ไขตนเอง
การแก้ไขตัวเองกำลังกลายเป็นเลเยอร์เริ่มต้นในกรอบงานตัวแทนแทนที่จะเป็นเคล็ดลับการวิจัย คาดหวังการผสานรวมที่เข้มงวดยิ่งขึ้นกับเครื่องมือตรวจสอบอัตโนมัติ เช่น แซนด์บ็อกซ์โค้ด เครื่องมือตรวจสอบอย่างเป็นทางการ และการดึงข้อมูลที่ยืนยันข้อเท็จจริง ดังนั้นการสะท้อนกลับจึงอิงตามสัญญาณที่เป็นกลาง แทนที่จะเป็นแบบจำลองที่คาดเดาเอง ความท้าทายแบบเปิดคือการหลีกเลี่ยงลูปที่เอเจนต์ 'แก้ไข' ผลลัพธ์การทำงานอย่างไม่มีที่สิ้นสุด ตัดสินใจว่าเมื่อใดควรหยุดทำซ้ำ และป้องกันไม่ให้การสะท้อนกลับไปสู่การหาเหตุผลเข้าข้างตนเองที่ฟังดูมีเหตุผลแต่ไม่ได้รับการตรวจสอบ
การใช้งานจริงในโลกแห่งความเป็นจริง
เอเจนต์การเขียนโค้ดที่รันการทดสอบหน่วย อ่านการยืนยันที่ล้มเหลว เขียนบันทึกเกี่ยวกับจุดบกพร่อง และแก้ไขโค้ดก่อนที่จะรันชุดโปรแกรมอีกครั้ง
ผู้ช่วยวิจัยที่จับภาพการอ้างอิงที่หลอนเมื่อตรวจสอบการดึงข้อมูลล้มเหลว จากนั้นแก้ไขคำตอบเพื่อใช้เฉพาะแหล่งข้อมูลที่ได้รับการยืนยันเท่านั้น
ตัวแทนการนำทางบนเว็บ (เช่น บน AlfWorld หรือการวัดประสิทธิภาพ WebShop) ที่บันทึก 'ฉันคลิกตัวกรองผิด' และหลีกเลี่ยงข้อผิดพลาดในการลองอีกครั้ง
นักแก้ปัญหาทางคณิตศาสตร์ที่ตรวจสอบคำตอบสุดท้ายกับข้อจำกัด สังเกตเห็นข้อผิดพลาดของสัญญาณ และดำเนินการขั้นตอนที่เกี่ยวข้องใหม่
ความเสี่ยงและรั้ว
การทำให้กระบวนการที่เสียหายเป็นอัตโนมัติสามารถขยายปัญหาที่มีอยู่ได้
ทีมอาจดำเนินการอัตโนมัติมากเกินไปและลบวิจารณญาณของมนุษย์ที่จำเป็นออก
คุณภาพอาจคลาดเคลื่อนได้หากไม่ได้รับการประเมินผลลัพธ์อย่างต่อเนื่อง
แผนงานการดำเนินงาน
แมปขั้นตอนการทำงานปัจจุบันและระบุขั้นตอนที่มีแรงเสียดทานสูงสุด
กำหนดจุดตรวจของมนุษย์ก่อนระบบอัตโนมัติเต็มรูปแบบ
ฝึกอบรมผู้ใช้เกี่ยวกับการแจ้งเตือน เส้นทางการยกระดับ และมาตรฐานคุณภาพ
ติดตามผลลัพธ์ระดับงานเพื่อยืนยันคุณค่าที่ยั่งยืน
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Reflexion and Self-Correcting Agents quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
การสะท้อนตนเองใน Agent Loops
คำถามที่พบบ่อย
What is Reflexion and Self-Correcting Agents?
การสะท้อนกลับเป็นเทคนิคที่เจ้าหน้าที่ AI สะท้อนความล้มเหลวของตนเองเป็นลายลักษณ์อักษร และนำบทเรียนเหล่านั้นกลับไปสู่ความพยายามครั้งถัดไป เป็นเรื่องสำคัญเนื่องจากช่วยให้เจ้าหน้าที่สามารถปรับปรุงงานได้โดยไม่ต้องฝึกอบรมโมเดลพื้นฐานใหม่
คุณลักษณะที่กำหนดว่าตัวแทน 'เรียนรู้' ของ Reflexion คืออะไร
การสะท้อนกลับบางครั้งเรียกว่า 'การเรียนรู้การเสริมกำลังด้วยวาจา' เนื่องจากบทเรียนถูกจัดเก็บเป็นข้อความภาษาธรรมชาติในหน่วยความจำ ไม่ได้เข้ารหัสลงในพารามิเตอร์ของแบบจำลอง
ในกรอบงาน Reflexion Service Checker ทำหน้าที่อะไร?
ผู้ประเมิน (การทดสอบหน่วย การตรวจสอบการจับคู่แบบตรงทั้งหมด หรือการตัดสิน LLM) ส่งสัญญาณว่าขั้นตอนการทบทวนตนเองกลายเป็นบทเรียนที่เป็นข้อความ
เหตุใดคุณภาพของสัญญาณการประเมินจึงมีความสำคัญมากใน Reflexion
หากผู้ประเมินไม่น่าเชื่อถือ ตัวแทนอาจเขียนการสะท้อนอย่างมั่นใจโดยพิจารณาจากผลตอบรับที่ไม่ดี และควบคุมความพยายามในอนาคตไปในทิศทางที่ผิด
การแก้ไขตัวเองแบบ Reflexion ในรูปแบบ Reflexion ช่วยปรับปรุงอัตราการผ่านการเข้ารหัสได้บนเกณฑ์มาตรฐานใด
HumanEval เป็นเกณฑ์มาตรฐานในการสร้างโค้ด และการปล่อยให้เอเจนต์แก้ไขจุดบกพร่องในการพยายามหลายครั้งทำให้อัตราการส่งผ่านสูงกว่าประสิทธิภาพการยิงนัดเดียว
ข้อใดคือความเสี่ยงแบบเปิดอย่างแท้จริงกับตัวแทนที่แก้ไขตัวเอง
หากไม่มีกฎการหยุดที่ดี เอเจนต์อาจคอยแก้ไขคำตอบที่ถูกต้อง สิ้นเปลืองการคำนวณ และบางครั้งก็ทำให้เอาต์พุตที่ดีลดลง