คู่มือแอปพลิเคชัน

ตัวแทนการสะท้อนกลับและการแก้ไขตนเอง

การสะท้อนกลับเป็นกรอบการวิจัยที่ตัวแทนภาษาใช้ผลตอบรับงานเพื่อเขียนผลสะท้อนที่เป็นข้อความสำหรับความพยายามในภายหลัง

ฟังคำแนะนำนี้บรรยายโดย AI · ~1 min

บนหน้านี้อ่าน 1 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของการสะท้อนกลับและตัวแทนการแก้ไขตนเอง
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

มันเปลี่ยนบริบท ไม่ใช่น้ำหนักของโมเดล

เจาะลึก

บทความ Reflexion อธิบายถึงนักแสดงที่พยายามทำงาน ผู้ประเมินที่ให้คะแนนผลลัพธ์ และแบบจำลองการสะท้อนตนเองที่เปลี่ยนความคิดเห็นเป็นภาษาที่เก็บไว้ในหน่วยความจำตอน ความพยายามครั้งต่อไปสามารถใช้การสะท้อนนั้นเป็นบริบทได้ กรอบงานไม่อัปเดตน้ำหนักโมเดล เอกสารรายงานการปรับปรุงในงานที่เลือก รวมถึงผลลัพธ์ HumanEval สำหรับการตั้งค่าเฉพาะ ผลลัพธ์ของเกณฑ์มาตรฐานไม่ควรถือเป็นเรื่องทั่วไปสำหรับเอเจนต์หรือการปรับใช้ทุกรายการ ในการทดสอบการเข้ารหัสที่รายงานของรายงานของ Reflexion เฟรมเวิร์กบรรลุ 91% pass@1 บน HumanEval เทียบกับ 80% สำหรับบรรทัดฐาน GPT-4 ที่อธิบายไว้ในรายงานฉบับนั้น นี่เป็นผลลัพธ์สำหรับการตั้งค่าและเกณฑ์มาตรฐานเฉพาะของกระดาษ ไม่ใช่การรับประกันประสิทธิภาพโดยทั่วไป

การใช้งานจริงในโลกแห่งความเป็นจริง

ตัวแทนจะได้รับผลตอบรับการทดสอบหน่วย เขียนการสะท้อน และลองงานเขียนโค้ดอีกครั้ง

นักวิจัยเปรียบเทียบการตั้งค่าเกณฑ์มาตรฐานของ Reflexion กับข้อมูลพื้นฐานที่ระบุไว้

ผู้ประเมินจะให้ข้อเสนอแนะเฉพาะงานซึ่งตัวแทนสามารถตรวจสอบได้

นักพัฒนาซอฟต์แวร์จะหยุดการทำซ้ำเมื่อตรงตามเงื่อนไขความสำเร็จที่กำหนดไว้

อนาคตของการสะท้อนกลับและตัวแทนการแก้ไขตนเอง

วิธีแก้ไขตัวเองยังคงขึ้นอยู่กับคุณภาพการประเมิน การออกแบบงาน และค่าใช้จ่ายในการทำซ้ำ หลีกเลี่ยงการกล่าวอ้างการปรับปรุงทั่วไปโดยไม่ต้องทดสอบ การสะท้อนกลับอาจผิดพลาดหรือนำไปสู่การวนซ้ำ

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • สร้างทางเลือก. การออกแบบระดับแอปพลิเคชันจะกำหนดว่า AI จะปรับปรุงผลลัพธ์ที่แท้จริงหรือไม่
  • ทีมงานและขั้นตอนการทำงาน. การบูรณาการขั้นตอนการทำงานที่ดีจะช่วยเพิ่มผลผลิตที่ผู้ใช้ไว้วางใจได้
  • ความเสี่ยงและความปลอดภัย. กรณีการใช้งานที่มีขอบเขตดีจะช่วยลดความเหนื่อยล้าของการเปลี่ยนแปลงและความเสี่ยงในการดำเนินการ

ระวัง

  • การทำให้กระบวนการที่เสียหายเป็นอัตโนมัติสามารถขยายปัญหาที่มีอยู่ได้
  • ทีมอาจดำเนินการอัตโนมัติมากเกินไปและลบวิจารณญาณของมนุษย์ที่จำเป็นออก
  • คุณภาพอาจคลาดเคลื่อนได้หากไม่ได้รับการประเมินผลลัพธ์อย่างต่อเนื่อง

ขั้นตอนต่อไป

  1. แมปขั้นตอนการทำงานปัจจุบันและระบุขั้นตอนที่มีแรงเสียดทานสูงสุด
  2. กำหนดจุดตรวจของมนุษย์ก่อนระบบอัตโนมัติเต็มรูปแบบ
  3. ฝึกอบรมผู้ใช้เกี่ยวกับการแจ้งเตือน เส้นทางการยกระดับ และมาตรฐานคุณภาพ
  4. ติดตามผลลัพธ์ระดับงานเพื่อยืนยันคุณค่าที่ยั่งยืน

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

ทำแบบทดสอบตัวแทนการสะท้อนกลับและการแก้ไขตนเอง

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

Reflexion และ Self-Correcting Agents คืออะไร?

การสะท้อนกลับเป็นกรอบการวิจัยที่ตัวแทนภาษาใช้ผลตอบรับงานเพื่อเขียนผลสะท้อนที่เป็นข้อความสำหรับความพยายามในภายหลัง มันเปลี่ยนบริบท ไม่ใช่น้ำหนักของโมเดล

คุณลักษณะที่กำหนดว่าตัวแทน 'เรียนรู้' ของ Reflexion คืออะไร

การสะท้อนกลับบางครั้งเรียกว่า 'การเรียนรู้การเสริมกำลังด้วยวาจา' เนื่องจากบทเรียนถูกจัดเก็บเป็นข้อความภาษาธรรมชาติในหน่วยความจำ ไม่ได้เข้ารหัสลงในพารามิเตอร์ของแบบจำลอง

ในกรอบงาน Reflexion Service Checker ทำหน้าที่อะไร?

ผู้ประเมิน (การทดสอบหน่วย การตรวจสอบการจับคู่แบบตรงทั้งหมด หรือการตัดสิน LLM) ส่งสัญญาณว่าขั้นตอนการทบทวนตนเองกลายเป็นบทเรียนที่เป็นข้อความ

เหตุใดคุณภาพของสัญญาณการประเมินจึงมีความสำคัญมากใน Reflexion

หากผู้ประเมินไม่น่าเชื่อถือ ตัวแทนอาจเขียนการสะท้อนอย่างมั่นใจโดยพิจารณาจากผลตอบรับที่ไม่ดี และควบคุมความพยายามในอนาคตไปในทิศทางที่ผิด

กระดาษ Reflexion รายงานผล 91% pass@1 ตามมาตรฐานการเข้ารหัสใด

รายงานฉบับนี้รายงานว่า 91% pass@1 ใน HumanEval สำหรับการตั้งค่าการเข้ารหัส Reflexion ผลลัพธ์จะเฉพาะเจาะจงสำหรับการประเมินนั้น

ข้อใดคือความเสี่ยงแบบเปิดอย่างแท้จริงกับตัวแทนที่แก้ไขตัวเอง

หากไม่มีกฎการหยุดที่ดี เอเจนต์อาจคอยแก้ไขคำตอบที่ถูกต้อง สิ้นเปลืองการคำนวณ และบางครั้งก็ทำให้เอาต์พุตที่ดีลดลง

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →