การถอดรหัสที่ตรงกันข้าม
การถอดรหัสที่ตัดกันจะสร้างข้อความที่มีคุณภาพสูงขึ้นโดยการลบแนวโน้มของโมเดลภาษาขนาดเล็กและอ่อนแอออกจากโมเดลภาษาขนาดใหญ่และแข็งแกร่ง
ภาพรวม
มันขยายสิ่งที่ผู้เชี่ยวชาญรู้แต่มือสมัครเล่นพลาด ลดความซ้ําซากและผลลัพธ์ที่จืดชืด
เจาะลึก
เมื่อแบบจำลองภาษาเลือกคำถัดไป จะสร้างความน่าจะเป็นมากกว่าคำศัพท์ การถอดรหัสที่ตรงกันข้าม (แนะนำโดย Li et al. ในปี 2022) ใช้งานสองโมเดลในบริบทเดียวกัน: 'ผู้เชี่ยวชาญ' รายใหญ่และ 'มือสมัครเล่น' ขนาดเล็ก แทนที่จะเชื่อถือความน่าจะเป็นดิบของผู้เชี่ยวชาญ ระบบจะให้คะแนนโทเค็นของผู้สมัครแต่ละคนตามความแตกต่างระหว่างความน่าจะเป็นของบันทึกของผู้เชี่ยวชาญและของมือสมัครเล่น โทเค็นเป็นที่โปรดปรานของผู้เชี่ยวชาญ แต่มือสมัครเล่นไม่ได้รับการส่งเสริม คำทั่วไปที่ทั้งสองนางแบบชอบ (เช่น 'the' หรือวลีที่ซ้ำกัน) จะถูกระงับ เนื่องจากมือสมัครเล่นก็รักพวกเขาเช่นกัน ตัวกรองความน่าเชื่อถือจะละทิ้งโทเค็นที่ผู้เชี่ยวชาญเห็นว่าไม่น่าจะเป็นไปได้ในขั้นแรก ดังนั้นความแตกต่างจึงไม่ส่งเสริมเรื่องไร้สาระ ผลลัพธ์ที่ได้คือข้อความรูปแบบยาวที่คล่องแคล่ว สอดคล้องกัน และซ้ำกันน้อยกว่าการสุ่มตัวอย่างแบบโลภหรือนิวเคลียส โดยไม่จำเป็นต้องฝึกอบรมเพิ่มเติม
ข้อมูลเชิงลึกทางเทคนิค
คะแนนหลักคือ log p_expert(token) ลบด้วยสัมประสิทธิ์คูณด้วย log p_amateur(token) เนื่องจากมือสมัครเล่นแบ่งปันข้อผิดพลาดที่เป็นระบบของผู้เชี่ยวชาญ (ชอบโทเค็นความถี่สูง การวนซ้ำ การทำซ้ำที่เสื่อมลง) การลบความน่าจะเป็นของบันทึกจะยกเลิกโหมดความล้มเหลวที่ใช้ร่วมกันเหล่านั้น ในขณะที่ยังคงรักษาความรู้ของผู้เชี่ยวชาญอย่างแท้จริง ข้อจำกัดความเป็นไปได้ในการปรับตัวจะเก็บเฉพาะโทเค็นที่อยู่เหนือเศษส่วน (อัลฟา) ของความน่าจะเป็นของผู้เชี่ยวชาญระดับสูง เพื่อป้องกันไม่ให้ความแตกต่างขยายคำที่หายากและไม่ต่อเนื่องกัน
ผลกระทบเชิงกลยุทธ์
ความเร็วและขนาด
ขั้นตอนการทำงานของภาษาสามารถดำเนินไปได้เร็วขึ้นโดยไม่กระทบต่อความสม่ำเสมอ
เข้าถึงและเข้าถึง
ขยายการเข้าถึงภาษาและรูปแบบการสื่อสาร
การตัดสินใจที่ชัดเจนยิ่งขึ้น
ทีมสามารถใช้เวลามากขึ้นในการตัดสิน ในขณะที่ระบบอัตโนมัติจัดการกับการทำซ้ำ
อนาคตของการถอดรหัสที่ตรงกันข้าม
การถอดรหัสแบบตัดกันเป็นแรงบันดาลใจให้กับกลุ่มวิธีการ 'เปรียบเทียบความแตกต่างในการอนุมาน' รวมถึง DoLa (เปรียบเทียบเลเยอร์ต้นกับเลเยอร์ปลายของโมเดลเองเพื่อตัดภาพหลอน) และรูปแบบการรับรู้บริบทที่ขัดแย้งกับและไม่มีเอกสารที่ดึงมา คาดหวังการผสานรวมที่เข้มงวดมากขึ้นกับการดึงข้อมูล การให้คะแนนข้อเท็จจริง และการกลั่นกรองสำหรับมือสมัครเล่นขนาดเล็ก บวกกับการผสมผสานกับการถอดรหัสแบบเก็งกำไร เพื่อให้มือสมัครเล่นควบคุมคุณภาพและเร่งการสร้างไปพร้อมๆ กัน
การใช้งานจริงในโลกแห่งความเป็นจริง
การสร้างเรื่องราวหรือบทความต่อเนื่องที่ยาวและไม่ซ้ำซาก โดยที่การสุ่มตัวอย่างนิวเคลียสล่องลอยไปเป็นลูป
การจับคู่ผู้เชี่ยวชาญ 65B กับมือสมัครเล่น 1.5B เพื่อปรับปรุงรุ่นปลายเปิดโดยไม่ต้องปรับแต่งอย่างละเอียด
ลดการทำซ้ำที่เสื่อมถอยในการสรุปและผลลัพธ์ของบทสนทนา
ทำหน้าที่เป็นพื้นฐานสำหรับความแตกต่างในตนเองสไตล์ DoLa เพื่อลดภาพหลอนจากข้อเท็จจริง
ความเสี่ยงและรั้ว
ข้อเท็จจริงที่หลอนประสาทสามารถเข้าสู่รายงาน กระแสสนับสนุน หรือผลการวิจัยได้อย่างเงียบๆ
ความละเอียดอ่อนของการแจ้งเตือนสามารถสร้างผลลัพธ์ที่ไม่สอดคล้องกันในคำขอที่คล้ายกัน
ข้อมูลข้อความที่ละเอียดอ่อนอาจถูกเปิดเผยหากการควบคุมการเข้าถึงอ่อนแอ
แผนงานการดำเนินงาน
กำหนดรูปแบบเอาต์พุต โทนเสียง และมาตรฐานคุณภาพก่อนเปิดตัว
การตอบสนองภาคพื้นดินกับแหล่งข้อมูลที่เชื่อถือได้เมื่อใดก็ตามที่ความแม่นยำมีความสำคัญ
รักษาจุดตรวจสอบการตรวจสอบโดยมนุษย์สำหรับผลลัพธ์ที่มีเดิมพันสูง
ติดตามรูปแบบความล้มเหลวและฝึกอบรมพร้อมท์หรือเวิร์กโฟลว์เป็นประจำ
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Contrastive Decoding quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
การถอดรหัสความเสี่ยง Bayes ขั้นต่ำ
คำถามที่พบบ่อย
การถอดรหัสแบบเปรียบเทียบคืออะไร?
การถอดรหัสที่ตัดกันจะสร้างข้อความที่มีคุณภาพสูงขึ้นโดยการลบแนวโน้มของโมเดลภาษาขนาดเล็กและอ่อนแอออกจากโมเดลภาษาขนาดใหญ่และแข็งแกร่ง มันขยายสิ่งที่ผู้เชี่ยวชาญรู้และมือสมัครเล่นพลาด ลดการทำซ้ำและเอาท์พุตที่ไม่สุภาพ
ในการถอดรหัสแบบเปรียบเทียบ โมเดล 'มือสมัครเล่น' ขนาดเล็กมีบทบาทอย่างไร
ความน่าจะเป็นของบันทึกของมือสมัครเล่นจะถูกหักออกจากของผู้เชี่ยวชาญ ซึ่งจะยกเลิกข้อผิดพลาดที่เป็นระบบ (เช่น การใช้โทเค็นที่ใช้บ่อย) ที่ทั้งสองรุ่นใช้ร่วมกัน
เหตุใดการลบความน่าจะเป็นของมือสมัครเล่นจึงลดการทำซ้ำและผลลัพธ์ที่ไม่ชัดเจน
ทั้งสองรุ่นมีแนวโน้มที่จะชอบโทเค็นความถี่สูงและซ้ำซ้อนมากเกินไป การลบมือสมัครเล่นจะลบอคติที่มีร่วมกัน และลดตัวเลือกที่จืดชืด
ข้อจำกัดความน่าเชื่อถือแบบปรับตัวมีไว้ทำอะไร?
ตัวกรองความเป็นไปได้จะละทิ้งโทเค็นความน่าจะเป็นต่ำภายใต้ผู้เชี่ยวชาญ ดังนั้นความแตกต่างจึงไม่สามารถส่งเสริมคำที่ไม่ต่อเนื่องหรือไร้สาระได้
สูตรการให้คะแนนในการถอดรหัสแบบตัดกันโดยประมาณคืออะไร?
ผู้สมัครแต่ละคนจะได้รับคะแนนตามความน่าจะเป็นของบันทึกของผู้เชี่ยวชาญ ลบด้วยความน่าจะเป็นของบันทึกของมือสมัครเล่นแบบถ่วงน้ำหนัก ซึ่งเป็นรางวัลโทเค็นที่ผู้เชี่ยวชาญชอบเป็นพิเศษ
วิธีใดในภายหลังที่ขยายแนวคิดที่ตรงกันข้ามไปสู่เลเยอร์ของโมเดลตัวเดียว
DoLa เปรียบเทียบการคาดการณ์ก่อนวัยอันควร (เลเยอร์ต้น) และการคาดการณ์ที่สมบูรณ์ (เลเยอร์ปลาย) ของโมเดล เพื่อลดอาการประสาทหลอน โดยใช้แนวคิดคอนทราสต์ภายในโมเดลเดียว