คู่มือ AI ภาษา

การถอดรหัสที่ตรงกันข้าม

การถอดรหัสที่ตัดกันจะสร้างข้อความที่มีคุณภาพสูงขึ้นโดยการลบแนวโน้มของโมเดลภาษาขนาดเล็กและอ่อนแอออกจากโมเดลภาษาขนาดใหญ่และแข็งแกร่ง

ฟังคำแนะนำนี้บรรยายโดย AI · ~2 min

บนหน้านี้อ่าน 2 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของการถอดรหัสที่ตรงกันข้าม
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

มันขยายสิ่งที่ผู้เชี่ยวชาญรู้แต่มือสมัครเล่นพลาด ลดความซ้ําซากและผลลัพธ์ที่จืดชืด

เจาะลึก

Contrastive decoding scores candidate tokens using an expert model and an amateur model, subtracting a weighted amateur log-probability from the expert score. It can suppress tokens that both models favor, including some generic or repetitive continuations. An adaptive plausibility constraint filters out tokens whose expert probability is too small relative to the expert’s highest-probability token. This constraint limits candidates; it does not guarantee coherent, grammatical, or truthful output. Output quality depends on the models, coefficient, threshold, prompt, and task, so evaluate the full generation. The method runs at inference time with two models and requires no additional training.

การใช้งานจริงในโลกแห่งความเป็นจริง

การสร้างเรื่องราวหรือบทความต่อเนื่องที่ยาวและไม่ซ้ำซาก โดยที่การสุ่มตัวอย่างนิวเคลียสล่องลอยไปเป็นลูป

การจับคู่ผู้เชี่ยวชาญ 65B กับมือสมัครเล่น 1.5B เพื่อปรับปรุงรุ่นปลายเปิดโดยไม่ต้องปรับแต่งอย่างละเอียด

ลดการทำซ้ำที่เสื่อมถอยในการสรุปและผลลัพธ์ของบทสนทนา

ทำหน้าที่เป็นพื้นฐานสำหรับความแตกต่างในตนเองสไตล์ DoLa เพื่อลดภาพหลอนจากข้อเท็จจริง

อนาคตของการถอดรหัสที่ตรงกันข้าม

การถอดรหัสแบบตัดกันเป็นแรงบันดาลใจให้กับกลุ่มวิธีการ 'เปรียบเทียบความแตกต่างในการอนุมาน' รวมถึง DoLa (เปรียบเทียบเลเยอร์ต้นกับเลเยอร์ปลายของโมเดลเองเพื่อตัดภาพหลอน) และรูปแบบการรับรู้บริบทที่ขัดแย้งกับและไม่มีเอกสารที่ดึงมา คาดหวังการผสานรวมที่เข้มงวดมากขึ้นกับการดึงข้อมูล การให้คะแนนข้อเท็จจริง และการกลั่นกรองสำหรับมือสมัครเล่นขนาดเล็ก บวกกับการผสมผสานกับการถอดรหัสแบบเก็งกำไร เพื่อให้มือสมัครเล่นควบคุมคุณภาพและเร่งการสร้างไปพร้อมๆ กัน

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ความเร็วและขนาด. ขั้นตอนการทำงานของภาษาสามารถดำเนินไปได้เร็วขึ้นโดยไม่กระทบต่อความสม่ำเสมอ
  • เข้าถึงและเข้าถึง. ขยายการเข้าถึงภาษาและรูปแบบการสื่อสาร
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. ทีมสามารถใช้เวลามากขึ้นในการตัดสิน ในขณะที่ระบบอัตโนมัติจัดการกับการทำซ้ำ

ระวัง

  • ข้อเท็จจริงที่หลอนประสาทสามารถเข้าสู่รายงาน กระแสสนับสนุน หรือผลการวิจัยได้อย่างเงียบๆ
  • ความละเอียดอ่อนของการแจ้งเตือนสามารถสร้างผลลัพธ์ที่ไม่สอดคล้องกันในคำขอที่คล้ายกัน
  • ข้อมูลข้อความที่ละเอียดอ่อนอาจถูกเปิดเผยหากการควบคุมการเข้าถึงอ่อนแอ

ขั้นตอนต่อไป

  1. กำหนดรูปแบบเอาต์พุต โทนเสียง และมาตรฐานคุณภาพก่อนเปิดตัว
  2. การตอบสนองภาคพื้นดินกับแหล่งข้อมูลที่เชื่อถือได้เมื่อใดก็ตามที่ความแม่นยำมีความสำคัญ
  3. รักษาจุดตรวจสอบการตรวจสอบโดยมนุษย์สำหรับผลลัพธ์ที่มีเดิมพันสูง
  4. ติดตามรูปแบบความล้มเหลวและฝึกอบรมพร้อมท์หรือเวิร์กโฟลว์เป็นประจำ

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

Take the Contrastive Decoding quiz

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

การถอดรหัสแบบเปรียบเทียบคืออะไร?

การถอดรหัสที่ตัดกันจะสร้างข้อความที่มีคุณภาพสูงขึ้นโดยการลบแนวโน้มของโมเดลภาษาขนาดเล็กและอ่อนแอออกจากโมเดลภาษาขนาดใหญ่และแข็งแกร่ง มันขยายสิ่งที่ผู้เชี่ยวชาญรู้และมือสมัครเล่นพลาด ลดการทำซ้ำและเอาท์พุตที่ไม่สุภาพ

ในการถอดรหัสแบบเปรียบเทียบ โมเดล 'มือสมัครเล่น' ขนาดเล็กมีบทบาทอย่างไร

ความน่าจะเป็นของบันทึกของมือสมัครเล่นจะถูกหักออกจากของผู้เชี่ยวชาญ ซึ่งจะยกเลิกข้อผิดพลาดที่เป็นระบบ (เช่น การใช้โทเค็นที่ใช้บ่อย) ที่ทั้งสองรุ่นใช้ร่วมกัน

เหตุใดการลบความน่าจะเป็นของมือสมัครเล่นจึงลดการทำซ้ำและผลลัพธ์ที่ไม่ชัดเจน

ทั้งสองรุ่นมีแนวโน้มที่จะชอบโทเค็นความถี่สูงและซ้ำซ้อนมากเกินไป การลบมือสมัครเล่นจะลบอคติที่มีร่วมกัน และลดตัวเลือกที่จืดชืด

What does the adaptive plausibility constraint do in contrastive decoding?

The constraint removes low-expert-probability tokens before contrastive scoring; it does not certify the coherence or truth of the final output.

สูตรการให้คะแนนในการถอดรหัสแบบตัดกันโดยประมาณคืออะไร?

ผู้สมัครแต่ละคนจะได้รับคะแนนตามความน่าจะเป็นของบันทึกของผู้เชี่ยวชาญ ลบด้วยความน่าจะเป็นของบันทึกของมือสมัครเล่นแบบถ่วงน้ำหนัก ซึ่งเป็นรางวัลโทเค็นที่ผู้เชี่ยวชาญชอบเป็นพิเศษ

วิธีใดในภายหลังที่ขยายแนวคิดที่ตรงกันข้ามไปสู่เลเยอร์ของโมเดลตัวเดียว

DoLa เปรียบเทียบการคาดการณ์ก่อนวัยอันควร (เลเยอร์ต้น) และการคาดการณ์ที่สมบูรณ์ (เลเยอร์ปลาย) ของโมเดล เพื่อลดอาการประสาทหลอน โดยใช้แนวคิดคอนทราสต์ภายในโมเดลเดียว

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →