คำศัพท์อภิธานศัพท์ AI

คืออะไร การถอดรหัสที่ได้รับการปกป้อง?

คำนิยาม

กลยุทธ์การสร้างที่จำกัดโทเค็นเอาท์พุตให้มีโครงสร้างที่ถูกต้องหรือตัวเลือกที่สอดคล้องกับนโยบาย

ข้อกำหนดที่เกี่ยวข้อง

การสุ่มตัวอย่าง Top-k
กลยุทธ์การถอดรหัสที่สุ่มตัวอย่างจากโทเค็นที่น่าจะถัดไปมากที่สุดเท่านั้น
การสุ่มตัวอย่าง Top-p (นิวเคลียส)
กลยุทธ์การถอดรหัสที่สุ่มตัวอย่างจากชุดโทเค็นที่เล็กที่สุดซึ่งความน่าจะเป็นจะรวมกันเป็น p
ตัวแยกวิเคราะห์เอาต์พุต
ลอจิกที่ตรวจสอบและแปลงเอาต์พุตของโมเดลเป็นโครงสร้างที่พิมพ์ได้ชัดเจนและใช้งานได้ด้วยเครื่องจักร
การถอดรหัสเก็งกำไร
วิธีการเร่งความเร็วอนุมานที่แบบจำลองร่างขนาดเล็กเสนอโทเค็นที่แบบจำลองขนาดใหญ่ตรวจสอบพร้อมกัน
บทลงโทษการทำซ้ำ
การตั้งค่าการถอดรหัสที่ลดความน่าจะเป็นของโทเค็นที่โมเดลได้สร้างไว้แล้วเพื่อลดการวนซ้ำ
การลงโทษความถี่
การตั้งค่าการถอดรหัสที่ลดความน่าจะเป็นของโทเค็นตามสัดส่วนกับความถี่ที่ปรากฏจนถึงปัจจุบัน

เรียนรู้เพิ่มเติมในคำแนะนำฟรีของเรา

ดูเพิ่มเติม