คำศัพท์อภิธานศัพท์ AI

การลงโทษการแสดงตน คืออะไร?

คำนิยาม

การตั้งค่าการถอดรหัสที่ลดความน่าจะเป็นของโทเค็นที่ปรากฏเลย กระตุ้นให้เกิดหัวข้อใหม่

การลงโทษความถี่การตั้งค่าการถอดรหัสที่ลดความน่าจะเป็นของโทเค็นตามสัดส่วนกับความถี่ที่ปรากฏจนถึงปัจจุบันบทลงโทษการทำซ้ำการตั้งค่าการถอดรหัสที่ลดความน่าจะเป็นของโทเค็นที่โมเดลได้สร้างไว้แล้วเพื่อลดการวนซ้ำการสุ่มตัวอย่าง Top-kกลยุทธ์การถอดรหัสที่สุ่มตัวอย่างจากโทเค็นที่น่าจะถัดไปมากที่สุดเท่านั้นการถอดรหัสที่ได้รับการปกป้องกลยุทธ์การสร้างที่จำกัดโทเค็นเอาท์พุตให้มีโครงสร้างที่ถูกต้องหรือตัวเลือกที่สอดคล้องกับนโยบายการถอดรหัสเก็งกำไรวิธีการเร่งความเร็วอนุมานที่แบบจำลองร่างขนาดเล็กเสนอโทเค็นที่แบบจำลองขนาดใหญ่ตรวจสอบพร้อมกันแคช KVเทนเซอร์คีย์และค่าที่จัดเก็บไว้จากโทเค็นก่อนหน้าซึ่งช่วยให้หม้อแปลงสร้างโทเค็นใหม่โดยไม่ต้องคำนวณความสนใจในอดีตใหม่

เรียนรู้เพิ่มเติมในคำแนะนำฟรีของเรา

ดูเพิ่มเติม