ต่อไปคำแนะนำต่อไป
How Leading Questions Bias AI Answers
ภาษาเอไอ
คู่มือ AI ภาษา
Logit Bias คือปุ่มที่ดันโมเดลภาษาไปทางหรือออกจากโทเค็นเฉพาะโดยการเพิ่มตัวเลขคงที่ให้กับคะแนนก่อนที่โมเดลจะเลือกคำถัดไป
ฟังคำแนะนำนี้บรรยายโดย AI · ~2 min
It is a lightweight way to ban words, force choices, or shape style without retraining anything.
ก่อนที่แบบจำลองจะเลือกโทเค็นถัดไป โมเดลจะสร้าง logit (คะแนนที่ไม่เป็นมาตรฐาน) สำหรับทุกโทเค็นในคำศัพท์ ความโน้มเอียงของ Logit ช่วยให้คุณเพิ่มค่าคงที่ให้กับบันทึกของโทเค็นที่เลือกด้วย ID โทเค็นที่เป็นตัวเลข อคติเชิงบวกอย่างมากทำให้โทเค็นมีแนวโน้มที่จะถูกสุ่มตัวอย่างมากขึ้น อคติเชิงลบขนาดใหญ่ (มักจะ -100 ใน API) ห้ามได้อย่างมีประสิทธิภาพ เนื่องจากการปรับเกิดขึ้นก่อนซอฟต์แม็กซ์ที่จะเปลี่ยนคะแนนให้เป็นความน่าจะเป็น แม้แต่อคติเล็กน้อยก็เปลี่ยนการแจกแจงอย่างมีความหมาย สิ่งสำคัญที่สุดคือ ความลำเอียงนั้นมีความสำคัญกับรหัสโทเค็น ไม่ใช่ทั้งคำ ดังนั้นคำที่มีโทเค็นหลายรายการอาจจำเป็นต้องให้แต่ละส่วนมีอคติเพื่อระงับหรือส่งเสริมคำนั้นอย่างเต็มที่ เป็นการควบคุมการผ่าตัดที่รวดเร็วและไม่ต้องมีการปรับแต่งและใช้ตามคำขอ
การตั้งค่าอคติ -100 บนโทเค็นคำหยาบคายเพื่อป้องกันไม่ให้แชทบอทสร้างคำบางคำ
บังคับใช้ตัวแยกประเภทใช่/ไม่ใช่โดยให้อคติเชิงบวกอย่างมากแก่โทเค็น 'ใช่' และ 'ไม่' และระงับสิ่งอื่นทั้งหมด
กีดกันวลีหรือคำเติมที่ใช้มากเกินไปโดยการใช้อคติเชิงลบระดับปานกลางกับโทเค็น
ส่งเสริมคำศัพท์เฉพาะโดเมน (เช่น ชื่อผลิตภัณฑ์) เพื่อให้ผู้สรุปกล่าวถึงได้อย่างน่าเชื่อถือ
อคติ Logit ยังคงเป็นสิ่งสำคัญสำหรับการบังคับทิศทางอย่างรวดเร็ว แต่ทางเลือกที่สมบูรณ์ยิ่งขึ้นกำลังเพิ่มขึ้น: การถอดรหัสที่มีโครงสร้าง/จำกัดเพื่อการรับประกันอย่างหนัก และการเปิดใช้งานพวงมาลัยหรือวิศวกรรมการนำเสนอที่เขยิบเวกเตอร์ภายในของแบบจำลอง แทนที่จะเป็นเพียงคะแนนเอาท์พุต คาดหวังว่า API จะรักษาความเอนเอียงในโลจิตไว้เป็นช่องทางหลบหนีง่ายๆ ในขณะที่เสนอการควบคุมในระดับที่สูงกว่า เช่น วลีที่ถูกแบน คำสั่งด้านรูปแบบ ตัวกรองความปลอดภัย ที่จัดการโทเค็นโดยอัตโนมัติ ดังนั้นนักพัฒนาจึงไม่จำเป็นต้องให้เหตุผลเกี่ยวกับ ID โทเค็นดิบ
จดหมายข่าวฟรี
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
Logit Bias คือปุ่มที่ดันโมเดลภาษาไปทางหรือออกจากโทเค็นเฉพาะโดยการเพิ่มตัวเลขคงที่ให้กับคะแนนก่อนที่โมเดลจะเลือกคำถัดไป มันเป็นวิธีง่ายๆ ในการแบนคำ การบังคับตัวเลือก หรือจัดรูปแบบสไตล์โดยไม่ต้องฝึกอะไรใหม่
ความโน้มเอียงของ Logit จะเพิ่มค่าคงที่ให้กับบันทึกของรหัสโทเค็นที่เลือก โดยจะเปลี่ยนความน่าจะเป็นในการเลือกรหัสเหล่านั้น โดยไม่ต้องเปลี่ยนโมเดลเอง
อคติเชิงลบขนาดใหญ่ เช่น -100 ผลักดันความน่าจะเป็นหลังซอฟต์แม็กซ์ของโทเค็นให้เป็นศูนย์ ดังนั้นจึงแทบไม่เคยเกิดขึ้นเลย
The API reference documents a range of -100 to 100 for each token ID, where negative values decrease likelihood and positive values increase it.
ค่าอคติจะถูกนำไปใช้กับรหัสโทเค็นเฉพาะจากคำศัพท์ของโทเค็น ซึ่งเป็นเหตุผลว่าทำไมคุณต้องรู้รหัสสำหรับส่วนของคำ
Softmax ยกกำลัง logits ดังนั้นแม้แต่ความลำเอียงเชิงบวกเพียงเล็กน้อยก็ยังช่วยเพิ่มน้ำหนักที่ไม่เป็นมาตรฐานของโทเค็นได้อย่างมาก และเพิ่มโอกาสอย่างมาก
เรียนรู้ต่อไป
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้
ต่อไปคำแนะนำต่อไป
How Leading Questions Bias AI Answers
ภาษาเอไอ