แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ
แบบทดสอบการถอดรหัสที่มีข้อจำกัด
ตรวจสอบข้อจำกัดระดับโทเค็น การแยกวิเคราะห์ส่วนเพิ่ม ขีดจำกัดเอาต์พุตที่มีโครงสร้าง และความแตกต่างระหว่างรูปแบบที่ถูกต้องและเนื้อหาที่ถูกต้อง
คำถาม 1 ของ 8
โดยพื้นฐานแล้วการถอดรหัสแบบจำกัดทำอะไรได้บ้างในแต่ละขั้นตอนของการสร้าง
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- โดยพื้นฐานแล้วการถอดรหัสแบบจำกัดทำอะไรได้บ้างในแต่ละขั้นตอนของการสร้าง
- มาสก์โทเค็นที่จะละเมิดโครงสร้างที่จำเป็นก่อนที่จะสุ่มตัวอย่าง
- ฝึกโมเดลใหม่ในตัวอย่างที่มีโครงสร้าง
- ลดอุณหภูมิลงเป็นศูนย์
- เพิ่มข้อมูลการฝึกอบรมเพิ่มเติมในพรอมต์
- What can happen if a requested JSON Schema uses a feature unsupported by a structured-output implementation?
- The model silently gains new training data
- The request can be rejected with an error
- All outputs become valid SQL
- The schema is automatically converted to natural language
- ความท้าทายทางเทคนิคใดที่ทำให้การถอดรหัสแบบจำกัดยุ่งยากในการดำเนินการ
- โมเดลไม่สามารถแสดงข้อความได้เลยหากไม่มี
- ต้องใช้ GPU ที่มีหน่วยความจำมากกว่า 100GB
- โทเค็นคำย่อยไม่สอดคล้องกับสัญลักษณ์ไวยากรณ์อย่างสมบูรณ์
- ไม่สามารถเขียนไวยากรณ์สำหรับ JSON
- ข้อใดคือรูปแบบจริงที่ใช้ระบุข้อจำกัดในการถอดรหัส
- ตารางน้ำหนัก
- รายการอุณหภูมิ GPU
- ค่าเมล็ดสุ่ม
- JSON Schema หรือไวยากรณ์ที่ไม่มีบริบท
- โดยทั่วไปจะใช้มาสก์ข้อจำกัดที่จุดใดในไปป์ไลน์
- ไปที่บันทึกก่อนขั้นตอน softmax/sampling
- ก่อนโทเค็นของพรอมต์
- หลังจากที่ข้อความถูกพิมพ์ไปยังผู้ใช้แล้ว
- ในระหว่างการฝึกโมเดลเท่านั้น
- เมื่อเปรียบเทียบกับการถามโมเดลในพรอมต์ให้ 'ส่งออก JSON ที่ถูกต้อง' การถอดรหัสที่ จำกัด ให้ประโยชน์อะไร
- มันใช้ไฟฟ้าน้อยกว่า
- ให้การรับประกันอย่างหนักแน่นแทนที่จะอาศัยความร่วมมือของโมเดล
- ทำให้โมเดลมีความคิดสร้างสรรค์มากขึ้น
- โดยไม่จำเป็นต้องใช้โทเค็นไนเซอร์อีกต่อไป
- What does PICARD do with a candidate token that would make a partial SQL query unparsable?
- Accepts it and repairs the query after generation
- Retrains the language model immediately
- Rejects that token during incremental parsing before it is emitted
- Deletes the user’s database schema
- What does a schema-conforming output guarantee by itself?
- Every value is true in the external world
- The model used the right source documents
- No refusal or incomplete response can occur
- The output matches the supported structure, not that its values are factually correct