แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ

แบบทดสอบการแบ่งจุดตรวจและการฝึกอบรมต่อ

ฝึกฝนข้อมูลเมตาของจุดตรวจ การกู้คืนสถานะการฝึกอบรม และการตรวจสอบความถูกต้องอีกครั้ง รวมถึงความแตกต่างระหว่างส่วนน้ำหนักและสถานะที่กลับมาทำงานต่อได้

เส้นทางแนะนำที่เกี่ยวข้องการแบ่งจุดตรวจและการฝึกอบรมต่อ
คำถาม 1 ของ 8

เหตุใดจุดตรวจรุ่นใหญ่จึงแยกเป็นชิ้นๆ?

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. เหตุใดจุดตรวจรุ่นใหญ่จึงแยกเป็นชิ้นๆ?
    • เพื่อให้โมเดลเทรนเร็วขึ้นด้วยอินพุตขนาดเล็ก
    • เพื่อซ่อนน้ำหนักโมเดลไม่ให้ผู้ใช้เห็น
    • เพราะการแบ่งส่วนช่วยเพิ่มความแม่นยำ
    • เนื่องจากจุดตรวจสอบจุดเดียวอาจมีขนาดใหญ่เกินกว่าที่ไฟล์หรือเครื่องเดียวจะจัดการได้อย่างมีประสิทธิภาพ
  2. Which extra state is typically needed for training resumption beyond model weights?
    • คะแนนความแม่นยำสุดท้ายเท่านั้น
    • Optimizer and scheduler state, step progress, RNG state, and relevant data-loader progress
    • Only a model-weight shard index
    • A screenshot of the training dashboard
  3. ประโยชน์หลักของการฝึกอบรมแบบกลับมาทำงานต่อได้สำหรับงานระยะยาวคืออะไร?
    • โดยจะลบความจำเป็นสำหรับชุดการตรวจสอบความถูกต้อง
    • รับประกันว่าโมเดลจะไม่พอดีเกินไป
    • การหยุดทำงานหรือการจองล่วงหน้าไม่ได้บังคับให้เริ่มระบบใหม่ตั้งแต่ต้น
    • มันกำจัดเครื่องมือเพิ่มประสิทธิภาพ
  4. In a sharded distributed checkpoint, how can ranks avoid gathering the entire state on one worker?
    • By saving their assigned local tensor shards with checkpoint metadata
    • By each emailing a full model copy
    • By deleting optimizer state before every save
    • By disabling all state serialization
  5. ไฟล์ดัชนีมีบทบาทอย่างไรในจุดตรวจที่แบ่งส่วน
    • มันเก็บรหัสผ่านของผู้ใช้
    • โดยจะแมปชื่อพารามิเตอร์แต่ละรายการกับไฟล์ชาร์ดที่มีอยู่
    • มันบีบอัดรูปภาพในชุดข้อมูล
    • มันกำหนดอัตราการเรียนรู้
  6. โดยทั่วไปจะใช้รูปแบบใดสำหรับการโหลดชาร์ดโมเดลที่แมปหน่วยความจำอย่างปลอดภัย
    • เอ็มพี3
    • ซีเอสวี
    • อุปกรณ์ป้องกัน
    • ไฟล์เก็บถาวร ZIP เท่านั้น
  7. A package contains safetensors weight shards and an index, but no optimizer state. What can it support by itself?
    • Loading model weights, without fully restoring optimizer training history
    • Guaranteed exact resumption of every interrupted run
    • Recovering the next batch position automatically
    • Reconstructing every random-number-generator state
  8. A sharded checkpoint loader supports a new rank layout. What should the team verify before trusting recovery?
    • That fewer ranks guarantee identical floating-point results
    • That the weight index alone includes every application state
    • That no restart test is necessary
    • That the necessary saved state loads correctly and the resumed training step behaves as expected