Bài kiểm tra về tỷ lệ học tập theo chu kỳ

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. Giả định cốt lõi nào thách thức tỷ lệ học tập theo chu kỳ?
   • Rằng tốc độ học tập sẽ chỉ giảm trong quá trình đào tạo
   • Kích thước lô đó phải không đổi
   • Mô hình đó cần GPU
   • Dữ liệu đó phải được xáo trộn
2. What did Smith report for cyclical learning rates on tested classification tasks?
   • They always lowered training loss to zero
   • They improved accuracy versus fixed rates, often in fewer iterations
   • They removed the need for validation data
   • They guaranteed escape from every sharp minimum
3. 'Kiểm tra phạm vi LR' làm gì?
   • Đo mức sử dụng bộ nhớ GPU
   • Đếm số lượng tham số mô hình
   • Quét tốc độ học lên cao trong khi theo dõi sự mất mát để chọn giới hạn tốt
   • Kiểm tra mô hình trên dữ liệu ngoài phân phối
4. Trong chính sách một chu kỳ, động lượng thường hoạt động như thế nào so với tốc độ học?
   • Động lượng vẫn cố định trong suốt
   • Động lượng được đặt bằng 0 trong toàn bộ thời gian
   • Động lượng tăng theo đúng tốc độ
   • Động lượng di chuyển nghịch đảo - cao khi tốc độ thấp và thấp khi tốc độ cao
5. During a triangular cyclical learning-rate cycle, how does the rate move between its bounds?
   • It rises from the base rate to the maximum, then falls back toward the base
   • It only decreases from the first step
   • It stays fixed at the maximum
   • It jumps randomly at every minibatch
6. Ai đã giới thiệu tỷ lệ học tập theo chu kỳ và bài kiểm tra phạm vi LR?
   • Geoffrey Hinton
   • Leslie Smith
   • Yann LeCun
   • Andrej Karpathy
7. What sets the duration of a cyclical learning-rate cycle?
   • Số lớp mô hình
   • Kích thước từ vựng
   • A chosen number of training iterations for the up-and-down pattern
   • The number of optimizer parameters
8. What distinguishes the one-cycle policy from repeating several triangular cycles?
   • It keeps the learning rate constant throughout
   • It removes the optimizer’s momentum
   • It measures the learning rate only once
   • It uses one long learning-rate cycle for the training run