Bài kiểm tra về độ dốc giảm dần

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. In plain gradient descent, which direction is used relative to the objective's gradient?
   • The negative-gradient direction
   • The positive-gradient direction
   • An arbitrary perpendicular direction by definition
   • A direction chosen without evaluating any gradient
2. Tỷ lệ học tập kiểm soát điều gì?
   • Số lớp trong mô hình
   • Mô hình có thể dự đoán bao nhiêu lớp
   • Kích thước của từng bước được thực hiện trong quá trình tối ưu hóa
   • Lượng dữ liệu huấn luyện được sử dụng
3. How does a mini-batch gradient relate to the full selected training-data objective?
   • It uses no examples
   • It is computed on the batch and used as an estimate of the full-data gradient
   • It must equal the full-data gradient on every step
   • It only exists for images
4. Tỷ lệ học tập quá lớn có thể gây ra vấn đề gì?
   • Việc tập luyện trở nên cực kỳ chậm nhưng ổn định
   • Mô hình bỏ qua độ dốc
   • Tập dữ liệu bị hỏng
   • Mô hình vượt quá mức tối thiểu và có thể phân kỳ
5. What information does momentum carry into later gradient-descent updates?
   • Only the model's vocabulary size
   • A permanent deletion of all earlier gradients
   • A running weighted combination of earlier gradients
   • An unrelated random reset of every weight
6. Tính năng chính của trình tối ưu hóa Adam so với trình tối ưu hóa độ dốc đơn giản là gì?
   • Nó điều chỉnh tốc độ học tập hiệu quả cho từng tham số
   • Nó sử dụng một bước cố định duy nhất cho mọi tham số
   • Nó không yêu cầu độ dốc
   • Nó chỉ đào tạo lớp đầu ra
7. For plain gradient descent with old weight two, gradient three, and learning rate one-tenth, what is the new weight?
   • Two-point-three
   • One-point-nine-seven
   • Ba
   • One-point-seven
8. What does a zero gradient fail to prove for a nonconvex training objective?
   • That the gradient value is zero at the evaluated point
   • That the current point is a global minimum
   • That the objective has been evaluated locally
   • That a stationary-point condition holds