Giảm dần độ dốc ngẫu nhiên với bài kiểm tra động lượng

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. Thuật ngữ động lượng tích lũy trong quá trình đào tạo là gì?
   • Tổng số đợt đào tạo
   • Giá trị trung bình đang chạy (có trọng số theo cấp số nhân) của độ dốc trong quá khứ
   • Kích thước của tập dữ liệu
   • Lịch sử độ chính xác của mô hình
2. Trong một khe núi dài và hẹp, SGD đồng bằng gặp phải vấn đề gì mà đà giúp khắc phục?
   • Nó tràn về số lượng
   • Nó dừng tính toán độ dốc
   • Nó tự động tăng tốc độ học tập
   • Nó chạy ngoằn ngoèo trên những bức tường dốc trong khi di chuyển chậm dọc theo sàn nhà
3. Giá trị mặc định chung cho hệ số động lượng là:
   • 0,9
   • 0,0
   • 0,5
   • 2.0
4. Sự tương tự vật lý nào thường được sử dụng nhất để mô tả động lượng?
   • Một con lắc lắc lư mãi mãi
   • Một mùa xuân đang quay trở lại
   • Một quả bóng nặng lăn xuống dốc
   • đóng băng nước
5. Động lượng khuếch đại bước hiệu quả theo hướng nhất quán khoảng bao nhiêu khi beta = 0,9?
   • Khoảng 2 lần
   • Khoảng 0,1 lần
   • Không khuếch đại
   • Khoảng 10 lần
6. Trình tối ưu hóa hiện đại nào kết hợp ước tính thời điểm đầu tiên theo kiểu động lượng?
   • phương pháp Newton
   • Adam
   • K-nghĩa là
   • Tìm kiếm ngẫu nhiên
7. In the update v = beta times v plus gradient, what happens when beta is zero?
   • The old velocity is doubled
   • Every gradient becomes zero
   • The previous velocity is discarded and the current gradient determines the step
   • The parameters stop depending on the learning rate
8. Why can repeated gradients with opposing sideways directions produce less zig-zagging under momentum?
   • Their opposing contributions can partially cancel in accumulated velocity
   • All past gradients are stored as separate parameters
   • The loss becomes convex automatically
   • Momentum ignores the current gradient entirely