Bài kiểm tra có liên kết hướng dẫn · Cứng Cấp độ

Bài kiểm tra tối thiểu hóa nhận thức về độ sắc nét

Kiểm tra cập nhật hai lần của SAM, bán kính vùng lân cận của nó, độ dốc trọng lượng nhiễu loạn và sự cân bằng giữa độ phẳng và tính toán.

Đường dẫn hướng dẫn liên quanGiảm thiểu nhận thức độ sắc nét
Câu hỏi 1 của 8

SAM cố gắng tìm mức tối thiểu nào?

Xem trước mọi câu hỏi8 câu hỏi

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

  1. SAM cố gắng tìm mức tối thiểu nào?
    • Mức tối thiểu cố định trong đó tổn thất duy trì ở mức thấp trên một vùng lân cận có trọng số
    • Mức tối thiểu sắc nét nhất có thể
    • Tối thiểu với nhiều tham số nhất
    • Mọi mức tối thiểu có thể đạt được trong một bước
  2. Một bước SAM tiêu chuẩn cần bao nhiêu lượt tiến-lùi?
    • Nửa đường chuyền
    • Khoảng hai
    • Chính xác là một
    • Mười hoặc nhiều hơn
  3. Siêu tham số bán kính rho kiểm soát điều gì trong SAM?
    • Tốc độ suy giảm tốc độ học tập
    • Số đợt đào tạo
    • Kích thước của vùng lân cận xung quanh trọng lượng được bảo vệ chống lại sự mất mát đột biến
    • Xác suất bỏ học
  4. Bước đầu tiên trong hai bước của SAM ở mỗi lần lặp là gì?
    • Thu nhỏ mô hình
    • Tính trung bình trọng số của tất cả các bước trước đây
    • Đặt lại trạng thái tối ưu hóa
    • Thực hiện một bước tăng dần về phía điểm lân cận trong trường hợp xấu nhất
  5. Tại sao SAM thường cải thiện khả năng chống nhiễu nhãn?
    • Bởi vì cực tiểu phẳng ít bị ghi nhớ nhãn bị hỏng
    • Bởi vì nó tự động xóa nhãn ồn ào
    • Bởi vì nó sử dụng vốn từ vựng lớn hơn
    • Bởi vì nó tăng gấp ba lần kích thước lô
  6. Biến thể nào sau đây là biến thể được thiết kế để giảm chi phí điện toán của SAM?
    • ReLU
    • ESAM (SAM hiệu quả)
    • BatchNorm
    • AdaGrad
  7. In SAM’s second pass, which gradient is used to update the original model weights?
    • The gradient of a random label
    • The first pass gradient without evaluating the perturbed point
    • The gradient evaluated at the perturbed nearby weights
    • A gradient from a different model checkpoint
  8. If SAM’s neighborhood radius rho is set to zero, what happens to its perturbation step?
    • The model parameters are all set to zero
    • The loss becomes independent of the weights
    • The optimizer takes an infinite step
    • There is no weight perturbation, so the neighborhood reduces to the current point