Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ

Bài kiểm tra làm mịn nhãn

Bao gồm các mục tiêu và epsilon được làm mịn, các hiệu ứng hiệu chuẩn phụ thuộc vào nhiệm vụ, sự cân bằng trong quá trình chưng cất và lý do tại sao kết quả lại phụ thuộc vào dữ liệu và mục tiêu.

Đường dẫn hướng dẫn liên quanLàm mịn nhãn
Câu hỏi 1 của 8

Làm mịn nhãn thay đổi gì về mục tiêu đào tạo?

Xem trước mọi câu hỏi8 câu hỏi

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

  1. Làm mịn nhãn thay đổi gì về mục tiêu đào tạo?
    • Nó làm mềm các mục tiêu một điểm nóng để lớp thực sự ở dưới 1,0 và các mục tiêu khác ở trên 0 một chút
    • Nó loại bỏ chức năng mất
    • Nó xóa các lớp không chính xác
    • Nó tăng gấp đôi tốc độ học tập
  2. Giá trị chung cho tham số làm mịn epsilon là:
    • 0,9
    • 0,1
    • 5.0
    • 0,0
  3. What is one intended effect of replacing hard one-hot targets with smoothed targets?
    • Force every class to have equal probability
    • Guarantee the largest possible logit for the true class
    • Avoid requiring the labeled class to receive a target probability of exactly one
    • Remove the need for labeled training data
  4. Which landmark architectures are prominent examples of label-smoothing use?
    • AlexNet and LeNet only
    • ResNet-50 and VGG only
    • AlphaGo và AlphaZero
    • Inception-v3 và Máy biến áp
  5. What can label smoothing do to calibration?
    • It can improve calibration in some settings, but the effect is task- and model-dependent
    • It guarantees perfect calibration for every classifier
    • It cannot affect predicted probabilities
    • It always makes confidence equal accuracy
  6. Nhược điểm được ghi lại của việc làm mịn nhãn là gì?
    • Nó luôn làm giảm độ chính xác
    • Nó có thể xóa bỏ sự tương đồng giữa các giai cấp, làm tổn hại đến quá trình chắt lọc kiến thức
    • Nó đòi hỏi gấp đôi dữ liệu đào tạo
    • Nó chỉ hoạt động trên văn bản
  7. Why can label smoothing complicate knowledge distillation?
    • It converts every class label into an image
    • It forces the student to use a different tokenizer
    • It can remove information in logits about similarities among incorrect classes
    • It prevents the teacher from producing logits
  8. What should a practitioner verify when comparing label-smoothing implementations?
    • Whether the model has a web browser
    • Whether training uses a validation filename
    • Whether logits are stored as text
    • Whether epsilon is distributed over all classes or only the non-target classes