Bài kiểm tra học tập liên tục và sự quên lãng thảm khốc

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. 'Sự lãng quên thảm khốc' là gì?
   • Khi học một nhiệm vụ mới làm giảm đáng kể hiệu suất của các nhiệm vụ đã học trước đó
   • Khi một mô hình hết bộ nhớ và gặp sự cố
   • Khi dữ liệu huấn luyện vô tình bị xóa
   • Khi một người mẫu từ chối đưa ra dự đoán
2. Sự đánh đổi ở trung tâm của việc học tập liên tục thường được gọi là:
   • Sự đánh đổi sai lệch-phương sai
   • Vấn đề nan giải về tính ổn định-dẻo
   • Đánh đổi tốc độ-độ chính xác
   • Sự cân bằng giữa thăm dò và khai thác
3. Hợp nhất trọng lượng đàn hồi (EWC) làm gì?
   • Xóa các tế bào thần kinh không quan trọng
   • Nhân đôi tốc độ học tập cho các nhiệm vụ mới
   • Phạt những thay đổi về trọng số quan trọng đối với các nhiệm vụ đã học trước đó
   • Lưu trữ mọi ví dụ đào tạo trước đây mãi mãi
4. Làm thế nào để các phương pháp dựa trên hoạt động lặp lại chống lại việc quên?
   • Bằng cách đóng băng vĩnh viễn toàn bộ mạng
   • Bằng cách sử dụng tốc độ học tập lớn hơn
   • Bằng cách loại bỏ chức năng mất
   • Bằng cách xen kẽ các ví dụ cũ được lưu trữ hoặc tạo ra vào huấn luyện mới
5. How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
   • It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
   • It replaces all prior-task data with new examples
   • It freezes every parameter for all future tasks
   • It increases weights that were unimportant to earlier tasks
6. Tại sao việc tinh chỉnh một cách ngây thơ trong một nhiệm vụ mới lại gây ra sự lãng quên?
   • GPU quá nóng và hỏng bộ nhớ
   • Giảm dần độ dốc di chuyển các trọng số được chia sẻ sang nhiệm vụ mới mà không bị ràng buộc để duy trì các trọng số cũ
   • Nhiệm vụ mới luôn có nhiều dữ liệu hơn
   • Người mẫu cố tình xóa trọng số cũ
7. How does iCaRL classify a test example after learning multiple classes?
   • By retrieving the single closest word in a text corpus
   • By selecting the class with the largest Fisher information
   • By comparing its feature vector with per-class means computed from stored exemplars
   • By replaying every training image at inference
8. Why is evaluating continual learning more than measuring final accuracy on the newest task?
   • New-task accuracy is the only relevant measure
   • Old tasks are removed from the evaluation
   • The model cannot be tested on multiple tasks
   • A method must also measure retention on prior tasks and its ability to learn new ones