แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ
แบบทดสอบการเรียนรู้อย่างต่อเนื่องและการลืมหายนะ
ทบทวนการลืมหายนะ ความเสถียร-พลาสติก EWC เล่นซ้ำ กลุ่มงาน และขีดจำกัดการเรียนรู้อย่างต่อเนื่อง ตรวจสอบขอบเขตและสมมติฐาน
คำถาม 1 ของ 8
'การลืมอย่างหายนะ' คืออะไร?
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- 'การลืมอย่างหายนะ' คืออะไร?
- เมื่อการเรียนรู้งานใหม่จะลดประสิทธิภาพการทำงานของงานที่เรียนรู้ก่อนหน้านี้อย่างมาก
- เมื่อโมเดลมีหน่วยความจำไม่เพียงพอและขัดข้อง
- เมื่อข้อมูลการฝึกถูกลบโดยไม่ตั้งใจ
- เมื่อแบบจำลองปฏิเสธที่จะคาดการณ์
- การแลกเปลี่ยนที่เป็นหัวใจของการเรียนรู้อย่างต่อเนื่องมักเรียกว่า:
- การแลกเปลี่ยนความแปรปรวนอคติ
- ภาวะที่กลืนไม่เข้าคายไม่ออกด้านเสถียรภาพและความเป็นพลาสติก
- การแลกเปลี่ยนความเร็วและความแม่นยำ
- การแลกเปลี่ยนระหว่างการสำรวจและการแสวงหาผลประโยชน์
- Elastic Weight Consolidation (EWC) ทำหน้าที่อะไร
- ลบเซลล์ประสาทที่ไม่สำคัญ
- เพิ่มอัตราการเรียนรู้สำหรับงานใหม่เป็นสองเท่า
- ลงโทษการเปลี่ยนแปลงน้ำหนักที่สำคัญสำหรับงานที่เรียนรู้ก่อนหน้านี้
- จัดเก็บตัวอย่างการฝึกอบรมที่ผ่านมาทั้งหมดตลอดไป
- วิธีการเล่นซ้ำต่อสู้กับการลืมได้อย่างไร
- โดยการแช่แข็งเครือข่ายทั้งหมดอย่างถาวร
- โดยใช้อัตราการเรียนรู้ที่มากขึ้น
- โดยการลบฟังก์ชันการสูญเสียออก
- โดยการผสานการจัดเก็บหรือสร้างตัวอย่างเก่าๆ เข้ากับการฝึกอบรมใหม่
- How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
- It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
- It replaces all prior-task data with new examples
- It freezes every parameter for all future tasks
- It increases weights that were unimportant to earlier tasks
- เหตุใดการปรับแต่งงานใหม่แบบไร้เดียงสาจึงทำให้เกิดการลืม
- GPU ร้อนเกินไปและทำให้หน่วยความจำเสียหาย
- การไล่ระดับสีจะย้ายตุ้มน้ำหนักที่ใช้ร่วมกันไปยังงานใหม่โดยไม่มีข้อจำกัดในการรักษาน้ำหนักเก่า
- งานใหม่ย่อมมีข้อมูลมากกว่าเสมอ
- โมเดลจงใจลบตุ้มน้ำหนักเก่า
- How does iCaRL classify a test example after learning multiple classes?
- By retrieving the single closest word in a text corpus
- By selecting the class with the largest Fisher information
- By comparing its feature vector with per-class means computed from stored exemplars
- By replaying every training image at inference
- Why is evaluating continual learning more than measuring final accuracy on the newest task?
- New-task accuracy is the only relevant measure
- Old tasks are removed from the evaluation
- The model cannot be tested on multiple tasks
- A method must also measure retention on prior tasks and its ability to learn new ones