Quiz collegato alla guida · Medio Livello
Quiz sull'oblio catastrofico
Studia il motivo per cui l'apprendimento sequenziale di nuovi compiti può degradare le competenze precedenti e in che modo i metodi di apprendimento continuo affrontano il compromesso.
Domanda 1 di 8
Which situation describes catastrophic forgetting in a neural network?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Which situation describes catastrophic forgetting in a neural network?
- Quando l'apprendimento di una nuova attività fa sì che un modello perda le abilità precedentemente apprese
- Quando un modello esaurisce la memoria durante l'inferenza
- Quando i dati di allenamento vengono eliminati accidentalmente
- Quando un modello si rifiuta di rispondere a una domanda
- Perché nelle reti neurali si verificano dimenticanze catastrofiche?
- Perché ogni attività ottiene automaticamente la propria rete separata
- Perché i nuovi aggiornamenti del gradiente sovrascrivono i pesi condivisi che codificavano le vecchie competenze
- Perché i modelli non possono memorizzare più di un fatto
- Perché i livelli di attenzione cancellano i dati di proposito
- Cosa fa il Consolidamento Elastico del Peso (EWC) per ridurre l’oblio?
- Elimina i dati della nuova attività
- Raddoppia il tasso di apprendimento
- Penalizza le modifiche ai pesi importanti per le attività apprese in precedenza
- Distoglie l'attenzione dal modello
- In che modo l'esperienza del replay (prova) combatte l'oblio?
- Congelando l'intero modello in modo permanente
- Addestrandosi solo sui dati più recenti
- Riducendo il numero di strati
- Interlacciando vecchi esempi memorizzati durante la nuova formazione
- What does LoRA do to base-model weights when adding a task-specific adapter?
- It freezes base weights and trains a low-rank adapter, which may reduce direct interference but does not guarantee retention
- It rewrites every base weight for each new task
- It stores no task-specific parameters
- It guarantees zero forgetting on every task sequence
- In che modo un approccio potenziato dal recupero evita l’oblio catastrofico?
- Cancellando vecchie conoscenze per fare spazio
- Memorizzando le nuove conoscenze in un database esterno invece che nei pesi
- Allenandosi continuamente su rumori casuali
- Disabilitando completamente la memoria del modello
- How does Gradient Episodic Memory (GEM) constrain learning on a new task?
- It removes old task examples from memory
- It changes the model to a nearest-class-mean classifier
- It adjusts the gradient so the first-order approximation does not increase loss on stored prior-task examples
- It adds a KL penalty to every parameter regardless of task
- How do RAG-Token and RAG-Sequence differ in the original RAG paper?
- RAG-Token removes retrieval while RAG-Sequence removes generation
- RAG-Sequence uses images while RAG-Token uses audio
- RAG-Token trains without model parameters
- RAG-Token marginalizes retrieved documents per output token, while RAG-Sequence uses one document for a whole sequence