Kvíz spojený s průvodcem · Střední úroveň
Tréninkový kvíz na zkoušku
Porovnejte adaptaci v testovacím čase a vrstvy sekvencí TTT, včetně ztrát s vlastním dohledem, stavů vnitřního modelu, lineárního škálování a učení vnější smyčky.
Otázka 1 z 8
Co se děje v citovaném klasickém tréninkovém adaptačním postupu na zkoušku před hlavní predikcí?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Co se děje v citovaném klasickém tréninkovém adaptačním postupu na zkoušku před hlavní predikcí?
- The unknown main-task label is supplied as a correct training target
- The model must delete all parameters
- Every earlier training example is reloaded without adaptation
- Model parameters are updated using the incoming unlabeled sample
- Proč se klasické TTT spoléhá na pomocný úkol s vlastním dohledem?
- Protože sebekontrola je vždy přesnější než hlavní úkol
- Protože štítky jsou v době testování nedostupné, potřebuje ztrátu, kterou může počítat bez nich
- Protože to odstraňuje potřebu jakékoli neuronové sítě
- Pro šifrování testovacích dat
- Co tvoří opakující se skrytý stav vrstvy sekvence TTT?
- The parameters of an inner model updated through learning
- Only an unchanging raw input filename
- A mandatory list of all previous full attention matrices
- The vocabulary sorted alphabetically
- Jak se škáluje složitost vrstvy sekvencí TTT s délkou sekvence pod pevnými rozměry vnitřního modelu a aktualizací?
- Quadratically for every possible implementation
- Independently of processing any tokens
- Linearly in sequence length
- Exponentially because every token retrains from all possible sequences
- Jaký problém motivoval uvedenou klasickou zkušební adaptační studii?
- A requirement to increase the alphabet size
- A difference between training and test input distributions
- A guarantee that all deployment inputs match training
- A need to sort source filenames faster
- Why is a decrease in an auxiliary adaptation loss insufficient by itself to establish a successful main-task update?
- Every auxiliary loss is the unknown main-label accuracy
- A loss value proves perfect safety on every future sample
- The auxiliary objective and the intended prediction measure are different
- An auxiliary task cannot be computed on unlabeled input
- What inner models distinguish the studied TTT-Linear and TTT-MLP layer variants?
- A decision tree and a mandatory image tokenizer
- Two copies of the same fixed dictionary with no parameters
- A full historical attention matrix and an alphabetical index
- A linear model and a two-layer multilayer perceptron
- In the sequence-layer framework, which loop learns the parameters defining the inner self-supervised task?
- The outer training loop
- Only the unknown future test label
- A required manual dictionary edit at every token
- Neither loop can learn any task parameters