Kvíz spojený s průvodcem · Střední úroveň
Online vs offline kvíz hodnocení modelu
Rozlišujte výkonnost historických dat od živého dopadu a identifikujte předpoklady a zabezpečení v offline přehrávání a online experimentech.
Otázka 1 z 8
Co offline hodnocení přímo měří?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Co offline hodnocení přímo měří?
- Candidate metrics on a specified historical or held-out dataset
- Causal impact for every future user
- The complete product effect in production
- A guarantee of fairness
- Proč mohou historické protokoly doporučujících zkreslovat offline hodnocení?
- Every candidate was shown equally
- Prior exposure determined which items could receive interactions
- Click labels are always complete
- Offline scores include live randomization
- Co může správně randomizovaný online experiment odhadnout?
- A model's exact causal mechanism
- Universal performance for every population
- The average effect of assignment for the eligible tested population under design assumptions
- The offline test-set loss
- Proč spouštět offline kontroly před online vystavením?
- They ensure historical labels are unbiased
- They replace all live testing
- They guarantee no guardrail regression
- They can catch broken or clearly poor candidates with lower user risk
- Jaký vzor zavádění omezuje vystavení při měření kandidáta naživo?
- Guaranteeing randomized assignment
- Limiting exposure while monitoring a candidate's live behavior
- Measuring only historical accuracy
- Removing the need for rollback
- Why predeclare primary and guardrail metrics?
- It makes every metric statistically independent
- It guarantees enough sample size
- It reduces post-hoc selection and clarifies success and harm criteria
- It removes the need for experiment logs
- What can offline-online disagreement reveal?
- That the model is causal
- That the online test must be false
- That offline data are useless
- Distribution, logging, metric or product-interaction mismatch
- Why does an online experiment not guarantee impact in every future context?
- The result is tied to its tested population, period and conditions
- Randomization is never useful
- The experiment measures only latency
- Online tests cannot record assignment