Kvíz spojený s průvodcem · Střední úroveň
Vysvětlitelný kvíz AI a SHAP
Zkontrolujte, jak SHAP připisuje výstupy modelu, co ukazují místní a souhrnné grafy a proč je třeba vysvětlení pečlivě interpretovat.
Otázka 1 z 8
Na jakém matematickém konceptu jsou hodnoty SHAP založeny?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Na jakém matematickém konceptu jsou hodnoty SHAP založeny?
- Hodnota Shapleyho z teorie kooperativních her
- Bayesovské posteriory
- Gradientní sestup
- Analýza hlavních komponent
- Vlastnost 'aditivity' (místní přesnost) SHAP znamená, že pro jedinou předpověď jsou hodnoty SHAP...
- Všechny jsou pozitivní
- Součet k rozdílu mezi predikcí a výchozím výstupem
- Jsou normalizovány tak, aby ležely mezi 0 a 1
- Stejná přesnost tréninku modelu
- Proč je výpočet přesných Shapleyho hodnot obecně drahý?
- Vyžaduje to mnohokrát rekvalifikaci modelu
- Pro každou předpověď potřebuje označená testovací data
- Musí zprůměrovat mezní příspěvek funkce přes všechny možné podskupiny funkcí
- Funguje pouze na GPU
- Která varianta SHAP počítá efektivně přesné hodnoty pro modely stromů se zesíleným gradientem?
- KernelSHAP
- DeepSHAP
- LineárníSHAP
- TreeSHAP
- Why do teams use explanation methods such as SHAP during model development?
- To inspect model behavior, investigate influential features, and support review
- Because SHAP proves the model is fair
- Because every law requires SHAP for every model
- Because feature attributions establish causal effects
- What can a SHAP summary plot show across a dataset?
- Whether a feature caused the outcome in the real world
- How much features affect model outputs across examples, including the spread of their SHAP values
- Which individual training row leaked the target label
- A guaranteed ranking of features for every possible dataset
- What does a local SHAP explanation describe?
- A causal effect of changing a real-world feature
- A guarantee that the model is fair
- Feature attributions for one prediction relative to a chosen baseline and feature convention
- The global training accuracy for every dataset
- Why can correlated features complicate SHAP interpretation?
- Correlated features make all SHAP values exactly zero
- Correlation proves one feature caused the prediction
- SHAP does not use a model output
- Different assumptions about feature dependence can change how contributions are allocated