Kvíz spojený s průvodcem · Střední úroveň

Vysvětlitelný kvíz AI a SHAP

Zkontrolujte, jak SHAP připisuje výstupy modelu, co ukazují místní a souhrnné grafy a proč je třeba vysvětlení pečlivě interpretovat.

Otázka 1 z 8

Na jakém matematickém konceptu jsou hodnoty SHAP založeny?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Na jakém matematickém konceptu jsou hodnoty SHAP založeny?
    • Hodnota Shapleyho z teorie kooperativních her
    • Bayesovské posteriory
    • Gradientní sestup
    • Analýza hlavních komponent
  2. Vlastnost 'aditivity' (místní přesnost) SHAP znamená, že pro jedinou předpověď jsou hodnoty SHAP...
    • Všechny jsou pozitivní
    • Součet k rozdílu mezi predikcí a výchozím výstupem
    • Jsou normalizovány tak, aby ležely mezi 0 a 1
    • Stejná přesnost tréninku modelu
  3. Proč je výpočet přesných Shapleyho hodnot obecně drahý?
    • Vyžaduje to mnohokrát rekvalifikaci modelu
    • Pro každou předpověď potřebuje označená testovací data
    • Musí zprůměrovat mezní příspěvek funkce přes všechny možné podskupiny funkcí
    • Funguje pouze na GPU
  4. Která varianta SHAP počítá efektivně přesné hodnoty pro modely stromů se zesíleným gradientem?
    • KernelSHAP
    • DeepSHAP
    • LineárníSHAP
    • TreeSHAP
  5. Why do teams use explanation methods such as SHAP during model development?
    • To inspect model behavior, investigate influential features, and support review
    • Because SHAP proves the model is fair
    • Because every law requires SHAP for every model
    • Because feature attributions establish causal effects
  6. What can a SHAP summary plot show across a dataset?
    • Whether a feature caused the outcome in the real world
    • How much features affect model outputs across examples, including the spread of their SHAP values
    • Which individual training row leaked the target label
    • A guaranteed ranking of features for every possible dataset
  7. What does a local SHAP explanation describe?
    • A causal effect of changing a real-world feature
    • A guarantee that the model is fair
    • Feature attributions for one prediction relative to a chosen baseline and feature convention
    • The global training accuracy for every dataset
  8. Why can correlated features complicate SHAP interpretation?
    • Correlated features make all SHAP values exactly zero
    • Correlation proves one feature caused the prediction
    • SHAP does not use a model output
    • Different assumptions about feature dependence can change how contributions are allocated