Quiz połączony z przewodnikiem · Średni Poziom

Wyjaśnialny quiz AI i SHAP

Przejrzyj, w jaki sposób SHAP atrybutuje wyniki modelu, co pokazują wykresy lokalne i podsumowujące oraz dlaczego wyjaśnienia wymagają ostrożnej interpretacji.

Powiązane ścieżki prowadząceWyjaśnialna sztuczna inteligencja i Shap
Pytanie 1 z 8

Na jakiej koncepcji matematycznej opierają się wartości SHAP?

Podgląd każdego pytania8 pytania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

  1. Na jakiej koncepcji matematycznej opierają się wartości SHAP?
    • Wartość Shapleya z teorii gier kooperacyjnych
    • Tylne części Bayesa
    • Zejście gradientowe
    • Analiza głównych składników
  2. Właściwość „addytywności” (lokalna dokładność) SHAP oznacza, że dla pojedynczej predykcji wartości SHAP...
    • Wszystkie są pozytywne
    • Suma różnicy między prognozą a wynikiem podstawowym
    • Są znormalizowane tak, aby mieściły się w przedziale od 0 do 1
    • Równa dokładność uczenia modelu
  3. Dlaczego obliczanie dokładnych wartości Shapleya jest zazwyczaj drogie?
    • Wymaga to wielokrotnego przeszkolenia modelu
    • Do każdej prognozy potrzebne są oznaczone dane testowe
    • Musi uśredniać marginalny udział cechy we wszystkich możliwych podzbiorach cech
    • Działa tylko na GPU
  4. Który wariant SHAP skutecznie oblicza dokładne wartości dla modeli drzew ze wzmocnionym gradientem?
    • JądroSHAP
    • DeepSHAP
    • LiniowySHAP
    • DrzewoSHAP
  5. Why do teams use explanation methods such as SHAP during model development?
    • To inspect model behavior, investigate influential features, and support review
    • Because SHAP proves the model is fair
    • Because every law requires SHAP for every model
    • Because feature attributions establish causal effects
  6. What can a SHAP summary plot show across a dataset?
    • Whether a feature caused the outcome in the real world
    • How much features affect model outputs across examples, including the spread of their SHAP values
    • Which individual training row leaked the target label
    • A guaranteed ranking of features for every possible dataset
  7. What does a local SHAP explanation describe?
    • A causal effect of changing a real-world feature
    • A guarantee that the model is fair
    • Feature attributions for one prediction relative to a chosen baseline and feature convention
    • The global training accuracy for every dataset
  8. Why can correlated features complicate SHAP interpretation?
    • Correlated features make all SHAP values exactly zero
    • Correlation proves one feature caused the prediction
    • SHAP does not use a model output
    • Different assumptions about feature dependence can change how contributions are allocated