Тест, свързан с ръководство · Среден Ниво

Обясним AI и SHAP тест

Прегледайте как SHAP приписва изходите на модела, какво показват локалните и обобщените графики и защо обясненията се нуждаят от внимателна интерпретация.

Свързани ръководни пътекиОбясними AI и Shap
Въпрос 1 на 8

На каква математическа концепция се основават стойностите на SHAP?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. На каква математическа концепция се основават стойностите на SHAP?
    • Стойността на Шепли от теорията на кооперативните игри
    • Bayesian posteriors
    • Градиентно спускане
    • Анализ на главните компоненти
  2. Свойството „аддитивност“ (локална точност) на SHAP означава, че за една прогноза стойностите на SHAP...
    • Всички са положителни
    • Сума до разликата между прогнозата и базовия резултат
    • Нормализирани са между 0 и 1
    • Равна точност на обучението на модела
  3. Защо изчисляването на точните стойности на Shapley обикновено е скъпо?
    • Това изисква многократно преобучение на модела
    • Необходими са етикетирани тестови данни за всяка прогноза
    • Той трябва да осредни пределния принос на дадена характеристика за всички възможни подгрупи от характеристики
    • Работи само на GPU
  4. Кой вариант на SHAP изчислява ефективно точните стойности за градиентно подсилени модели на дърво?
    • KernelSHAP
    • DeepSHAP
    • LinearSHAP
    • TreeSHAP
  5. Why do teams use explanation methods such as SHAP during model development?
    • To inspect model behavior, investigate influential features, and support review
    • Because SHAP proves the model is fair
    • Because every law requires SHAP for every model
    • Because feature attributions establish causal effects
  6. What can a SHAP summary plot show across a dataset?
    • Whether a feature caused the outcome in the real world
    • How much features affect model outputs across examples, including the spread of their SHAP values
    • Which individual training row leaked the target label
    • A guaranteed ranking of features for every possible dataset
  7. What does a local SHAP explanation describe?
    • A causal effect of changing a real-world feature
    • A guarantee that the model is fair
    • Feature attributions for one prediction relative to a chosen baseline and feature convention
    • The global training accuracy for every dataset
  8. Why can correlated features complicate SHAP interpretation?
    • Correlated features make all SHAP values exactly zero
    • Correlation proves one feature caused the prediction
    • SHAP does not use a model output
    • Different assumptions about feature dependence can change how contributions are allocated