Тест на обнаружение дрейфа модели

Ответы и пояснения появляются по мере прохождения теста.

1. В чем разница между дрейфом данных и дрейфом концепций?
   • Дрейф данных меняет распределение входных данных; Смещение концепций меняет соотношение входных данных и выходных данных.
   • Это два названия одного и того же
   • Смещение данных влияет только на изображения; Смещение концепции влияет только на текст
   • Смещение данных происходит во время обучения; Смещение концепции происходит во время тестирования
2. How should a team interpret a PSI value such as 0.30?
   • As a guarantee that model accuracy has fallen
   • As a signal to investigate under the chosen monitoring policy, not a universal proof of harmful drift
   • As an identical threshold for every feature and population
   • As proof that retraining must begin immediately
3. Почему обнаружение дрейфа на основе входных данных может дать раннее предупреждение?
   • Потому что входные данные всегда сначала неправильные
   • Поскольку входные данные представляют собой файлы меньшего размера
   • Потому что ярлыки, подтверждающие истину, часто появляются гораздо позже, чем предсказания.
   • Потому что модели полностью игнорируют ярлыки
4. What does a two-sample Kolmogorov-Smirnov test compare?
   • The average accuracy of two classifiers only
   • The class labels predicted by a single model
   • The parameter values of two neural networks
   • The empirical cumulative distribution functions of two samples
5. Какой сценарий является ярким примером дрейфа концепций?
   • То, что пользователи считают спамом, со временем меняется даже для похожих писем.
   • Камера создает немного более яркие изображения.
   • Возраст клиентов в наборе данных остается прежним.
   • Набор данных сохраняется в новом формате файла.
6. What is a safe first response when an input-drift monitor triggers?
   • Automatically deploy a newly retrained model without evaluation
   • Investigate the data and impact, then decide whether retraining or another action is justified
   • Delete the reference data
   • Assume every shift is harmful concept drift
7. What can TensorFlow Data Validation check in an ML pipeline?
   • The causal effect of a feature
   • Whether every model prediction is correct
   • Data schemas and statistics, including unexpected changes
   • The absolute accuracy of an unlabeled dataset
8. What does the Population Stability Index (PSI) measure in a drift-monitoring setup?
   • The model’s accuracy on labeled examples
   • A causal effect of an input feature
   • A universal pass/fail threshold for all models
   • A numerical summary of how binned feature distributions differ between reference and current data