Тест на оцінку лінійного зондування та заморожених функцій

Відповіді та пояснення з’являються під час виконання тесту.

1. Які параметри стандартного лінійного датчика оновлюються під час навчання?
   • Лише щойно доданий лінійний класифікатор зверху
   • Весь хребет плюс лінійний шар
   • Тільки магістраль, залишаючи класифікатор фіксованим
   • Шар вбудовування та останній блок уваги
2. What does high linear-probe accuracy most directly show?
   • The backbone causally uses the feature for every prediction
   • The labels are decodable by a linear classifier from the frozen features under that dataset and protocol
   • The representation is robust to every distribution shift
   • The probe has identified a human-interpretable mechanism
3. У порівнянні з повним тонким налаштуванням, лінійне зондування є перш за все привабливим, оскільки воно:
   • Точніше в кожному завданні
   • Гарантовано краще узагальнювати поза розподілом
   • Дешевше в обчисленні та пам’яті, а також дає чіткішу оцінку якості функцій
   • Єдиний спосіб використання попередньо навченої моделі
4. Загальним емпіричним висновком під час тестування трансформаторів є те, що:
   • Останній шар завжди забезпечує найкращу точність зонда
   • Зондування працює лише в згорткових мережах
   • Вибір шару ніколи не впливає на результати зонду
   • Проміжні шари часто перевершують останній шар для перенесення
5. Окрім бенчмаркінгу, лінійні зонди все частіше використовуються для інтерпретації для:
   • Визначте, чи таке поняття, як правдивість, закодовано в прихованих станах
   • Стискайте моделі для мобільного розгортання
   • Замініть оптимізатор під час попереднього навчання
   • Автоматично генеруйте нові навчальні дані
6. Ключовий методологічний ризик під час інтерпретації високої точності зонда полягає в тому, що:
   • Хребет таємно продовжує тренуватися
   • Зонд може використовувати фальшиву кореляцію, а не справжню концепцію
   • Лінійні зонди не можуть бути переповнені
   • Перехресна втрата ентропії не може бути використана
7. To compare two backbone layers with linear probes, what should remain consistent?
   • The feature vectors from each layer
   • The layer being evaluated
   • The task labels, data split and probe-training protocol
   • The activation values themselves
8. Why might feature normalization and learning-rate sweeps be used in a probe evaluation?
   • To update the frozen backbone
   • To add hidden nonlinear layers to the probe
   • To guarantee the concept is causally used
   • To reduce optimization and scale effects that could distort the representation comparison