Тест за оценка на линейно изследване и замразени функции

Отговорите и обясненията се появяват, докато отговаряте на теста.

1. При стандартна линейна сонда кои параметри се актуализират по време на обучение?
   • Само новодобавеният линеен класификатор отгоре
   • Целият гръбнак плюс линейния слой
   • Само гръбнакът, оставяйки класификатора фиксиран
   • Слоят за вграждане и последният блок за внимание
2. What does high linear-probe accuracy most directly show?
   • The backbone causally uses the feature for every prediction
   • The labels are decodable by a linear classifier from the frozen features under that dataset and protocol
   • The representation is robust to every distribution shift
   • The probe has identified a human-interpretable mechanism
3. В сравнение с пълната фина настройка, линейното сондиране е преди всичко привлекателно, защото е:
   • По-точен при всяка задача
   • Гарантирано за по-добро обобщаване извън разпространението
   • По-евтино в изчисленията и паметта и дава по-ясно четене на качеството на функциите
   • Единственият начин да използвате предварително обучен модел
4. Обща емпирична констатация при изследване на трансформатори е, че:
   • Крайният слой винаги осигурява най-добрата точност на сондата
   • Сондирането работи само в конволюционни мрежи
   • Изборът на слой никога не влияе на резултатите от сондата
   • Междинните слоеве често превъзхождат последния слой за прехвърляне
5. Отвъд сравнителния анализ, линейните сонди се използват все повече за интерпретация за:
   • Открийте дали концепция като истинността е кодирана в скрити състояния
   • Компресирайте модели за мобилно внедряване
   • Сменете оптимизатора по време на предварителната тренировка
   • Автоматично генерирайте нови данни за обучение
6. Ключов методологичен риск при интерпретиране на висока точност на сондата е, че:
   • Гръбнакът тайно продължава да тренира
   • Сондата може да използва фалшива корелация, а не истинската концепция
   • Линейните сонди не могат да бъдат претоварени
   • Загубата на кръстосана ентропия не може да се използва
7. To compare two backbone layers with linear probes, what should remain consistent?
   • The feature vectors from each layer
   • The layer being evaluated
   • The task labels, data split and probe-training protocol
   • The activation values themselves
8. Why might feature normalization and learning-rate sweeps be used in a probe evaluation?
   • To update the frozen backbone
   • To add hidden nonlinear layers to the probe
   • To guarantee the concept is causally used
   • To reduce optimization and scale effects that could distort the representation comparison