Testare liniară și test de evaluare a caracteristicilor înghețate

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

1. Într-o sondă liniară standard, ce parametri sunt actualizați în timpul antrenamentului?
   • Doar clasificatorul liniar nou adăugat deasupra
   • Întreaga coloană vertebrală plus stratul liniar
   • Doar coloana vertebrală, lăsând clasificatorul fix
   • Stratul de încorporare și blocul de atenție final
2. What does high linear-probe accuracy most directly show?
   • The backbone causally uses the feature for every prediction
   • The labels are decodable by a linear classifier from the frozen features under that dataset and protocol
   • The representation is robust to every distribution shift
   • The probe has identified a human-interpretable mechanism
3. În comparație cu reglarea fină completă, sondarea liniară este în primul rând atractivă deoarece este:
   • Mai precis la fiecare sarcină
   • Garantat pentru a generaliza mai bine în afara distribuției
   • Mai ieftin în calcul și memorie și oferă o citire mai curată a calității caracteristicilor
   • Singura modalitate de a folosi un model preantrenat
4. O constatare empirică obișnuită la sondarea transformatoarelor este aceea că:
   • Stratul final oferă întotdeauna cea mai bună acuratețe a sondei
   • Sondarea funcționează numai pe rețelele convoluționale
   • Alegerea stratului nu afectează niciodată rezultatele sondei
   • Straturile intermediare depășesc adesea ultimul strat pentru transfer
5. Dincolo de benchmarking, sondele liniare sunt din ce în ce mai folosite în interpretabilitate pentru:
   • Detectați dacă un concept precum veridicitatea este codificat în stări ascunse
   • Comprimați modele pentru implementare mobilă
   • Înlocuiți optimizatorul în timpul antrenamentului preliminar
   • Generați automat date noi de antrenament
6. Un risc metodologic cheie atunci când se interpretează o precizie ridicată a sondei este că:
   • Coloana vertebrală continuă să se antreneze în secret
   • Sonda ar putea să exploateze o corelație falsă mai degrabă decât conceptul adevărat
   • Sondele liniare nu se pot supraadapta
   • Pierderea de entropie încrucișată nu poate fi utilizată
7. To compare two backbone layers with linear probes, what should remain consistent?
   • The feature vectors from each layer
   • The layer being evaluated
   • The task labels, data split and probe-training protocol
   • The activation values themselves
8. Why might feature normalization and learning-rate sweeps be used in a probe evaluation?
   • To update the frozen backbone
   • To add hidden nonlinear layers to the probe
   • To guarantee the concept is causally used
   • To reduce optimization and scale effects that could distort the representation comparison