Quiz dotyczący interpretacji mechanicznej

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Jaki jest główny cel interpretacji mechanistycznej?
   • Aby przekształcić wewnętrzne obliczenia sieci w algorytmy zrozumiałe dla człowieka
   • Aby modele trenowały szybciej
   • Aby skompresować modele dla urządzeń mobilnych
   • Aby uszeregować funkcje wejściowe wyłącznie według ważności
2. Do czego odnosi się „superpozycja” w sieci neuronowej?
   • Łączenie wielu modeli razem
   • Reprezentowanie większej liczby elementów niż wymiarów przy użyciu nakładających się kierunków
   • Uruchamianie modelu na wielu procesorach graficznych
   • Uśrednianie prognoz z różnych przebiegów
3. Rzadkie autoenkodery są używane w interpretacji mechanistycznej przede wszystkim w celu...
   • Generuj dane szkoleniowe
   • Przyspiesz wnioskowanie
   • Rozwikłaj aktywacje polisemantyczne na czystsze, łatwiejsze do zinterpretowania funkcje
   • Szyfruj wagi modeli
4. Co to są „głowice indukcyjne”?
   • Akceleratory sprzętowe do transformatorów
   • Warstwy wyjściowe generujące tekst
   • Rodzaj funkcji straty
   • Uwaga głowy, które kopiują i kontynuują powtarzające się wzorce tokenów, wspierając uczenie się w kontekście
5. W jaki sposób badacze potwierdzają, że odkryty obwód rzeczywiście wykonuje hipotetyczne obliczenia?
   • Poprzez interwencje przyczynowe, takie jak ablacja lub łatanie określonych aktywacji
   • Sprawdzając dokładność uczenia modelu
   • Licząc liczbę parametrów
   • Mierząc opóźnienie wnioskowania
6. What is a cautious safety-related reason to study mechanistic interpretability?
   • It proves every hidden behavior can already be found
   • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
   • It guarantees a model will follow any requested correction
   • It replaces evaluations of model behavior in deployment
7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
   • The entire model’s computation is now explained
   • The feature is guaranteed to be a single neuron
   • A candidate feature correlates with those examples and needs further testing to establish its role
   • The feature causes every bridge-related output
8. Why test a candidate feature across varied prompts and examples?
   • Proof that the model has no other relevant circuits
   • A guarantee that the explanation generalizes to every prompt
   • A replacement for inspecting model behavior
   • To check whether the observed activation pattern generalizes beyond selected examples