Тест за механична интерпретация

Отговорите и обясненията се появяват, докато отговаряте на теста.

1. Каква е централната цел на механистичната интерпретируемост?
   • За обратно проектиране на вътрешните изчисления на мрежата в разбираеми за човека алгоритми
   • Да кара моделите да тренират по-бързо
   • За компресиране на модели за мобилни устройства
   • За класиране на входните характеристики само по важност
2. Какво означава „суперпозиция“ в невронна мрежа?
   • Подреждане на много модели заедно
   • Представяне на повече функции, отколкото има измерения чрез използване на припокриващи се посоки
   • Изпълнение на модел на множество GPU
   • Осредняване на прогнози от различни серии
3. Разредените автоенкодери се използват в механистичната интерпретация предимно за...
   • Генерирайте данни за обучение
   • Ускорете извода
   • Разделете полисемантичните активации в по-чисти, по-интерпретируеми характеристики
   • Криптирайте теглата на модела
4. Какво представляват „индукционните глави“?
   • Хардуерни ускорители за трансформатори
   • Изходни слоеве, които генерират текст
   • Вид функция на загуба
   • Глави за внимание, които копират и продължават повтарящи се модели на токени, поддържайки обучение в контекст
5. Как изследователите потвърждават, че открита верига наистина извършва хипотетично изчисление?
   • Чрез причинно-следствени интервенции като премахване или коригиране на специфични активации
   • Чрез проверка на точността на обучение на модела
   • Чрез преброяване на броя на параметрите
   • Чрез измерване на латентността на извода
6. What is a cautious safety-related reason to study mechanistic interpretability?
   • It proves every hidden behavior can already be found
   • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
   • It guarantees a model will follow any requested correction
   • It replaces evaluations of model behavior in deployment
7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
   • The entire model’s computation is now explained
   • The feature is guaranteed to be a single neuron
   • A candidate feature correlates with those examples and needs further testing to establish its role
   • The feature causes every bridge-related output
8. Why test a candidate feature across varied prompts and examples?
   • Proof that the model has no other relevant circuits
   • A guarantee that the explanation generalizes to every prompt
   • A replacement for inspecting model behavior
   • To check whether the observed activation pattern generalizes beyond selected examples