Тест на механічну інтерпретацію

Відповіді та пояснення з’являються під час виконання тесту.

1. Яка головна мета механістичної інтерпретації?
   • Переконструювати внутрішні обчислення мережі в зрозумілі людині алгоритми
   • Щоб моделі тренувалися швидше
   • Щоб стиснути моделі для мобільних пристроїв
   • Для ранжування вхідних функцій лише за важливістю
2. Що означає «суперпозиція» в нейронній мережі?
   • Складання багатьох моделей разом
   • Представлення більшої кількості функцій, ніж є розмірів, за допомогою напрямків, що перекриваються
   • Запуск моделі на кількох графічних процесорах
   • Усереднення прогнозів з різних прогонів
3. Розріджені автокодери використовуються в механістичній інтерпретації в основному для...
   • Генеруйте навчальні дані
   • Прискорити висновок
   • Розділіть полісемантичні активації на більш чисті, зручніші функції
   • Зашифруйте ваги моделі
4. Що таке «індукційні головки»?
   • Апаратні прискорювачі для трансформаторів
   • Вихідні шари, які генерують текст
   • Тип функції втрат
   • Голови уваги, які копіюють і продовжують повторювані шаблони маркерів, підтримуючи навчання в контексті
5. Як дослідники підтверджують, що виявлена схема справді виконує гіпотетичні обчислення?
   • За допомогою причинно-наслідкових втручань, таких як усунення або виправлення певних активацій
   • Перевіряючи точність навчання моделі
   • Шляхом підрахунку кількості параметрів
   • Вимірюючи затримку висновку
6. What is a cautious safety-related reason to study mechanistic interpretability?
   • It proves every hidden behavior can already be found
   • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
   • It guarantees a model will follow any requested correction
   • It replaces evaluations of model behavior in deployment
7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
   • The entire model’s computation is now explained
   • The feature is guaranteed to be a single neuron
   • A candidate feature correlates with those examples and needs further testing to establish its role
   • The feature causes every bridge-related output
8. Why test a candidate feature across varied prompts and examples?
   • Proof that the model has no other relevant circuits
   • A guarantee that the explanation generalizes to every prompt
   • A replacement for inspecting model behavior
   • To check whether the observed activation pattern generalizes beyond selected examples