Викторина, связанная с руководством · Жесткий Уровень

Разреженные автоэнкодеры для теста на интерпретируемость

Проверяет реконструкцию и разреженность разреженного автоэнкодера, функции активации, расширение ширины, разделение функций и эксперименты по причинно-следственному управлению.

Связанные направляющие путиРазреженные автоэнкодеры для интерпретируемости
Вопрос 1 из 8

Какова основная цель обучения разреженного автокодировщика активации модели?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. Какова основная цель обучения разреженного автокодировщика активации модели?
    • Разложить запутанные активации на интерпретируемые, в основном изолированные функции.
    • Сжать модель, чтобы она работала быстрее.
    • Для перевода текста между языками
    • Повысить точность модели на бенчмарках
  2. How does an SAE’s sparsity penalty affect hidden-unit activations?
    • It guarantees each unit represents exactly one concept
    • It encourages only a small subset of the wider hidden layer to activate for an input
    • It makes every hidden unit activate equally
    • It removes the reconstruction objective
  3. Сколько примерно функций Anthropic извлекло при масштабировании SAE до Claude 3 Sonnet в 2024 году?
    • Около 500
    • Около 2000
    • Около 34 миллионов
    • Около 100 миллиардов
  4. Что показала демонстрация «Золотых ворот Claude»?
    • Что SAE можно обучать только на изображениях
    • Что модель больше не может создавать текст
    • Эти функции не влияют на результаты
    • Высокое ограничение отдельного признака причинно управляет поведением модели.
  5. Почему скрытый слой в SAE обычно намного ШИРИНЕ, чем активация, которую он реконструирует?
    • Поскольку концепции накладываются друг на друга в меньшем количестве измерений, чем им действительно необходимо, поэтому большее количество единиц помогает их распутать.
    • Чтобы обучение было дешевле
    • Потому что более широкие слои всегда более точны
    • Чтобы уменьшить количество параметров
  6. Какое известное ограничение существующих разреженных автокодировщиков?
    • Их нельзя обучить градиентному спуску.
    • Разделение функций, когда одна концепция разбивается на множество отдельных функций.
    • Они работают только в сверточных сетях
    • Они устраняют необходимость в какой-либо человеческой маркировке.
  7. Which two objectives are commonly combined when training a sparse autoencoder?
    • A policy gradient and value loss
    • A next-token loss and a contrastive loss
    • Reconstruction error and a penalty on hidden activations
    • A calibration error and classification accuracy
  8. What does a TopK sparse autoencoder do to encourage sparsity?
    • Keeps the K largest input pixels and discards the decoder
    • Sets all encoder weights to zero
    • Trains K different tokenizers
    • Keeps only the K largest hidden activations for an input