Викторина, связанная с руководством · Средний Уровень

Викторина по извлечению моделей и атакам кражи

Узнайте, как злоумышленники имитируют модели «черного ящика» с помощью запросов, что показывают выходные данные API и как поставщики могут обнаружить или предотвратить извлечение данных.

Связанные направляющие путиИзвлечение модели и атаки кражи
Вопрос 1 из 8

Какова основная идея атаки с извлечением модели?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. Какова основная идея атаки с извлечением модели?
    • Запрос модели и обучение ее замены имитации ее результатов.
    • Взлом сервера для прямого копирования файлов веса
    • Подкуп сотрудника за утечку набора обучающих данных
    • Перегрузка API до тех пор, пока он не выйдет из строя и не сбросит память.
  2. Почему возврат векторов полной вероятности упрощает извлечение, чем возврат только первой метки?
    • Он шифрует ответ, замедляя атаку злоумышленника.
    • Он пропускает больше информации за каждый запрос, поэтому требуется меньше запросов.
    • Он полностью скрывает границу решения
    • Это увеличивает стоимость сервера, поэтому злоумышленники сдаются
  3. Какой защитный метод напрямую снижает утечку информации при каждом запросе?
    • Добавление дополнительных графических процессоров на сервер
    • Увеличение количества параметров модели
    • Возврат округленных результатов или выходных данных только с верхним значением 1
    • Открытая публикация данных обучения
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. Почему украденная модель-заменитель опасна не только просто потерянным доходом?
    • Он позволяет проводить автономные атаки методом «белого ящика», такие как создание состязательных примеров.
    • Это повышает точность исходной модели.
    • Он автоматически удаляет исходную модель
    • Требуется переобучить оригинал
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters