Вікторина, пов’язана з посібником · Середній Рівень

Тест про атаки на вилучення моделей і крадіжки

Зрозумійте, як зловмисники імітують моделі чорної скриньки за допомогою запитів, що показують виходи API і як постачальники можуть виявити або стримати вилучення.

Пов'язані напрямні шляхиВилучення моделі та атаки на крадіжки
Питання 1 з 8

Яка основна ідея атаки вилучення моделі?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Яка основна ідея атаки вилучення моделі?
    • Запит моделі та навчання заміни імітувати її результати
    • Злом сервера для безпосереднього копіювання файлів ваги
    • Підкуп співробітника для витоку даних про навчання
    • Перевантаження API, доки він не вийде з ладу та не скине пам’ять
  2. Чому повернення повних векторів ймовірностей полегшує вилучення, ніж повернення лише першої мітки?
    • Він шифрує відповідь, сповільнюючи зловмисника
    • Він витікає більше інформації за запит, тому потрібно менше запитів
    • Він повністю приховує межу рішення
    • Це збільшує вартість сервера, тому зловмисники здаються
  3. Яка захисна техніка безпосередньо зменшує витік інформації за запитом?
    • Додавання більше GPU на сервер
    • Збільшення кількості параметрів моделі
    • Повернення округлених результатів або вихідних даних лише з першим порогом
    • Відкрите оприлюднення даних навчання
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. Чому вкрадена замінна модель є небезпечною, ніж просто втрачений дохід?
    • Це дозволяє офлайн-атаки білої скриньки, як-от створення змагальних прикладів
    • Це покращує точність оригінальної моделі
    • Він автоматично видаляє оригінальну модель
    • Потрібно перенавчати оригінал
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters