Тест, свързан с ръководство · Среден Ниво

Тест за извличане на модели и атаки за кражба

Разберете как атакуващите имитират модели на черна кутия чрез заявки, какво разкриват изходите на API и как доставчиците могат да открият или възпрат извличането.

Свързани ръководни пътекиАтаки за извличане и кражба на модели
Въпрос 1 на 8

Каква е основната идея зад атаката за извличане на модел?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. Каква е основната идея зад атаката за извличане на модел?
    • Запитване към модела и обучение на заместител да имитира неговите резултати
    • Хакване на сървъра за директно копиране на файловете за тегло
    • Подкупване на служител за изтичане на набор от данни за обучение
    • Претоварване на API, докато се срине и изхвърли паметта
  2. Защо връщането на пълни вектори на вероятност прави извличането по-лесно, отколкото връщането само на етикет от най-високо ниво?
    • Той криптира отговора, забавяйки нападателя
    • Изтича повече информация на заявка, така че са необходими по-малко заявки
    • Той изцяло скрива границата на решението
    • Това увеличава цената на сървъра, така че нападателите се отказват
  3. Коя отбранителна техника директно намалява информацията, изтекла за всяка заявка?
    • Добавяне на повече GPU към сървъра
    • Увеличаване на броя на параметрите на модела
    • Връщане на закръглени или само горни 1 резултати
    • Открито публикуване на данните за обучението
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. Защо един откраднат заместващ модел е опасен освен загубените приходи?
    • Позволява офлайн атаки с бяла кутия, като изработване на състезателни примери
    • Подобрява точността на оригиналния модел
    • Той автоматично изтрива оригиналния модел
    • Изисква се преквалифициране на оригинала
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters