Kuiz berkaitan panduan · Sederhana Tahap

Kuiz Pengekstrakan Model dan Serangan Mencuri

Fahami cara penyerang meniru model kotak hitam melalui pertanyaan, apa yang didedahkan oleh output API dan cara penyedia boleh mengesan atau menghalang pengekstrakan.

Laluan panduan yang berkaitanPengekstrakan Model Dan Serangan Mencuri
soalan 1 daripada 8

Apakah idea teras di sebalik serangan pengekstrakan model?

Pratonton setiap soalan8 soalan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

  1. Apakah idea teras di sebalik serangan pengekstrakan model?
    • Menyoal model dan melatih seorang pengganti untuk meniru outputnya
    • Menggodam ke dalam pelayan untuk menyalin fail berat secara terus
    • Merasuah pekerja untuk membocorkan set data latihan
    • Melebihkan API sehingga ia ranap dan membuang memori
  2. Mengapakah mengembalikan vektor kebarangkalian penuh menjadikan pengekstrakan lebih mudah daripada hanya mengembalikan label 1 teratas?
    • Ia menyulitkan tindak balas, memperlahankan penyerang
    • Ia membocorkan lebih banyak maklumat bagi setiap pertanyaan, jadi lebih sedikit pertanyaan diperlukan
    • Ia menyembunyikan sempadan keputusan sepenuhnya
    • Ia meningkatkan kos pelayan jadi penyerang berputus asa
  3. Teknik pertahanan yang manakah secara langsung mengurangkan maklumat yang bocor bagi setiap pertanyaan?
    • Menambah lebih banyak GPU pada pelayan
    • Meningkatkan kiraan parameter model
    • Mengembalikan output bulat atau teratas 1 sahaja
    • Menerbitkan data latihan secara terbuka
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. Mengapakah model gantian yang dicuri berbahaya selain kehilangan hasil?
    • Ia mendayakan serangan kotak putih luar talian seperti mencipta contoh musuh
    • Ia meningkatkan ketepatan model asal
    • Ia secara automatik memadam model asal
    • Ia dikehendaki melatih semula yang asal
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters