Kuis Ekstraksi Model dan Serangan Mencuri

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Apa ide inti di balik serangan ekstraksi model?
   • Mengkueri model dan melatih pengganti untuk meniru keluarannya
   • Meretas server untuk menyalin file berat secara langsung
   • Menyuap karyawan untuk membocorkan kumpulan data pelatihan
   • Membebani API secara berlebihan hingga mogok dan membuang memori
2. Mengapa mengembalikan vektor probabilitas penuh membuat ekstraksi lebih mudah daripada hanya mengembalikan label 1 teratas?
   • Ini mengenkripsi respons, memperlambat penyerang
   • Ini membocorkan lebih banyak informasi per kueri, sehingga lebih sedikit kueri yang diperlukan
   • Ini menyembunyikan batasan keputusan sepenuhnya
   • Ini meningkatkan biaya server sehingga penyerang menyerah
3. Teknik pertahanan manakah yang secara langsung mengurangi kebocoran informasi per kueri?
   • Menambahkan lebih banyak GPU ke server
   • Meningkatkan jumlah parameter model
   • Mengembalikan keluaran yang dibulatkan atau hanya 1 teratas
   • Memublikasikan data pelatihan secara terbuka
4. Apa yang dilaporkan dalam makalah ekstraksi model bahasa produksi tahun 2024 tentang GPT-3.5 Turbo?
   • Ini merekonstruksi setiap parameter GPT-3.5 dengan harga di bawah $20
   • Ia memperoleh kumpulan data pelatihan model secara langsung
   • Ini mengekstrak pos pemeriksaan model lengkap dari API
   • Ini memulihkan lapisan proyeksi penyematan; makalah ini memperkirakan kueri untuk GPT-3.5 Turbo kurang dari $2.000
5. Mengapa model pengganti yang dicuri lebih berbahaya daripada sekadar kehilangan pendapatan?
   • Hal ini memungkinkan serangan white-box offline seperti membuat contoh permusuhan
   • Ini meningkatkan akurasi model asli
   • Secara otomatis menghapus model aslinya
   • Diperlukan untuk melatih kembali yang asli
6. Di ActiveThief, apa yang ingin diseimbangkan oleh strategi kueri gabungan DFAL + K-center?
   • Sampel informatif yang mendekati batas dan mengurangi redundansi di antara sampel yang dipilih
   • Pemulihan yang tepat dari semua bobot model rahasia dan jaminan pengganti
   • Pengambilan sampel acak saja dan menghindari semua prediksi model pengganti
   • Throughput API yang lebih tinggi dan penghapusan anggaran kueri
7. Apa pengaruh batas laju API terhadap upaya ekstraksi model?
   • Buktikan bahwa tidak ada model pengganti yang dapat dilatih
   • Hapus semua informasi dari setiap prediksi yang diizinkan
   • Membuat kueri skala besar menjadi lebih lambat atau lebih mahal
   • Membuat keluaran model tidak mungkin dibandingkan
8. Apa yang diusulkan oleh makalah DynaMarks untuk pertahanan ekstraksi model?
   • Itu menambahkan logo ke setiap jawaban yang dihasilkan
   • Ini mengenkripsi semua bobot model saat istirahat
   • Ini menjamin kepemilikan setiap model produksi yang disalin
   • Itu dapat menyematkan tanda tangan dalam model pengganti dengan mengubah keluaran API secara dinamis menggunakan parameter rahasia