Model Çıkarma ve Çalma Saldırıları Testi

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Model çıkarma saldırısının ardındaki temel fikir nedir?
   • Modeli sorgulamak ve onun çıktılarını taklit edecek bir alternatifi eğitmek
   • Ağırlık dosyalarını doğrudan kopyalamak için sunucuyu hacklemek
   • Eğitim veri setini sızdırması için bir çalışana rüşvet vermek
   • API'yi çökene ve belleği boşaltana kadar aşırı yükleme
2. Neden tam olasılık vektörlerini döndürmek, çıkarmayı yalnızca ilk 1 etiketi döndürmekten daha kolay hale getiriyor?
   • Yanıtı şifreleyerek saldırganı yavaşlatır
   • Sorgu başına daha fazla bilgi sızdırıyor, dolayısıyla daha az sorguya ihtiyaç duyuluyor
   • Karar sınırını tamamen gizler
   • Saldırganların pes etmesi için sunucu maliyetini artırır
3. Hangi savunma tekniği sorgu başına sızdırılan bilgileri doğrudan azaltır?
   • Sunucuya daha fazla GPU ekleme
   • Modelin parametre sayısını arttırma
   • Yuvarlatılmış veya yalnızca ilk 1 çıkışlarını döndürme
   • Eğitim verilerinin açıkça yayınlanması
4. 2024 üretim dili modeli çıkarma belgesi GPT-3.5 Turbo hakkında neler bildirdi?
   • It reconstructs every GPT-3.5 parameter exactly for under $20
   • It obtains the model’s training dataset directly
   • It extracts a complete model checkpoint from the API
   • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
5. Çalınan bir ikame model, gelir kaybının ötesinde neden tehlikelidir?
   • Rakip örneklerin işlenmesi gibi çevrimdışı beyaz kutu saldırılarına olanak tanır
   • Orijinal modelin doğruluğunu artırır
   • Orijinal modeli otomatik olarak siler
   • Orijinalin yeniden eğitilmesi gerekiyor
6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
   • Boundary-proximate informative samples and reduced redundancy among selected samples
   • Exact recovery of all secret model weights and a guaranteed substitute
   • Random sampling only and avoiding all substitute-model predictions
   • Higher API throughput and removal of the query budget
7. What can API rate limits do against a model-extraction attempt?
   • Prove that no substitute model can be trained
   • Remove all information from each permitted prediction
   • Make large-scale querying slower or more expensive
   • Make model outputs impossible to compare
8. What does the DynaMarks paper propose for a model-extraction defense?
   • It adds a logo to every generated answer
   • It encrypts all model weights at rest
   • It guarantees ownership of every copied production model
   • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters