मॉडल निष्कर्षण और चोरी के हमले प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. मॉडल निष्कर्षण हमले के पीछे मूल विचार क्या है?
   • मॉडल को क्वेरी करना और उसके आउटपुट की नकल करने के लिए एक विकल्प को प्रशिक्षित करना
   • वेट फ़ाइलों को सीधे कॉपी करने के लिए सर्वर में हैकिंग
   • प्रशिक्षण डेटासेट को लीक करने के लिए एक कर्मचारी को रिश्वत देना
   • एपीआई को तब तक ओवरलोड करना जब तक वह क्रैश न हो जाए और मेमोरी डंप न हो जाए
2. पूर्ण संभाव्यता वाले वैक्टर लौटाने से केवल शीर्ष-1 लेबल लौटाने की तुलना में निष्कर्षण आसान क्यों हो जाता है?
   • यह प्रतिक्रिया को एन्क्रिप्ट करता है, जिससे हमलावर की गति धीमी हो जाती है
   • यह प्रति प्रश्न अधिक जानकारी लीक करता है, इसलिए कम प्रश्नों की आवश्यकता होती है
   • यह निर्णय सीमा को पूरी तरह छुपा देता है
   • इससे सर्वर की लागत बढ़ जाती है इसलिए हमलावर हार मान लेते हैं
3. कौन सी रक्षात्मक तकनीक प्रति प्रश्न लीक हुई जानकारी को सीधे कम करती है?
   • सर्वर में और अधिक GPU जोड़ना
   • मॉडल की पैरामीटर संख्या बढ़ाना
   • गोलाकार या शीर्ष-1-केवल आउटपुट लौटा रहा है
   • प्रशिक्षण डेटा को खुले तौर पर प्रकाशित करना
4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
   • It reconstructs every GPT-3.5 parameter exactly for under $20
   • It obtains the model’s training dataset directly
   • It extracts a complete model checkpoint from the API
   • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
5. चुराया गया स्थानापन्न मॉडल केवल खोए हुए राजस्व से परे खतरनाक क्यों है?
   • यह प्रतिकूल उदाहरण तैयार करने जैसे ऑफ़लाइन व्हाइट-बॉक्स हमलों को सक्षम बनाता है
   • यह मूल मॉडल की सटीकता में सुधार करता है
   • यह स्वचालित रूप से मूल मॉडल को हटा देता है
   • मूल को पुनः प्रशिक्षित करना आवश्यक है
6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
   • Boundary-proximate informative samples and reduced redundancy among selected samples
   • Exact recovery of all secret model weights and a guaranteed substitute
   • Random sampling only and avoiding all substitute-model predictions
   • Higher API throughput and removal of the query budget
7. What can API rate limits do against a model-extraction attempt?
   • Prove that no substitute model can be trained
   • Remove all information from each permitted prediction
   • Make large-scale querying slower or more expensive
   • Make model outputs impossible to compare
8. What does the DynaMarks paper propose for a model-extraction defense?
   • It adds a logo to every generated answer
   • It encrypts all model weights at rest
   • It guarantees ownership of every copied production model
   • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters