แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ

แบบทดสอบการแยกและการขโมยแบบจำลอง

ทำความเข้าใจวิธีที่ผู้โจมตีเลียนแบบโมเดลกล่องดำผ่านการสืบค้น เอาต์พุต API ใดบ้างที่เปิดเผย และวิธีที่ผู้ให้บริการสามารถตรวจจับหรือยับยั้งการดึงข้อมูล

เส้นทางแนะนำที่เกี่ยวข้องการสกัดแบบจำลองและการขโมยการโจมตี
คำถาม 1 ของ 8

แนวคิดหลักเบื้องหลังการโจมตีแบบสกัดแบบจำลองคืออะไร

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. แนวคิดหลักเบื้องหลังการโจมตีแบบสกัดแบบจำลองคืออะไร
    • การสอบถามโมเดลและการฝึกอบรมสิ่งทดแทนเพื่อเลียนแบบผลลัพธ์
    • แฮ็กเข้าสู่เซิร์ฟเวอร์เพื่อคัดลอกไฟล์น้ำหนักโดยตรง
    • ติดสินบนพนักงานเพื่อทำให้ชุดข้อมูลการฝึกอบรมรั่วไหล
    • โอเวอร์โหลด API จนกระทั่งเกิดปัญหาและดัมพ์หน่วยความจำ
  2. เหตุใดการส่งคืนเวกเตอร์ความน่าจะเป็นแบบเต็มจึงทำให้การแยกข้อมูลง่ายกว่าการส่งคืนป้ายกำกับ 1 อันดับแรกเท่านั้น
    • มันเข้ารหัสการตอบสนอง ทำให้ผู้โจมตีช้าลง
    • มันทำให้ข้อมูลรั่วไหลมากขึ้นต่อการสืบค้น ดังนั้นจึงจำเป็นต้องมีการสืบค้นน้อยลง
    • มันซ่อนขอบเขตการตัดสินใจไว้โดยสิ้นเชิง
    • มันเพิ่มต้นทุนเซิร์ฟเวอร์ดังนั้นผู้โจมตีจึงยอมแพ้
  3. เทคนิคการป้องกันใดช่วยลดข้อมูลที่รั่วไหลได้โดยตรงต่อการสืบค้น
    • การเพิ่ม GPU ให้กับเซิร์ฟเวอร์มากขึ้น
    • การเพิ่มจำนวนพารามิเตอร์ของโมเดล
    • การส่งคืนเอาต์พุตแบบปัดเศษหรืออันดับสูงสุด 1 เท่านั้น
    • การเผยแพร่ข้อมูลการฝึกอบรมอย่างเปิดเผย
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. เหตุใดโมเดลทดแทนที่ถูกขโมยไปจึงเป็นอันตรายนอกเหนือจากการสูญเสียรายได้?
    • ช่วยให้สามารถโจมตีกล่องสีขาวแบบออฟไลน์ได้ เช่น การสร้างตัวอย่างฝ่ายตรงข้าม
    • มันช่วยเพิ่มความแม่นยำของรุ่นดั้งเดิม
    • มันจะลบโมเดลดั้งเดิมโดยอัตโนมัติ
    • จำเป็นต้องฝึกต้นฉบับใหม่
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters