Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ

Câu đố về các cuộc tấn công khai thác và đánh cắp mô hình

Hiểu cách kẻ tấn công bắt chước các mô hình hộp đen thông qua các truy vấn, kết quả đầu ra API tiết lộ điều gì và cách nhà cung cấp có thể phát hiện hoặc ngăn chặn hoạt động trích xuất.

Đường dẫn hướng dẫn liên quanTấn công khai thác và đánh cắp mô hình
Câu hỏi 1 của 8

Ý tưởng cốt lõi đằng sau cuộc tấn công trích xuất mô hình là gì?

Xem trước mọi câu hỏi8 câu hỏi

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

  1. Ý tưởng cốt lõi đằng sau cuộc tấn công trích xuất mô hình là gì?
    • Truy vấn mô hình và đào tạo người thay thế để bắt chước kết quả đầu ra của nó
    • Hack vào server copy trực tiếp file cân nặng
    • Hối lộ nhân viên để rò rỉ tập dữ liệu đào tạo
    • Quá tải API cho đến khi nó gặp sự cố và hết bộ nhớ
  2. Tại sao việc trả về các vectơ xác suất đầy đủ lại giúp việc trích xuất dễ dàng hơn việc chỉ trả về nhãn top 1?
    • Nó mã hóa phản hồi, làm chậm kẻ tấn công
    • Nó rò rỉ nhiều thông tin hơn cho mỗi truy vấn, do đó cần ít truy vấn hơn
    • Nó che giấu hoàn toàn ranh giới quyết định
    • Nó làm tăng chi phí máy chủ nên những kẻ tấn công bỏ cuộc
  3. Kỹ thuật phòng thủ nào trực tiếp làm giảm thông tin bị rò rỉ trên mỗi truy vấn?
    • Thêm nhiều GPU vào máy chủ
    • Tăng số lượng tham số của mô hình
    • Trả về kết quả đầu ra được làm tròn hoặc chỉ có top 1
    • Xuất bản dữ liệu đào tạo một cách công khai
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. Tại sao một mô hình thay thế bị đánh cắp lại nguy hiểm ngoài việc mất doanh thu?
    • Nó cho phép các cuộc tấn công hộp trắng ngoại tuyến như tạo ra các ví dụ đối nghịch
    • Nó cải thiện độ chính xác của mô hình ban đầu
    • Nó tự động xóa mô hình ban đầu
    • Cần phải đào tạo lại bản gốc
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters