Bài kiểm tra có liên kết hướng dẫn · Cứng Cấp độ

Bài kiểm tra mẫu LLM kép chống lại việc tiêm thuốc nhanh chóng

Kiểm tra các ranh giới tin cậy, trích xuất có giới hạn, xác thực, ủy quyền công cụ và các giới hạn của biện pháp bảo vệ mô hình kép chống lại việc tiêm nhắc.

Đường dẫn hướng dẫn liên quanMẫu LLM kép chống lại việc tiêm nhắc nhở
Câu hỏi 1 của 8

Mô hình nào được phép thực hiện hành động công cụ đã được phê duyệt theo mẫu được mô tả?

Xem trước mọi câu hỏi8 câu hỏi

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

  1. Mô hình nào được phép thực hiện hành động công cụ đã được phê duyệt theo mẫu được mô tả?
    • The quarantined reader
    • The privileged model
    • Either model whenever confidence is high
    • Neither; both only summarize
  2. Tại sao các hướng dẫn thù địch được nhúng trong một trang có thể ảnh hưởng đến tác nhân một mô hình?
    • Every page is executable code
    • The context window automatically elevates page text
    • The model may not reliably separate the page’s instructions from task instructions in its language context
    • The page changes the model weights during inference
  3. Mô hình bị cách ly nên quay lại điều gì để giảm thiểu rủi ro khi chuyển giao?
    • Only a narrow, schema-validated field needed for the task
    • A tool call encoded as prose
    • A broad narrative with suggested actions
    • A raw copy of the page
  4. Sau khi nhận được số tiền thanh toán được trích xuất từ mô hình, bước kiểm tra tiếp theo phù hợp của ứng dụng là gì?
    • Validate its type and permitted range in ordinary code
    • Let it authorize its own payment
    • Append it to the system prompt
    • Trust it because a second model produced it
  5. Tại sao thiết kế hai mô hình không đảm bảo rằng việc xâm nhập prompt đã bị đánh bại?
    • It cannot use structured values
    • The extractor or an indirect route may still pass hostile influence to the privileged model
    • Two models always share weights
    • Tool allowlists make injection worse
  6. Which operational cost comes with adding a quarantined model?
    • It removes the need to evaluate the agent
    • It eliminates all logging
    • It adds model calls and integration work
    • It prevents validating output
  7. How should CaMeL be described relative to the basic dual-LLM pattern?
    • A classifier trained only on email
    • A guarantee produced by a JSON schema
    • A synonym for every two-model design
    • Related research on explicit control/data flow and capabilities, with distinct system-level mechanisms
  8. Which diagram most helps review whether this architecture protects a tool-using workflow?
    • A trust-boundary map of inputs, contexts, permissions, state, and handoffs
    • A list of prompt templates without data paths
    • A screenshot of the user interface
    • A chart of model parameter counts only