Bài kiểm tra có liên kết hướng dẫn · Cứng Cấp độ

Máy quét lỗ hổng LLM: garak và PyRIT Quiz

Kiểm tra quy trình quét bảo mật được ghi lại của garak, các tình huống bảo mật đã chọn của PyRIT, cấu hình kiểm tra và các giới hạn của quét sạch.

Đường dẫn hướng dẫn liên quanMáy quét lỗ hổng Garak và Pyrit LLM
Câu hỏi 1 của 8

Garak mô tả mục đích kiểm tra chính của mình như thế nào?

Xem trước mọi câu hỏi8 câu hỏi

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

  1. Garak mô tả mục đích kiểm tra chính của mình như thế nào?
    • Certifying an entire application as secure after one scan
    • Benchmarking model quality without sending prompts to a configured target
    • Testing the security of systems that take prompts and return text
    • Measuring broad AI safety and fairness across all model uses
  2. Bộ dò garak làm gì trong một cuộc quét bảo mật?
    • Attempts to elicit a defined weakness from the configured target
    • Managing the generator connection and returning model output
    • Inspecting an output for a specific failure signal
    • Aggregating detector judgments for a probe-detector pair
  3. Bộ phát hiện garak báo cáo gì?
    • An attempt stores the unique prompt-response interaction
    • An evaluator summarizes judgments for a probe-detector pair
    • A generator connects to the configured model or dialogue system
    • A signal for a particular failure mode in recorded output
  4. Bản ghi nào giúp người xem hiểu tại sao một đầu dò garak bị đánh dấu?
    • A copy of the target’s model weights
    • The detailed attempt with its test interaction and response
    • The final overall score without the underlying prompts or responses
    • The evaluator’s pass/fail summary alone
  5. Thành phần PyRIT nào có thể đóng gói các bộ dữ liệu với các kỹ thuật tấn công cho một lần chạy?
    • An attack technique configures an executor, converters, data, or strategy
    • A target provides the interface to the tested system
    • A scorer assesses the result against its configured criterion
    • A scenario
  6. How should PyRIT be used for a security review?
    • Use only default scores without checking the selected target
    • Treat every built-in scenario as a complete test of the application
    • Select security-relevant scenarios and scoring that fit the target and objective
    • Treat all non-toxic output as evidence of an application security review
  7. What does a garak run with no detector hits establish?
    • The selected tests did not trigger those detectors in that run
    • The scan proves the application passed all security requirements
    • The target has no vulnerabilities in any configuration
    • The detector set has been proven complete for future attacks
  8. What should follow an important scanner finding?
    • Ignore the target workflow because the scanner already marked a hit
    • Reproduce it in the relevant application path and assess actual impact
    • Assume the detector result proves impact and patch without reproducing it
    • Report the scan summary as confirmed exploitability