แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ

แบบทดสอบการแหกคุกและทีมแดง

ตรวจสอบการเจลเบรก การโจมตีตามบริบทแบบยาว การทดสอบทีมแดง และเหตุใดการประเมินความปลอดภัยจึงต้องรวมการแจ้งเตือนจากฝ่ายตรงข้ามด้วย ในทางปฏิบัติ

เส้นทางแนะนำที่เกี่ยวข้องการแหกคุกและการรวมทีมสีแดง
คำถาม 1 ของ 8

เป้าหมายหลักของพรอมต์การเจลเบรคคืออะไร?

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. เป้าหมายหลักของพรอมต์การเจลเบรคคืออะไร?
    • เพื่อให้โมเดลสามารถข้ามกฎความปลอดภัยในตัวได้
    • เพื่อเร่งเวลาตอบสนองของโมเดล
    • เพื่อแปลข้อความเป็นภาษาอื่น
    • เพื่อลดต้นทุนในการรันโมเดล
  2. How does NIST define red teaming in the AI context?
    • Training a model to imitate a specific person
    • Structured adversarial testing to find flaws, vulnerabilities or unexpected system behaviors
    • A way to increase context length
    • A method for compressing neural-network weights
  3. เหตุใดการเจลเบรกแบบหลายช็อตจึงทำงานได้ดีขึ้นเมื่อหน้าต่างบริบทใช้เวลานานขึ้น
    • การแจ้งที่ยาวกว่าจะมีราคาถูกกว่าในการดำเนินการ
    • บริบทที่ยาวขึ้นจะปิดใช้งานตัวแยกประเภทความปลอดภัยโดยอัตโนมัติ
    • โมเดลอาจถูกน้ำท่วมด้วยตัวอย่างปลอมจำนวนมากที่เปลี่ยนพฤติกรรม
    • โมเดลจะลืมคำสั่งเดิมหลังจากผ่านไป 100 คำ
  4. What does a Constitutional Classifier defense add in the cited study?
    • A larger context window only
    • A database of human names
    • An automatic guarantee that all harmful outputs are impossible
    • Classifiers trained on synthetic examples from natural-language rules to screen harmful inputs or outputs
  5. What did the Many-shot Jailbreaking study demonstrate about safeguards?
    • In its tested settings, long-context demonstrations could elicit behavior that safety training aimed to prevent
    • Every model always complies with every harmful request
    • Safety classifiers eliminate every possible attack
    • The study only measured speech recognition accuracy
  6. What does the RedAgent paper automate in its red-team method?
    • The training of a new foundation model from scratch
    • Generation of context-aware jailbreak prompts using an autonomous language-agent system
    • The legal review of every generated answer
    • The deletion of all model safety policies
  7. What relationship did the Many-shot Jailbreaking study report between demonstration count and attack effectiveness?
    • It dropped to zero after one example
    • It was identical for every context size
    • Effectiveness followed a power law up to hundreds of demonstrations in tested settings
    • It depended only on image resolution
  8. What should a red-team report include to make findings interpretable?
    • Only one successful prompt without context
    • A claim that all models fail identically
    • The model’s hidden training data
    • The tested model and version, prompt conditions, evaluation scope and limitations