แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ
แบบทดสอบการแหกคุกและทีมแดง
ตรวจสอบการเจลเบรก การโจมตีตามบริบทแบบยาว การทดสอบทีมแดง และเหตุใดการประเมินความปลอดภัยจึงต้องรวมการแจ้งเตือนจากฝ่ายตรงข้ามด้วย ในทางปฏิบัติ
คำถาม 1 ของ 8
เป้าหมายหลักของพรอมต์การเจลเบรคคืออะไร?
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- เป้าหมายหลักของพรอมต์การเจลเบรคคืออะไร?
- เพื่อให้โมเดลสามารถข้ามกฎความปลอดภัยในตัวได้
- เพื่อเร่งเวลาตอบสนองของโมเดล
- เพื่อแปลข้อความเป็นภาษาอื่น
- เพื่อลดต้นทุนในการรันโมเดล
- How does NIST define red teaming in the AI context?
- Training a model to imitate a specific person
- Structured adversarial testing to find flaws, vulnerabilities or unexpected system behaviors
- A way to increase context length
- A method for compressing neural-network weights
- เหตุใดการเจลเบรกแบบหลายช็อตจึงทำงานได้ดีขึ้นเมื่อหน้าต่างบริบทใช้เวลานานขึ้น
- การแจ้งที่ยาวกว่าจะมีราคาถูกกว่าในการดำเนินการ
- บริบทที่ยาวขึ้นจะปิดใช้งานตัวแยกประเภทความปลอดภัยโดยอัตโนมัติ
- โมเดลอาจถูกน้ำท่วมด้วยตัวอย่างปลอมจำนวนมากที่เปลี่ยนพฤติกรรม
- โมเดลจะลืมคำสั่งเดิมหลังจากผ่านไป 100 คำ
- What does a Constitutional Classifier defense add in the cited study?
- A larger context window only
- A database of human names
- An automatic guarantee that all harmful outputs are impossible
- Classifiers trained on synthetic examples from natural-language rules to screen harmful inputs or outputs
- What did the Many-shot Jailbreaking study demonstrate about safeguards?
- In its tested settings, long-context demonstrations could elicit behavior that safety training aimed to prevent
- Every model always complies with every harmful request
- Safety classifiers eliminate every possible attack
- The study only measured speech recognition accuracy
- What does the RedAgent paper automate in its red-team method?
- The training of a new foundation model from scratch
- Generation of context-aware jailbreak prompts using an autonomous language-agent system
- The legal review of every generated answer
- The deletion of all model safety policies
- What relationship did the Many-shot Jailbreaking study report between demonstration count and attack effectiveness?
- It dropped to zero after one example
- It was identical for every context size
- Effectiveness followed a power law up to hundreds of demonstrations in tested settings
- It depended only on image resolution
- What should a red-team report include to make findings interpretable?
- Only one successful prompt without context
- A claim that all models fail identically
- The model’s hidden training data
- The tested model and version, prompt conditions, evaluation scope and limitations