गाइड से जुड़ी प्रश्नोत्तरी · कठिन स्तर

प्रॉम्प्ट लीकिंग और सिस्टम प्रॉम्प्ट एक्सट्रैक्शन क्विज़

परीक्षण करता है कि प्रॉम्प्ट लीकिंग कैसे काम करती है, यह प्रॉम्प्ट इंजेक्शन से कैसे भिन्न है, और सुरक्षित ऐप्स सिस्टम प्रॉम्प्ट के बाहर रहस्य और प्रवर्तन क्यों रखते हैं।

प्रश्न 1 का 8

किसी सिस्टम प्रॉम्प्ट को गुप्त रहने की गारंटी क्यों नहीं दी जा सकती?

प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

  1. किसी सिस्टम प्रॉम्प्ट को गुप्त रहने की गारंटी क्यों नहीं दी जा सकती?
    • System prompts are stored on public servers
    • The model reads it as ordinary text in its context, and keeping it private is only a learned tendency
    • All APIs publish system prompts automatically
    • System prompts are deleted after each message
  2. प्रॉम्प्ट लीकिंग प्रॉम्प्ट इंजेक्शन से किस प्रकार भिन्न है?
    • वे बिल्कुल एक ही चीज़ हैं
    • Leaking is about extracting hidden content, while injection is about making the model follow the attacker's instructions
    • Injection only affects images
    • Leaking only happens with open-source models
  3. फरवरी 2023 में प्रसिद्ध Bing चैट लीक में क्या खुलासा हुआ?
    • Microsoft's source code
    • User passwords
    • Instructions including the internal codename Sydney
    • मॉडल का प्रशिक्षण डेटा
  4. गाइड के अनुसार ऐप के लिए आवश्यक एपीआई कुंजी को संभालने का कौन सा तरीका सबसे सुरक्षित तरीका है?
    • Put it in the system prompt with a note saying 'keep this secret'
    • Encode it in base64 inside the prompt
    • Keep it in server-side code or a secrets manager and give the model scoped tools
    • Split it across several messages
  5. सरल आउटपुट फ़िल्टर रिसाव को रोकने में विफल क्यों हो सकते हैं?
    • Filters slow the model too much to be used
    • Attackers can ask for the prompt paraphrased, translated or extracted a piece at a time
    • Filters only work on images
    • Output filters block all responses
  6. What is the purpose of placing a canary string in a system prompt?
    • To make the model answer faster
    • To detect in logs when the prompt has been leaked
    • To encrypt the prompt
    • To prevent all injection attacks
  7. A support bot's refund limit is written in its prompt and also enforced in the backend. What happens if the prompt leaks?
    • Users can now issue unlimited refunds
    • The rule becomes known but cannot be bypassed because the backend still enforces it
    • The bot shuts down
    • The refund limit is automatically deleted
  8. Which document listed system prompt leakage as its own risk in its 2025 edition?
    • The OWASP Top 10 for LLM Applications
    • The GDPR
    • The HTTP specification
    • The Unicode standard