एआई प्रॉम्प्ट सुरक्षा प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. पुनर्प्राप्त दस्तावेज़ में "पिछले निर्देशों को अनदेखा करें" शामिल है। एप्लिकेशन को इसका इलाज कैसे करना चाहिए?
   • प्रसंस्करण के लिए अविश्वसनीय सामग्री के रूप में, उपकरण या नीति को नियंत्रित करने का अधिकार नहीं
   • एक विश्वसनीय सिस्टम अनुदेश के रूप में
   • सबूत के तौर पर दस्तावेज़ को हटा दिया जाना चाहिए
   • डेटा का खुलासा करने की अनुमति के रूप में
2. टूल को कार्य के लिए आवश्यक विशेषाधिकारों तक सीमित क्यों रखें?
   • यह सभी त्वरित इंजेक्शन को रोकता है
   • यह सामग्री फ़िल्टरिंग को अनावश्यक बनाता है
   • एक मॉडल त्रुटि में अनधिकृत परिणाम उत्पन्न करने की क्षमता कम होती है
   • यह सही सारांश की गारंटी देता है
3. एक वेबपेज कहता है कि उपयोगकर्ता ने फ़ाइल भेजने को मंजूरी दे दी है। कार्रवाई को क्या अधिकृत करना चाहिए?
   • वेबपेज का कथन
   • वास्तविक उपयोगकर्ता निर्देश और एप्लिकेशन की प्राधिकरण प्रक्रिया
   • एक उच्च मॉडल आत्मविश्वास स्कोर
   • एक उपकरण परिणाम जो दावे को दोहराता है
4. किसी टूल द्वारा बाहरी रूप से जानकारी भेजने से पहले क्या जाँच की जानी चाहिए?
   • केवल यह कि आउटपुट JSON से मेल खाता है या नहीं
   • उपकरण प्रतिक्रिया की लेखन शैली
   • क्या प्रॉम्प्ट में कोई संदिग्ध वाक्यांश शामिल है
   • गंतव्य, प्रभावित रिकॉर्ड, प्रेषित डेटा और आवश्यक अनुमोदन
5. विभिन्न स्थानों और प्रारूपों में शीघ्र-सुरक्षा मामलों का परीक्षण क्यों करें?
   • मॉडल केवल सादा पाठ संकेत पढ़ता है
   • एक हमले का उदाहरण हर मामले को कवर करता है
   • उपयोगकर्ता इनपुट, दस्तावेज़ या टूल प्रतिक्रियाओं में अविश्वसनीय निर्देश आ सकते हैं
   • प्रारूप अनुप्रयोग व्यवहार को नहीं बदलता है
6. सामग्री फ़िल्टरिंग और प्राधिकरण के बीच क्या संबंध है?
   • फ़िल्टरिंग से शब्दों का पता लगाया जा सकता है; प्राधिकरण को अभी भी दायरे से बाहर की कार्रवाइयों को रोकना होगा
   • कोई भी दूसरे को अनावश्यक बना देता है
   • प्राधिकरण केवल एक लेखन फ़िल्टर है
   • फ़िल्टरिंग उपयोगकर्ता द्वारा इच्छित प्रत्येक क्रिया की गारंटी देता है
7. प्रॉम्प्ट-इंजेक्शन फ़िल्टर को फुलप्रूफ़ कहने से क्यों बचें?
   • फ़िल्टर किसी भी पाठ को संसाधित नहीं कर सकते
   • गाइड परीक्षण पर रोक लगाता है
   • केवल बाहरी उपयोगकर्ता ही दुर्भावनापूर्ण इनपुट बना सकते हैं
   • पता लगाने से हमले चूक सकते हैं, इसलिए परिणाम-सीमित नियंत्रण और चल रहे परीक्षण महत्वपूर्ण बने हुए हैं
8. सारांशकर्ता को संदेश भेजने की कोई आवश्यकता नहीं है। कौन सा डिज़ाइन अधिक सुरक्षित है?
   • व्यापक पहुंच प्रदान करें लेकिन एक चेतावनी जोड़ें
   • उस वर्कफ़्लो को संदेश भेजने की अनुमति न दें
   • मॉडल से न भेजने का वादा करने के लिए कहें
   • केवल लंबे इनपुट के दौरान भेजना सक्षम करें