एआई प्रॉम्प्ट सुरक्षा

उपयोगकर्ता के अधिकृत कार्य को संसाधित की जा रही सामग्री से अलग करें। किसी दस्तावेज़ में वैध रूप से उसके विषय के हिस्से के रूप में निर्देश हो सकते हैं। उन शब्दों को सहायक के उपकरण, खाता पहुंच या प्रतिक्रिया नीति को स्वचालित रूप से नियंत्रित नहीं करना चाहिए। विशेषाधिकारों को संकीर्ण रखें। सारांश कार्य के लिए आम तौर पर संदेश भेजने के लिए अप्रतिबंधित फ़ाइल पहुंच या अनुमति की आवश्यकता नहीं होती है। एप्लिकेशन में उन सीमाओं को लागू करें ताकि एक मॉडल त्रुटि चुपचाप व्यापक क्षमता न बना सके। मूल अनुरोध के विरुद्ध परिणामी आउटपुट और कार्रवाइयों को मान्य करें। गंतव्य, प्रभावित रिकॉर्ड, प्रसारित किए जा रहे डेटा और आवश्यक अनुमोदन की जाँच करें। एक बाहरी पृष्ठ यह दावा करता है कि उपयोगकर्ता ने किसी चीज़ को मंजूरी दी है, वास्तविक उपयोगकर्ता निर्देश के बराबर नहीं है। प्रतिगमन मामले बनाएं जो अविश्वसनीय निर्देशों के स्थान और प्रारूप को बदलते हैं। नियंत्रित वातावरण में प्रत्यक्ष इनपुट, पुनर्प्राप्त मार्ग और उपकरण परिणामों का परीक्षण करें। समीक्षा करें कि क्या एप्लिकेशन पुनर्निर्देशन का विरोध करते हुए उपयोगी कार्य प्रदर्शन को संरक्षित करता है। एक फुलप्रूफ प्रॉम्प्ट-इंजेक्शन फ़िल्टर के दावों से बचें; स्तरित नियंत्रण और चल रहे परीक्षण अधिक विश्वसनीय हैं।