गाइड से जुड़ी प्रश्नोत्तरी · कठिन स्तर

Llama गार्ड और सुरक्षा क्लासिफायर प्रश्नोत्तरी

संस्करण-विशिष्ट Llama गार्ड 4 क्षमताओं, सुरक्षित/असुरक्षित लेबल, इनपुट और आउटपुट फ़िल्टरिंग, नीति श्रेणियों और क्लासिफायर सीमाओं का परीक्षण करता है।

संबंधित मार्गदर्शक पथLlama गार्ड और सुरक्षा क्लासिफायर
प्रश्न 1 का 8

Llama गार्ड क्लासिफायरियर किसी एप्लिकेशन को क्या प्रदान करता है?

प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

  1. Llama गार्ड क्लासिफायरियर किसी एप्लिकेशन को क्या प्रदान करता है?
    • यह गारंटी कि प्रत्येक प्रतिक्रिया कानून का पालन करती है
    • एक सुरक्षित/असुरक्षित वर्गीकरण और, असुरक्षित सामग्री के लिए, श्रेणी की जानकारी
    • एप्लिकेशन नीति का प्रतिस्थापन
    • एक स्वचालित अपील निर्णय
  2. Llama गार्ड 4 12B के लिए Meta कौन से तौर-तरीकों का वर्णन करता है?
    • केवल पाठ के बिना छवियाँ
    • एक संयुक्त प्रॉम्प्ट में पाठ और छवियाँ
    • केवल ऑडियो
    • केवल वीडियो स्ट्रीम
  3. मिश्रित अनुरोध की समीक्षा करते समय एक टीम को Llama गार्ड 4 छवि समर्थन का उपयोग कैसे करना चाहिए?
    • निष्ठा की जाँच किए बिना इसे केवल-पाठ विवरण से बदलें
    • गार्ड 4 के दावों को सभी पुराने गार्ड संस्करणों पर लागू करें
    • मान लें कि किसी भी छवि को वर्गीकृत किया गया है, भले ही अनुरोध से हटा दिया गया हो
    • समर्थित प्रॉम्प्ट प्रारूप में प्रासंगिक पाठ और छवि शामिल करें और उस पथ का परीक्षण करें
  4. इनपुट फ़िल्टरिंग आउटपुट फ़िल्टरिंग से किस प्रकार भिन्न है?
    • इनपुट फ़िल्टरिंग मॉडल भार का मूल्यांकन करती है; आउटपुट फ़िल्टरिंग उपयोगकर्ता का मूल्यांकन करती है
    • वे एक पास के लिए विनिमेय नाम हैं
    • आउटपुट फ़िल्टरिंग मॉडल के प्रशिक्षण डेटा को बदल देती है
    • इनपुट फ़िल्टरिंग पीढ़ी से पहले अनुरोध को वर्गीकृत करता है; आउटपुट फ़िल्टरिंग उत्पन्न प्रतिक्रिया को वर्गीकृत करता है
  5. कोई सिस्टम इनपुट और आउटपुट जांच को क्यों संयोजित कर सकता है?
    • दो जाँचें दो निर्णय बिंदु बनाती हैं, हालाँकि वे अभी भी सुरक्षा की गारंटी नहीं देते हैं
    • इन्हें मिलाने से झूठी सकारात्मकता समाप्त हो जाती है
    • तब मॉडल सभी मौजूदा कानूनों को जानता है
    • यह परिभाषा के अनुसार सभी त्वरित इंजेक्शन को रोकता है
  6. किसी उत्पाद को तब क्या करना चाहिए जब उसकी नीति में ऐसा खतरा शामिल हो जो वर्गीकरणकर्ता द्वारा पर्याप्त रूप से कवर न किया गया हो?
    • नीति दस्तावेज़ीकरण छोड़ें
    • मान लें कि निकटतम श्रेणी पर्याप्त है
    • एक अन्य नियंत्रण या समीक्षा पथ जोड़ें और उजागर मामले का परीक्षण करें
    • लौटाए गए टेक्स्ट में लेबल बदलें
  7. टीमों को प्रत्येक Llama गार्ड रिलीज पर गार्ड 4 के फीचर दावों को लागू करने से क्यों बचना चाहिए?
    • परिवार के पास कोई मॉडल कार्ड नहीं है
    • केवल आउटपुट फ़िल्टरिंग बदलती है
    • संस्करण तौर-तरीके, आकार और भाषा क्षमताओं में भिन्न हो सकते हैं
    • सभी संस्करण बिल्कुल समान चेकपॉइंट साझा करते हैं
  8. Meta का गार्ड 4 मॉडल कार्ड किस सीमा का खुलासा करता है?
    • यह प्रतिकूल या त्वरित-इंजेक्शन हमलों के प्रति संवेदनशील हो सकता है और इसमें नीति-कवरेज सीमाएं हैं
    • यह केवल अंग्रेजी पाठ को वर्गीकृत कर सकता है
    • यह अन्य सभी सिस्टम-स्तरीय जाँचों को प्रतिस्थापित करता है
    • यह प्रतिकूल संकेतों से प्रतिरक्षित है