क्या है? जेलब्रेक?

एआई सिस्टम को मानवीय इरादों, मूल्यों और सुरक्षा बाधाओं के अनुसार व्यवहार करने का काम।

एआई सिस्टम में हानिकारक व्यवहार, विफलताओं और दुरुपयोग के जोखिमों को कम करने पर केंद्रित क्षेत्र।

प्रॉम्प्ट में सीधे दिए गए उदाहरणों से पैटर्न का पालन करने की एक मॉडल की क्षमता।

किसी मॉडल के इच्छित उपयोग, मेट्रिक्स, सीमाओं और जोखिमों का वर्णन करने वाला दस्तावेज़ीकरण।

जनरेटिव मॉडल को प्रदान किए गए इनपुट निर्देश और संदर्भ।

डिज़ाइनिंग आउटपुट गुणवत्ता, विश्वसनीयता और नियंत्रणीयता में सुधार करने का संकेत देती है।