रेलिंग और आउटपुट मॉडरेशन

Output moderation is the layer that inspects what the model produced before it ever reaches the user.

एक कच्चा भाषा मॉडल ख़ुशी से लगभग किसी भी अनुरोध का प्रयास करेगा, इसलिए उत्पादन प्रणालियाँ एक अलग नियंत्रण परत के रूप में रेलिंग जोड़ती हैं। ये जाँचें रास्ते में चलती हैं (दुर्भावनापूर्ण संकेतों को फ़िल्टर करना, शीघ्र-इंजेक्शन प्रयास, या ऑफ-टॉपिक पूछना) और बाहर जाते समय (नफ़रत फैलाने वाले भाषण, आत्म-नुकसान सामग्री, लीक रहस्य, या सिस्टम के दायरे से बाहर के दावों के लिए उत्पन्न पाठ को स्कैन करना)। कार्यान्वयन में तेज़ कीवर्ड और रेगेक्स फ़िल्टर से लेकर सुरक्षा श्रेणियों पर प्रशिक्षित समर्पित क्लासिफायर मॉडल, दूसरे एलएलएम तक शामिल हैं जो पहले ड्राफ्ट की समीक्षा करता है। रेलिंग प्रारूप और विषय सीमाओं को भी लागू करती है, उदाहरण के लिए बैंकिंग सहायक को चिकित्सा सलाह देने से रोकना। इंजीनियरिंग का लक्ष्य वैध उपयोगकर्ताओं को निराश करने वाली झूठी सकारात्मकताओं को कम करते हुए वास्तव में हानिकारक आउटपुट को पकड़ना है, एक संतुलन जिसके लिए निरंतर ट्यूनिंग और स्पष्ट, श्रवण योग्य नीतियों की आवश्यकता होती है।