क्या है? लोरा (निम्न-रैंक अनुकूलन)?

वे विधियाँ जो अतिरिक्त मापदंडों के एक छोटे उपसमूह को प्रशिक्षित करके मॉडल को अनुकूलित करती हैं।

एक फाइन-ट्यूनिंग तकनीक जो मेमोरी आवश्यकताओं को कम करने के लिए LoRA एडेप्टर के साथ 4-बिट वजन परिमाणीकरण को जोड़ती है।

किसी पूर्व-प्रशिक्षित मॉडल को किसी विशिष्ट कार्य के लिए अनुकूलित करने के लिए डोमेन-विशिष्ट डेटा पर निरंतर प्रशिक्षण।

निम्नलिखित कार्य को बेहतर बनाने के लिए निर्देश-प्रतिक्रिया युग्मों पर एक मॉडल को ठीक करना।

एक प्रशिक्षण पद्धति जो अलग-अलग पुरस्कार मॉडल की आवश्यकता के बिना सीधे वरीयता जोड़े पर मॉडल को ठीक करती है।

एक नियमितीकरण विधि जो सामान्यीकरण में सुधार के लिए कठोर लेबल को नरम करती है।