क्या है? सतत सीखना?

पिछले टोकन से संग्रहीत कुंजी और मूल्य टेंसर जो ट्रांसफार्मर को पिछले ध्यान की पुनर्गणना किए बिना नए टोकन उत्पन्न करने देते हैं।

कोई मॉडल प्रशिक्षण सेट के बाहर नए, अनदेखे डेटा पर कितना अच्छा प्रदर्शन करता है।

समय का नवीनतम बिंदु मॉडल के प्रशिक्षण डेटा में प्रतिबिंबित होता है।

स्पष्ट लक्ष्य आउटपुट के बिना लेबल रहित डेटा से सीखने के पैटर्न।

पूर्व सामान्य ज्ञान पर भरोसा करके कार्य-विशिष्ट उदाहरणों के बिना कार्यों को हल करना।

तकनीकें जो मॉडल सामान्यीकरण को बेहतर बनाने के लिए संशोधित प्रशिक्षण उदाहरण बनाती हैं।