एजेंट मेमोरी सिस्टम

They matter because durable memory is what turns a stateless chatbot into an assistant that learns your preferences and builds on past work.

बड़े भाषा मॉडल स्वाभाविक रूप से स्टेटलेस होते हैं: एक बार जब बातचीत संदर्भ विंडो से आगे निकल जाती है, तो पहले के विवरण समाप्त हो जाते हैं। मेमोरी सिस्टम जानकारी को बाहरी रूप से संग्रहीत करके और आवश्यकता पड़ने पर संबंधित टुकड़ों को पुनः प्राप्त करके इसे ठीक करता है। चिकित्सक आमतौर पर अल्पकालिक (कार्यशील) मेमोरी, वर्तमान संदर्भ विंडो, को दीर्घकालिक मेमोरी से अलग करते हैं, जिसे अक्सर एपिसोडिक मेमोरी (अतीत की बातचीत और घटनाओं के रिकॉर्ड), सिमेंटिक मेमोरी (उपयोगकर्ता या दुनिया के बारे में तथ्य और सीखी गई प्राथमिकताएं), और प्रक्रियात्मक मेमोरी (सीखा गया कौशल या दिनचर्या) में विभाजित किया जाता है। कार्यान्वयन आमतौर पर एक वेक्टर डेटाबेस का उपयोग करते हैं जो पाठ को एम्बेड करता है और इसे समानता से पुनर्प्राप्त करता है, कभी-कभी संरचित संबंधों के लिए ज्ञान ग्राफ के साथ जोड़ा जाता है। कठिन हिस्से भंडारण नहीं बल्कि क्यूरेशन हैं: यह तय करना कि क्या याद रखने लायक है, समय के साथ सारांशित करना या समेकित करना, सही समय पर सही स्मृति प्राप्त करना, और बासी या विरोधाभासी जानकारी को भूल जाना।