ระบบหน่วยความจำตัวแทน

They matter because durable memory is what turns a stateless chatbot into an assistant that learns your preferences and builds on past work.

โมเดลภาษาขนาดใหญ่นั้นไม่มีสถานะโดยเนื้อแท้: เมื่อการสนทนาเกินหน้าต่างบริบท รายละเอียดก่อนหน้านี้จะหายไป ระบบหน่วยความจำจะแก้ไขปัญหานี้ด้วยการจัดเก็บข้อมูลไว้ภายนอกและเรียกข้อมูลส่วนที่เกี่ยวข้องเมื่อจำเป็น โดยทั่วไป ผู้ปฏิบัติงานจะแยกแยะความจำระยะสั้น (การทำงาน) หน้าต่างบริบทปัจจุบัน จากความจำระยะยาว ซึ่งมักจะแบ่งออกเป็นความจำตอน (บันทึกของการโต้ตอบและเหตุการณ์ในอดีต) หน่วยความจำความหมาย (ข้อเท็จจริงและความชอบที่เรียนรู้เกี่ยวกับผู้ใช้หรือโลก) และความจำขั้นตอน (ทักษะที่เรียนรู้หรือกิจวัตร) การใช้งานโดยทั่วไปจะใช้ฐานข้อมูลเวกเตอร์ที่ฝังข้อความและดึงข้อมูลมาด้วยความคล้ายคลึงกัน ซึ่งบางครั้งก็จับคู่กับกราฟความรู้สำหรับความสัมพันธ์ที่มีโครงสร้าง ส่วนที่ยากไม่ใช่พื้นที่จัดเก็บแต่เป็นการดูแลจัดการ: การตัดสินใจว่าอะไรควรค่าแก่การจดจำ การสรุปหรือรวมเข้าด้วยกันเมื่อเวลาผ่านไป การเรียกคืนหน่วยความจำที่ถูกต้องในเวลาที่เหมาะสม และการลืมข้อมูลที่เก่าหรือขัดแย้งกัน