ระบบหน่วยความจำตัวแทน

ระบบหน่วยความจำของเจ้าหน้าที่ทำให้เจ้าหน้าที่ AI สามารถจดจำข้อมูลนอกเหนือจากหน้าต่างบริบทเดียว ข้ามรอบ เซสชัน และงานต่างๆ สิ่งเหล่านี้มีความสำคัญเนื่องจากหน่วยความจำที่คงทนคือสิ่งที่เปลี่ยนแชทบอทไร้สัญชาติให้กลายเป็นผู้ช่วยที่เรียนรู้ความต้องการของคุณและสร้างต่อยอดจากงานที่ผ่านมา

โมเดลภาษาขนาดใหญ่นั้นไม่มีสถานะโดยเนื้อแท้: เมื่อการสนทนาเกินหน้าต่างบริบท รายละเอียดก่อนหน้านี้จะหายไป ระบบหน่วยความจำจะแก้ไขปัญหานี้ด้วยการจัดเก็บข้อมูลไว้ภายนอกและเรียกข้อมูลส่วนที่เกี่ยวข้องเมื่อจำเป็น โดยทั่วไป ผู้ปฏิบัติงานจะแยกแยะความจำระยะสั้น (การทำงาน) หน้าต่างบริบทปัจจุบัน จากความจำระยะยาว ซึ่งมักจะแบ่งออกเป็นความจำตอน (บันทึกของการโต้ตอบและเหตุการณ์ในอดีต) หน่วยความจำความหมาย (ข้อเท็จจริงและความชอบที่เรียนรู้เกี่ยวกับผู้ใช้หรือโลก) และความจำขั้นตอน (ทักษะที่เรียนรู้หรือกิจวัตร) การใช้งานโดยทั่วไปจะใช้ฐานข้อมูลเวกเตอร์ที่ฝังข้อความและดึงข้อมูลมาด้วยความคล้ายคลึงกัน ซึ่งบางครั้งก็จับคู่กับกราฟความรู้สำหรับความสัมพันธ์ที่มีโครงสร้าง ส่วนที่ยากไม่ใช่พื้นที่จัดเก็บแต่เป็นการดูแลจัดการ: การตัดสินใจว่าอะไรควรค่าแก่การจดจำ การสรุปหรือรวมเข้าด้วยกันเมื่อเวลาผ่านไป การเรียกคืนหน่วยความจำที่ถูกต้องในเวลาที่เหมาะสม และการลืมข้อมูลที่เก่าหรือขัดแย้งกัน