หน่วยความจำเอเจนต์ตอนและความหมาย
เจ้าหน้าที่ AI ต้องการหน่วยความจำระยะยาวสองประเภท: หน่วยความจำแบบเหตุการณ์สำหรับเหตุการณ์ในอดีตที่เฉพาะเจาะจง และหน่วยความจำเชิงความหมายสำหรับข้อเท็จจริงทั่วไป
ภาพรวม
Borrowed from human psychology, this split lets agents both recall what happened and know what is true.
เจาะลึก
โมเดลภาษาในตัวมันเองนั้นไร้สัญชาติ เมื่อบทสนทนาเลื่อนผ่านหน้าต่างบริบท มันก็จะลืมไป ในการสร้างตัวแทนที่คงอยู่ตลอดเซสชัน นักพัฒนาจะเพิ่มหน่วยความจำภายนอกที่ได้รับแรงบันดาลใจจากการรับรู้ของมนุษย์ หน่วยความจำแบบเป็นตอนจะเก็บประสบการณ์เฉพาะที่มีการประทับเวลาไว้ ("ในวันอังคาร ผู้ใช้กล่าวว่าพวกเขาชอบการประชุมในตอนเช้า") ในขณะที่หน่วยความจำเชิงความหมายจะเก็บความรู้ทั่วไปที่กลั่นกรองไว้ ("ผู้ใช้รายนี้เป็นมังสวิรัติ") ในทางปฏิบัติสิ่งเหล่านี้จะถูกเก็บไว้ในฐานข้อมูลเวกเตอร์และร้านค้าที่มีโครงสร้าง เมื่อเจ้าหน้าที่จำเป็นต้องดำเนินการ เจ้าหน้าที่จะสอบถามหน่วยความจำ ดึงข้อมูลรายการที่เกี่ยวข้องมากที่สุด และแทรกลงในพร้อมท์ เมื่อเวลาผ่านไป ตอนที่ซ้ำๆ จะถูกรวมเข้ากับข้อเท็จจริงทางความหมายที่มั่นคง ซึ่งสะท้อนให้เห็นว่ามนุษย์เปลี่ยนประสบการณ์ให้เป็นความรู้ได้อย่างไร
ข้อมูลเชิงลึกทางเทคนิค
โดยปกติแล้วความทรงจำจะถูกจัดเก็บเป็นการฝัง: ข้อความจะถูกแปลงเป็นเวกเตอร์ที่จับความหมาย จากนั้นจึงบันทึกในฐานข้อมูลเวกเตอร์ ในเวลาสืบค้น เอเจนต์จะฝังสถานการณ์ปัจจุบันและดึงข้อมูลเพื่อนบ้านที่ใกล้ที่สุดด้วยความคล้ายคลึงโคไซน์ รายการที่เป็นตอนจะเก็บการประทับเวลาและบริบทของแหล่งที่มา รายการความหมายเป็นข้อมูลสรุปที่ซ้ำกัน กระบวนการรวมจะเขียนกลุ่มของตอนใหม่เป็นระยะๆ ให้เป็นข้อเท็จจริงที่กระชับ เพื่อป้องกันไม่ให้ร้านค้าขยายใหญ่ขึ้นและลดการดึงข้อมูลที่ขัดแย้งกัน
ผลกระทบเชิงกลยุทธ์
ต้นทุนและงบประมาณ
การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
การตัดสินใจที่ชัดเจนยิ่งขึ้น
การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
การควบคุมคุณภาพ
ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต
อนาคตของหน่วยความจำเอเจนต์แบบตอนและแบบซีแมนติก
หน่วยความจำกำลังกลายเป็นสิ่งที่สร้างความแตกต่างให้กับผู้ช่วย AI ส่วนบุคคล คาดหวังชั้นหน่วยความจำมาตรฐานที่สามารถใช้ได้กับแอปต่างๆ นโยบายการลืมที่ชาญฉลาดยิ่งขึ้นซึ่งจะตัดรายการเก่าหรือมูลค่าต่ำออก และหน่วยความจำขั้นตอนที่เก็บทักษะที่นำมาใช้ซ้ำได้ ไม่ใช่แค่ข้อเท็จจริง ความเป็นส่วนตัวและการควบคุมผู้ใช้จะเป็นศูนย์กลาง: ผู้คนจะต้องการตรวจสอบ แก้ไข และลบสิ่งที่ตัวแทนจดจำได้ การวิจัยยังจัดการกับความขัดแย้งของหน่วยความจำ โดยที่ข้อมูลใหม่ควรแทนที่ความเชื่อที่ล้าสมัยโดยไม่ลบประวัติที่เป็นประโยชน์
การใช้งานจริงในโลกแห่งความเป็นจริง
ผู้ช่วยเขียนโค้ดจำได้ว่าโปรเจ็กต์ของคุณใช้ TypeScript และเฟรมเวิร์กการทดสอบที่คุณต้องการในเซสชันต่างๆ
บอทสนับสนุนลูกค้าที่จดจำตั๋วที่ผ่านมาโดยเฉพาะ (ตอน) และระดับบัญชีของคุณ (ความหมาย)
ผู้ช่วยส่วนตัวที่รวบรวมคำพูด "ฉันทานสลัด" ไว้หลายข้อจนกลายเป็นข้อเท็จจริงที่แน่ชัดว่าคุณเป็นมังสวิรัติ
ตัวแทนการวิจัยที่จัดเก็บสิ่งที่ค้นพบจากการสืบค้นครั้งก่อนๆ เพื่อไม่ให้ค้นหาเว็บเดิมซ้ำ
ความเสี่ยงและรั้ว
การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น
แผนงานการดำเนินงาน
กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Episodic and Semantic Agent Memory quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
ระบบหน่วยความจำตัวแทน
คำถามที่พบบ่อย
What is Episodic and Semantic Agent Memory?
เจ้าหน้าที่ AI ต้องการหน่วยความจำระยะยาวสองประเภท: หน่วยความจำแบบเหตุการณ์สำหรับเหตุการณ์ในอดีตที่เฉพาะเจาะจง และหน่วยความจำเชิงความหมายสำหรับข้อเท็จจริงทั่วไป ยืมมาจากจิตวิทยามนุษย์ การแยกนี้ช่วยให้เจ้าหน้าที่จดจำสิ่งที่เกิดขึ้นและรู้ว่าสิ่งใดเป็นความจริง
อะไรคือความแตกต่างระหว่างหน่วยความจำแบบฉากและแบบความหมายในเอเจนต์ AI?
หน่วยความจำแบบเอพิโซดิกถือเป็นประสบการณ์เฉพาะที่ประทับตามเวลา ในขณะที่หน่วยความจำเชิงความหมายจะเก็บข้อเท็จจริงทั่วไปที่กลั่นกรองไว้ ซึ่งสะท้อนถึงความแตกต่างของมนุษย์
เหตุใดโมเดลภาษาธรรมดาจึงต้องใช้หน่วยความจำภายนอกเลย
โมเดลจะเห็นเฉพาะสิ่งที่เหมาะสมกับหน้าต่างบริบทเท่านั้น เมื่อบทสนทนาเลื่อนผ่านไป บทสนทนานั้นจะหายไปเว้นแต่จะเก็บไว้ภายนอก
โดยทั่วไปความทรงจำจะถูกจัดเก็บเพื่อการเรียกค้นที่รวดเร็วอย่างไร
ข้อความจะถูกแปลงเป็นเวกเตอร์แบบฝังและจัดเก็บไว้ในฐานข้อมูลเวกเตอร์ ทำให้สามารถค้นหาตามความคล้ายคลึงกัน
ในช่วงเวลาสืบค้น ตัวแทนจะค้นหาความทรงจำที่เกี่ยวข้องได้อย่างไร
เอเจนต์ฝังบริบทปัจจุบันและดึงข้อมูลเวกเตอร์ที่จัดเก็บไว้ใกล้ที่สุด ซึ่งโดยปกติจะเป็นไปตามความคล้ายคลึงของโคไซน์
'การรวม' ทำอะไรกับหน่วยความจำของตัวแทน
Consolidation สรุปรายการตอนที่เกี่ยวข้องหลายรายการให้เป็นข้อเท็จจริงที่มั่นคง ลดความยุ่งเหยิงและความขัดแย้ง เช่นเดียวกับที่มนุษย์สร้างความรู้จากประสบการณ์