คู่มือทางเทคนิค
หน่วยความจำเอเจนต์ตอนและความหมาย
เจ้าหน้าที่ AI ต้องการหน่วยความจำระยะยาวสองประเภท: หน่วยความจำแบบเหตุการณ์สำหรับเหตุการณ์ในอดีตที่เฉพาะเจาะจง และหน่วยความจำเชิงความหมายสำหรับข้อเท็จจริงทั่วไป
ฟังคำแนะนำนี้บรรยายโดย AI · ~2 min
บนหน้านี้อ่าน 2 นาที
ภาพรวม
Borrowed from human psychology, this split lets agents both recall what happened and know what is true.
เจาะลึก
โมเดลภาษาในตัวมันเองนั้นไร้สัญชาติ เมื่อบทสนทนาเลื่อนผ่านหน้าต่างบริบท มันก็จะลืมไป ในการสร้างตัวแทนที่คงอยู่ตลอดเซสชัน นักพัฒนาจะเพิ่มหน่วยความจำภายนอกที่ได้รับแรงบันดาลใจจากการรับรู้ของมนุษย์ หน่วยความจำแบบเป็นตอนจะเก็บประสบการณ์เฉพาะที่มีการประทับเวลาไว้ ("ในวันอังคาร ผู้ใช้กล่าวว่าพวกเขาชอบการประชุมในตอนเช้า") ในขณะที่หน่วยความจำเชิงความหมายจะเก็บความรู้ทั่วไปที่กลั่นกรองไว้ ("ผู้ใช้รายนี้เป็นมังสวิรัติ") ในทางปฏิบัติสิ่งเหล่านี้จะถูกเก็บไว้ในฐานข้อมูลเวกเตอร์และร้านค้าที่มีโครงสร้าง เมื่อเจ้าหน้าที่จำเป็นต้องดำเนินการ เจ้าหน้าที่จะสอบถามหน่วยความจำ ดึงข้อมูลรายการที่เกี่ยวข้องมากที่สุด และแทรกลงในพร้อมท์ เมื่อเวลาผ่านไป ตอนที่ซ้ำๆ จะถูกรวมเข้ากับข้อเท็จจริงทางความหมายที่มั่นคง ซึ่งสะท้อนให้เห็นว่ามนุษย์เปลี่ยนประสบการณ์ให้เป็นความรู้ได้อย่างไร
การใช้งานจริงในโลกแห่งความเป็นจริง
ผู้ช่วยเขียนโค้ดจำได้ว่าโปรเจ็กต์ของคุณใช้ TypeScript และเฟรมเวิร์กการทดสอบที่คุณต้องการในเซสชันต่างๆ
บอทสนับสนุนลูกค้าที่จดจำตั๋วที่ผ่านมาโดยเฉพาะ (ตอน) และระดับบัญชีของคุณ (ความหมาย)
ผู้ช่วยส่วนตัวที่รวบรวมคำพูด "ฉันทานสลัด" ไว้หลายข้อจนกลายเป็นข้อเท็จจริงที่แน่ชัดว่าคุณเป็นมังสวิรัติ
ตัวแทนการวิจัยที่จัดเก็บสิ่งที่ค้นพบจากการสืบค้นครั้งก่อนๆ เพื่อไม่ให้ค้นหาเว็บเดิมซ้ำ
อนาคตของหน่วยความจำเอเจนต์แบบตอนและแบบซีแมนติก
หน่วยความจำกำลังกลายเป็นสิ่งที่สร้างความแตกต่างให้กับผู้ช่วย AI ส่วนบุคคล คาดหวังชั้นหน่วยความจำมาตรฐานที่สามารถใช้ได้กับแอปต่างๆ นโยบายการลืมที่ชาญฉลาดยิ่งขึ้นซึ่งจะตัดรายการเก่าหรือมูลค่าต่ำออก และหน่วยความจำขั้นตอนที่เก็บทักษะที่นำมาใช้ซ้ำได้ ไม่ใช่แค่ข้อเท็จจริง ความเป็นส่วนตัวและการควบคุมผู้ใช้จะเป็นศูนย์กลาง: ผู้คนจะต้องการตรวจสอบ แก้ไข และลบสิ่งที่ตัวแทนจดจำได้ การวิจัยยังจัดการกับความขัดแย้งของหน่วยความจำ โดยที่ข้อมูลใหม่ควรแทนที่ความเชื่อที่ล้าสมัยโดยไม่ลบประวัติที่เป็นประโยชน์
การนำไปปฏิบัติ
ทำไมมันถึงสำคัญ
- ต้นทุนและงบประมาณ. การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
- การตัดสินใจที่ชัดเจนยิ่งขึ้น. การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
- การควบคุมคุณภาพ. ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต
ระวัง
- การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
- ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
- ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น
ขั้นตอนต่อไป
- กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
- เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
- การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
- เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด
สำรวจต่อไป
จดหมายข่าวฟรี
รับสรุป AI รายวัน
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
Take the Episodic and Semantic Agent Memory quiz
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
คำถามที่พบบ่อย
What is Episodic and Semantic Agent Memory?
เจ้าหน้าที่ AI ต้องการหน่วยความจำระยะยาวสองประเภท: หน่วยความจำแบบเหตุการณ์สำหรับเหตุการณ์ในอดีตที่เฉพาะเจาะจง และหน่วยความจำเชิงความหมายสำหรับข้อเท็จจริงทั่วไป ยืมมาจากจิตวิทยามนุษย์ การแยกนี้ช่วยให้เจ้าหน้าที่จดจำสิ่งที่เกิดขึ้นและรู้ว่าสิ่งใดเป็นความจริง
อะไรคือความแตกต่างระหว่างหน่วยความจำแบบฉากและแบบความหมายในเอเจนต์ AI?
หน่วยความจำแบบเอพิโซดิกถือเป็นประสบการณ์เฉพาะที่ประทับตามเวลา ในขณะที่หน่วยความจำเชิงความหมายจะเก็บข้อเท็จจริงทั่วไปที่กลั่นกรองไว้ ซึ่งสะท้อนถึงความแตกต่างของมนุษย์
What limitation applies to a language model without an external memory or retrieval system?
The guide’s claim concerns a model on its own; an application can add external memory that persists and is retrieved separately.
โดยทั่วไปความทรงจำจะถูกจัดเก็บเพื่อการเรียกค้นที่รวดเร็วอย่างไร
ข้อความจะถูกแปลงเป็นเวกเตอร์แบบฝังและจัดเก็บไว้ในฐานข้อมูลเวกเตอร์ ทำให้สามารถค้นหาตามความคล้ายคลึงกัน
ในช่วงเวลาสืบค้น ตัวแทนจะค้นหาความทรงจำที่เกี่ยวข้องได้อย่างไร
เอเจนต์ฝังบริบทปัจจุบันและดึงข้อมูลเวกเตอร์ที่จัดเก็บไว้ใกล้ที่สุด ซึ่งโดยปกติจะเป็นไปตามความคล้ายคลึงของโคไซน์
'การรวม' ทำอะไรกับหน่วยความจำของตัวแทน
Consolidation สรุปรายการตอนที่เกี่ยวข้องหลายรายการให้เป็นข้อเท็จจริงที่มั่นคง ลดความยุ่งเหยิงและความขัดแย้ง เช่นเดียวกับที่มนุษย์สร้างความรู้จากประสบการณ์
เรียนรู้ต่อไป
คำแนะนำที่เกี่ยวข้อง
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้