คู่มือทางเทคนิค

หน่วยความจำเอเจนต์ตอนและความหมาย

เจ้าหน้าที่ AI ต้องการหน่วยความจำระยะยาวสองประเภท: หน่วยความจำแบบเหตุการณ์สำหรับเหตุการณ์ในอดีตที่เฉพาะเจาะจง และหน่วยความจำเชิงความหมายสำหรับข้อเท็จจริงทั่วไป

ฟังคำแนะนำนี้บรรยายโดย AI · ~2 min

บนหน้านี้อ่าน 2 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของหน่วยความจำเอเจนต์แบบตอนและแบบซีแมนติก
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

Borrowed from human psychology, this split lets agents both recall what happened and know what is true.

เจาะลึก

โมเดลภาษาในตัวมันเองนั้นไร้สัญชาติ เมื่อบทสนทนาเลื่อนผ่านหน้าต่างบริบท มันก็จะลืมไป ในการสร้างตัวแทนที่คงอยู่ตลอดเซสชัน นักพัฒนาจะเพิ่มหน่วยความจำภายนอกที่ได้รับแรงบันดาลใจจากการรับรู้ของมนุษย์ หน่วยความจำแบบเป็นตอนจะเก็บประสบการณ์เฉพาะที่มีการประทับเวลาไว้ ("ในวันอังคาร ผู้ใช้กล่าวว่าพวกเขาชอบการประชุมในตอนเช้า") ในขณะที่หน่วยความจำเชิงความหมายจะเก็บความรู้ทั่วไปที่กลั่นกรองไว้ ("ผู้ใช้รายนี้เป็นมังสวิรัติ") ในทางปฏิบัติสิ่งเหล่านี้จะถูกเก็บไว้ในฐานข้อมูลเวกเตอร์และร้านค้าที่มีโครงสร้าง เมื่อเจ้าหน้าที่จำเป็นต้องดำเนินการ เจ้าหน้าที่จะสอบถามหน่วยความจำ ดึงข้อมูลรายการที่เกี่ยวข้องมากที่สุด และแทรกลงในพร้อมท์ เมื่อเวลาผ่านไป ตอนที่ซ้ำๆ จะถูกรวมเข้ากับข้อเท็จจริงทางความหมายที่มั่นคง ซึ่งสะท้อนให้เห็นว่ามนุษย์เปลี่ยนประสบการณ์ให้เป็นความรู้ได้อย่างไร

การใช้งานจริงในโลกแห่งความเป็นจริง

ผู้ช่วยเขียนโค้ดจำได้ว่าโปรเจ็กต์ของคุณใช้ TypeScript และเฟรมเวิร์กการทดสอบที่คุณต้องการในเซสชันต่างๆ

บอทสนับสนุนลูกค้าที่จดจำตั๋วที่ผ่านมาโดยเฉพาะ (ตอน) และระดับบัญชีของคุณ (ความหมาย)

ผู้ช่วยส่วนตัวที่รวบรวมคำพูด "ฉันทานสลัด" ไว้หลายข้อจนกลายเป็นข้อเท็จจริงที่แน่ชัดว่าคุณเป็นมังสวิรัติ

ตัวแทนการวิจัยที่จัดเก็บสิ่งที่ค้นพบจากการสืบค้นครั้งก่อนๆ เพื่อไม่ให้ค้นหาเว็บเดิมซ้ำ

อนาคตของหน่วยความจำเอเจนต์แบบตอนและแบบซีแมนติก

หน่วยความจำกำลังกลายเป็นสิ่งที่สร้างความแตกต่างให้กับผู้ช่วย AI ส่วนบุคคล คาดหวังชั้นหน่วยความจำมาตรฐานที่สามารถใช้ได้กับแอปต่างๆ นโยบายการลืมที่ชาญฉลาดยิ่งขึ้นซึ่งจะตัดรายการเก่าหรือมูลค่าต่ำออก และหน่วยความจำขั้นตอนที่เก็บทักษะที่นำมาใช้ซ้ำได้ ไม่ใช่แค่ข้อเท็จจริง ความเป็นส่วนตัวและการควบคุมผู้ใช้จะเป็นศูนย์กลาง: ผู้คนจะต้องการตรวจสอบ แก้ไข และลบสิ่งที่ตัวแทนจดจำได้ การวิจัยยังจัดการกับความขัดแย้งของหน่วยความจำ โดยที่ข้อมูลใหม่ควรแทนที่ความเชื่อที่ล้าสมัยโดยไม่ลบประวัติที่เป็นประโยชน์

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ต้นทุนและงบประมาณ. การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
  • การควบคุมคุณภาพ. ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต

ระวัง

  • การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
  • ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
  • ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น

ขั้นตอนต่อไป

  1. กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
  2. เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
  3. การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
  4. เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

Take the Episodic and Semantic Agent Memory quiz

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

What is Episodic and Semantic Agent Memory?

เจ้าหน้าที่ AI ต้องการหน่วยความจำระยะยาวสองประเภท: หน่วยความจำแบบเหตุการณ์สำหรับเหตุการณ์ในอดีตที่เฉพาะเจาะจง และหน่วยความจำเชิงความหมายสำหรับข้อเท็จจริงทั่วไป ยืมมาจากจิตวิทยามนุษย์ การแยกนี้ช่วยให้เจ้าหน้าที่จดจำสิ่งที่เกิดขึ้นและรู้ว่าสิ่งใดเป็นความจริง

อะไรคือความแตกต่างระหว่างหน่วยความจำแบบฉากและแบบความหมายในเอเจนต์ AI?

หน่วยความจำแบบเอพิโซดิกถือเป็นประสบการณ์เฉพาะที่ประทับตามเวลา ในขณะที่หน่วยความจำเชิงความหมายจะเก็บข้อเท็จจริงทั่วไปที่กลั่นกรองไว้ ซึ่งสะท้อนถึงความแตกต่างของมนุษย์

What limitation applies to a language model without an external memory or retrieval system?

The guide’s claim concerns a model on its own; an application can add external memory that persists and is retrieved separately.

โดยทั่วไปความทรงจำจะถูกจัดเก็บเพื่อการเรียกค้นที่รวดเร็วอย่างไร

ข้อความจะถูกแปลงเป็นเวกเตอร์แบบฝังและจัดเก็บไว้ในฐานข้อมูลเวกเตอร์ ทำให้สามารถค้นหาตามความคล้ายคลึงกัน

ในช่วงเวลาสืบค้น ตัวแทนจะค้นหาความทรงจำที่เกี่ยวข้องได้อย่างไร

เอเจนต์ฝังบริบทปัจจุบันและดึงข้อมูลเวกเตอร์ที่จัดเก็บไว้ใกล้ที่สุด ซึ่งโดยปกติจะเป็นไปตามความคล้ายคลึงของโคไซน์

'การรวม' ทำอะไรกับหน่วยความจำของตัวแทน

Consolidation สรุปรายการตอนที่เกี่ยวข้องหลายรายการให้เป็นข้อเท็จจริงที่มั่นคง ลดความยุ่งเหยิงและความขัดแย้ง เช่นเดียวกับที่มนุษย์สร้างความรู้จากประสบการณ์

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →