คู่มือ AI ภาษา

วิศวกรรมบริบท

วิศวกรรมบริบทคือแนวทางปฏิบัติในการตัดสินใจว่าโมเดลภาษามองเห็นอะไรในแต่ละขั้นตอน (คำแนะนำ เอกสารที่ดึงมา คำจำกัดความและผลลัพธ์ของเครื่องมือ ประวัติการสนทนาและหน่วยความจำ) และปรับให้เหมาะสมในหน้าต่างบริบทที่จำกัด

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 4 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของวิศวกรรมบริบท
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

มันไปไกลกว่าการใช้ถ้อยคำที่รวดเร็ว เป็นเรื่องสำคัญเนื่องจากคุณภาพเอาต์พุตขึ้นอยู่กับสิ่งที่อยู่ในหน้าต่างเป็นอย่างมาก และในเอเจนต์และงานที่ใช้เวลานานนั้น บริบทจะถูกประกอบขึ้นด้วยโค้ดในการโทรทุกครั้ง ไม่ใช่การพิมพ์เพียงครั้งเดียวโดยบุคคล

เจาะลึก

วิศวกรรมพร้อมท์มุ่งเน้นไปที่การใช้ถ้อยคำในคำขอเดียว วิศวกรรมบริบทมีมุมมองที่กว้างขึ้น โมเดลจะได้รับโทเค็นหนึ่งลำดับ และทุกสิ่งในโมเดลจะแย่งชิงพื้นที่และเพื่อความสนใจของโมเดล ลำดับนั้นมักจะรวมถึงข้อความแจ้งของระบบ คำจำกัดความของเครื่องมือ ข้อความที่ดึงมา การเลี้ยวก่อนหน้า ผลลัพธ์ของเครื่องมือ และบางครั้งเป็นหน่วยความจำระยะยาว คำนี้กลายเป็นเรื่องปกติในปี 2025 เมื่อตัวแทนการสร้างทีมพบว่าความล้มเหลวจำนวนมากมาจากแบบจำลองที่มีข้อมูลที่ไม่ถูกต้อง มีมากเกินไป หรือมีข้อมูลที่ขัดแย้งกัน แทนที่จะมาจากการใช้ถ้อยคำที่ไม่ดี มีหลักการหลายประการดังต่อไปนี้ ประการแรก ความเกี่ยวข้องมีมากกว่าปริมาณ บางรุ่นยอมรับโทเค็นหลายแสนรายการ แต่ไม่ได้ใช้ทุกโทเค็นอย่างดีเท่ากัน การศึกษา 'หลงทางอยู่ตรงกลาง' (Liu et al., 2023) พบว่าแบบจำลองมักใช้ข้อมูลที่เริ่มต้นและสิ้นสุดของการป้อนข้อมูลแบบยาวได้ดีกว่าข้อมูลที่ฝังไว้ตรงกลาง ประการที่สอง บริบทคืองบประมาณ ทุกโทเค็นต้องเสียค่าใช้จ่ายและเพิ่มเวลาแฝง และเนื้อหาที่ไม่เกี่ยวข้องอาจทำให้โมเดลเสียสมาธิได้ ประการที่สาม โครงสร้างช่วย ส่วนที่ชัดเจน เอกสารที่มีป้ายกำกับ และรูปแบบที่สอดคล้องกันช่วยให้โมเดลค้นหาสิ่งที่สำคัญได้ง่ายขึ้น เทคนิคทั่วไปได้แก่: - การสร้างแบบเสริมการดึงข้อมูลซึ่งดึงเฉพาะข้อความที่เกี่ยวข้อง - การโหลดแบบทันเวลาโดยที่ตัวแทนเก็บการอ้างอิงแบบเบา เช่น ชื่อไฟล์หรือ ID และใช้เครื่องมือเพื่อดึงเนื้อหาทั้งหมดเมื่อจำเป็น - การจดบันทึกที่มีโครงสร้างซึ่งจะเก็บสถานะไว้นอกหน้าต่าง - การบีบอัดประวัติอันยาวนาน - ตัวแทนย่อยที่สำรวจในบริบทของตนเองและส่งคืนการค้นพบแบบย่อ ความเข้าใจผิดประการหนึ่งคือวิศวกรรมบริบทเป็นเพียงชื่อใหม่สำหรับการกระตุ้นเตือน การใช้ถ้อยคำเป็นส่วนหนึ่งของงาน แต่งานส่วนใหญ่เป็นการออกแบบระบบ การตัดสินใจว่าจะดึงข้อมูล สรุป หรือทิ้งอะไร และเรียงลำดับตามที่ปรากฏ ความเข้าใจผิดอีกประการหนึ่งคือหน้าต่างที่ใหญ่กว่านี้ทำให้ไม่จำเป็นต้องทำเช่นนี้ หน้าต่างที่ใหญ่ขึ้นจะช่วยลดแรงกดดัน แต่ยังคงมีข้อจำกัดด้านต้นทุนและความสนใจอยู่

การใช้งานจริงในโลกแห่งความเป็นจริง

บอทสนับสนุนลูกค้าดึงข้อมูลเฉพาะบทความในศูนย์ช่วยเหลือที่เกี่ยวข้องมากที่สุดสามบทความ บวกกับระดับแผนของลูกค้า มันไม่ได้วางฐานความรู้ทั้งหมดลงในทุกคำขอ

เอเจนต์การเขียนโค้ดเริ่มต้นด้วยรายการเส้นทางไฟล์และลายเซ็นฟังก์ชัน จากนั้นใช้เครื่องมืออ่านไฟล์เพื่อโหลดไฟล์ทั้งหมดเมื่อจำเป็นเท่านั้น

ผู้ช่วยการประชุมจะบันทึกการตัดสินใจและรายการดำเนินการลงในไฟล์บันทึกย่อที่มีโครงสร้าง และโหลดไฟล์นั้นเซสชันถัดไปซ้ำ แทนที่จะเล่นซ้ำทุกบันทึกที่ผ่านมา

ทีมเปลี่ยนเครื่องมือฐานข้อมูลเพื่อให้ส่งคืนสรุปที่กรองแล้วพร้อมจำนวนแถวแทนที่จะเป็น JSON ดิบ 5,000 แถว การดำเนินการนี้จะหยุดหน้าต่างของตัวแทนจากการกรอกข้อมูลที่จะไม่ใช้

อนาคตของวิศวกรรมบริบท

หน้าต่างบริบทเติบโตอย่างรวดเร็ว และโมเดลเริ่มดีขึ้นเมื่อใช้อินพุตแบบยาว ต้นทุน เวลาแฝง และขีดจำกัดความสนใจยังคงทำให้การเลือกสิ่งที่จะเข้ามาเป็นสิ่งสำคัญ งานอื่นๆ เหล่านี้กำลังย้ายไปยังเฟรมเวิร์กและแพลตฟอร์ม และผู้ให้บริการหลายรายก็มีเครื่องมือหน่วยความจำในตัว การบีบอัดข้อมูลอัตโนมัติ และการดึงข้อมูลที่มีการจัดการอยู่แล้ว ทักษะนี้มีแนวโน้มที่จะเปลี่ยนจากการรวบรวมบริบทด้วยมือไปสู่การออกแบบนโยบายสำหรับสิ่งที่ตัวแทนควรจดจำ ดึงข้อมูล หรือลืม จากนั้นจึงทดสอบนโยบายเหล่านั้น เป็นคำถามเปิดว่าการออกแบบโมเดลในอนาคตจะต้องได้รับการดูแลเอาใจใส่น้อยลงหรือไม่ สำหรับตอนนี้ บริบทที่ออกแบบอย่างจงใจเป็นหนึ่งในวิธีที่น่าเชื่อถือที่สุดในการปรับปรุงเอาท์พุตของโมเดล

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ความเร็วและขนาด. ขั้นตอนการทำงานของภาษาสามารถดำเนินไปได้เร็วขึ้นโดยไม่กระทบต่อความสม่ำเสมอ
  • เข้าถึงและเข้าถึง. ขยายการเข้าถึงภาษาและรูปแบบการสื่อสาร
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. ทีมสามารถใช้เวลามากขึ้นในการตัดสิน ในขณะที่ระบบอัตโนมัติจัดการกับการทำซ้ำ

ระวัง

  • ข้อเท็จจริงที่หลอนประสาทสามารถเข้าสู่รายงาน กระแสสนับสนุน หรือผลการวิจัยได้อย่างเงียบๆ
  • ความละเอียดอ่อนของการแจ้งเตือนสามารถสร้างผลลัพธ์ที่ไม่สอดคล้องกันในคำขอที่คล้ายกัน
  • ข้อมูลข้อความที่ละเอียดอ่อนอาจถูกเปิดเผยหากการควบคุมการเข้าถึงอ่อนแอ

ขั้นตอนต่อไป

  1. กำหนดรูปแบบเอาต์พุต โทนเสียง และมาตรฐานคุณภาพก่อนเปิดตัว
  2. การตอบสนองภาคพื้นดินกับแหล่งข้อมูลที่เชื่อถือได้เมื่อใดก็ตามที่ความแม่นยำมีความสำคัญ
  3. รักษาจุดตรวจสอบการตรวจสอบโดยมนุษย์สำหรับผลลัพธ์ที่มีเดิมพันสูง
  4. ติดตามรูปแบบความล้มเหลวและฝึกอบรมพร้อมท์หรือเวิร์กโฟลว์เป็นประจำ

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

ทำแบบทดสอบ Context Engineering

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

วิศวกรรมบริบทคืออะไร?

วิศวกรรมบริบทคือแนวทางปฏิบัติในการตัดสินใจว่าโมเดลภาษามองเห็นอะไรในแต่ละขั้นตอน (คำแนะนำ เอกสารที่ดึงมา คำจำกัดความและผลลัพธ์ของเครื่องมือ ประวัติการสนทนาและหน่วยความจำ) และปรับให้เหมาะสมในหน้าต่างบริบทที่จำกัด มันไปไกลกว่าถ้อยคำที่พร้อมท์ เป็นเรื่องสำคัญเนื่องจากคุณภาพเอาต์พุตขึ้นอยู่กับสิ่งที่อยู่ในหน้าต่างเป็นอย่างมาก และในเอเจนต์และงานที่ใช้เวลานานนั้น บริบทจะถูกประกอบขึ้นด้วยโค้ดในการโทรทุกครั้ง ไม่ใช่การพิมพ์เพียงครั้งเดียวโดยบุคคล

อะไรที่ทำให้วิศวกรรมบริบทแตกต่างจากวิศวกรรมพร้อมท์ได้ดีที่สุด?

วิศวกรรมบริบทจะถือว่าลำดับโทเค็นทั้งหมดที่โมเดลได้รับเป็นสิ่งที่ต้องออกแบบ: คำแนะนำ ข้อความที่ดึงข้อมูล คำจำกัดความและผลลัพธ์ของเครื่องมือ ประวัติและหน่วยความจำ การใช้ถ้อยคำที่รวดเร็วเป็นเพียงส่วนหนึ่งเท่านั้น

การวิจัย 'หลงทางกลาง' แนะนำอะไรเกี่ยวกับข้อมูลที่ยาว

หลิวและคณะ (2023) พบว่าประสิทธิภาพมักจะลดลงเมื่อข้อมูลที่เกี่ยวข้องอยู่ตรงกลางของบริบทที่ยาว นั่นคือเหตุผลหนึ่งที่ความเกี่ยวข้องและตำแหน่งมีความสำคัญมากกว่าปริมาณที่แท้จริง

เหตุใดคู่มือจึงอธิบายบริบทว่าเป็นงบประมาณ

โทเค็นในหน้าต่างมีค่าใช้จ่ายจริงในด้านราคาและเวลาตอบสนอง โทเค็นที่ไม่เกี่ยวข้องยังแข่งขันกับโทเค็นที่เกี่ยวข้องเพื่อดึงดูดความสนใจของโมเดล ดังนั้นจึงควรใช้อย่างจงใจ

การโหลดแบบทันเวลาคืออะไร?

แทนที่จะโหลดทุกอย่างไว้ข้างหน้า เอเจนต์จะเก็บพอยน์เตอร์ไว้และดึงเนื้อหาทั้งหมดเฉพาะเมื่อจำเป็นต้องมีขั้นตอนเท่านั้น ซึ่งจะทำให้หน้าต่างเอนได้

เหตุใดจึงมีประโยชน์ที่จะใส่เนื้อหาที่มีความเสถียร เช่น คำแนะนำของระบบและคำจำกัดความของเครื่องมือ ตั้งแต่เริ่มต้นในลำดับคงที่

ผู้ให้บริการที่สนับสนุนการแคชพร้อมท์สามารถใช้คำนำหน้าที่คงไบต์เหมือนกันในการโทรซ้ำได้ การให้ความสำคัญกับเนื้อหาที่มีเสถียรภาพมาเป็นอันดับแรกและการสนทนาที่เปลี่ยนแปลงไปจะทำให้สิ่งนั้นเป็นไปได้

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →