คู่มือ AI ภาษา
วิศวกรรมบริบท
วิศวกรรมบริบทคือแนวทางปฏิบัติในการตัดสินใจว่าโมเดลภาษามองเห็นอะไรในแต่ละขั้นตอน (คำแนะนำ เอกสารที่ดึงมา คำจำกัดความและผลลัพธ์ของเครื่องมือ ประวัติการสนทนาและหน่วยความจำ) และปรับให้เหมาะสมในหน้าต่างบริบทที่จำกัด
ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min
บนหน้านี้อ่าน 4 นาที
ภาพรวม
มันไปไกลกว่าการใช้ถ้อยคำที่รวดเร็ว เป็นเรื่องสำคัญเนื่องจากคุณภาพเอาต์พุตขึ้นอยู่กับสิ่งที่อยู่ในหน้าต่างเป็นอย่างมาก และในเอเจนต์และงานที่ใช้เวลานานนั้น บริบทจะถูกประกอบขึ้นด้วยโค้ดในการโทรทุกครั้ง ไม่ใช่การพิมพ์เพียงครั้งเดียวโดยบุคคล
เจาะลึก
วิศวกรรมพร้อมท์มุ่งเน้นไปที่การใช้ถ้อยคำในคำขอเดียว วิศวกรรมบริบทมีมุมมองที่กว้างขึ้น โมเดลจะได้รับโทเค็นหนึ่งลำดับ และทุกสิ่งในโมเดลจะแย่งชิงพื้นที่และเพื่อความสนใจของโมเดล ลำดับนั้นมักจะรวมถึงข้อความแจ้งของระบบ คำจำกัดความของเครื่องมือ ข้อความที่ดึงมา การเลี้ยวก่อนหน้า ผลลัพธ์ของเครื่องมือ และบางครั้งเป็นหน่วยความจำระยะยาว คำนี้กลายเป็นเรื่องปกติในปี 2025 เมื่อตัวแทนการสร้างทีมพบว่าความล้มเหลวจำนวนมากมาจากแบบจำลองที่มีข้อมูลที่ไม่ถูกต้อง มีมากเกินไป หรือมีข้อมูลที่ขัดแย้งกัน แทนที่จะมาจากการใช้ถ้อยคำที่ไม่ดี มีหลักการหลายประการดังต่อไปนี้ ประการแรก ความเกี่ยวข้องมีมากกว่าปริมาณ บางรุ่นยอมรับโทเค็นหลายแสนรายการ แต่ไม่ได้ใช้ทุกโทเค็นอย่างดีเท่ากัน การศึกษา 'หลงทางอยู่ตรงกลาง' (Liu et al., 2023) พบว่าแบบจำลองมักใช้ข้อมูลที่เริ่มต้นและสิ้นสุดของการป้อนข้อมูลแบบยาวได้ดีกว่าข้อมูลที่ฝังไว้ตรงกลาง ประการที่สอง บริบทคืองบประมาณ ทุกโทเค็นต้องเสียค่าใช้จ่ายและเพิ่มเวลาแฝง และเนื้อหาที่ไม่เกี่ยวข้องอาจทำให้โมเดลเสียสมาธิได้ ประการที่สาม โครงสร้างช่วย ส่วนที่ชัดเจน เอกสารที่มีป้ายกำกับ และรูปแบบที่สอดคล้องกันช่วยให้โมเดลค้นหาสิ่งที่สำคัญได้ง่ายขึ้น เทคนิคทั่วไปได้แก่: - การสร้างแบบเสริมการดึงข้อมูลซึ่งดึงเฉพาะข้อความที่เกี่ยวข้อง - การโหลดแบบทันเวลาโดยที่ตัวแทนเก็บการอ้างอิงแบบเบา เช่น ชื่อไฟล์หรือ ID และใช้เครื่องมือเพื่อดึงเนื้อหาทั้งหมดเมื่อจำเป็น - การจดบันทึกที่มีโครงสร้างซึ่งจะเก็บสถานะไว้นอกหน้าต่าง - การบีบอัดประวัติอันยาวนาน - ตัวแทนย่อยที่สำรวจในบริบทของตนเองและส่งคืนการค้นพบแบบย่อ ความเข้าใจผิดประการหนึ่งคือวิศวกรรมบริบทเป็นเพียงชื่อใหม่สำหรับการกระตุ้นเตือน การใช้ถ้อยคำเป็นส่วนหนึ่งของงาน แต่งานส่วนใหญ่เป็นการออกแบบระบบ การตัดสินใจว่าจะดึงข้อมูล สรุป หรือทิ้งอะไร และเรียงลำดับตามที่ปรากฏ ความเข้าใจผิดอีกประการหนึ่งคือหน้าต่างที่ใหญ่กว่านี้ทำให้ไม่จำเป็นต้องทำเช่นนี้ หน้าต่างที่ใหญ่ขึ้นจะช่วยลดแรงกดดัน แต่ยังคงมีข้อจำกัดด้านต้นทุนและความสนใจอยู่
การใช้งานจริงในโลกแห่งความเป็นจริง
บอทสนับสนุนลูกค้าดึงข้อมูลเฉพาะบทความในศูนย์ช่วยเหลือที่เกี่ยวข้องมากที่สุดสามบทความ บวกกับระดับแผนของลูกค้า มันไม่ได้วางฐานความรู้ทั้งหมดลงในทุกคำขอ
เอเจนต์การเขียนโค้ดเริ่มต้นด้วยรายการเส้นทางไฟล์และลายเซ็นฟังก์ชัน จากนั้นใช้เครื่องมืออ่านไฟล์เพื่อโหลดไฟล์ทั้งหมดเมื่อจำเป็นเท่านั้น
ผู้ช่วยการประชุมจะบันทึกการตัดสินใจและรายการดำเนินการลงในไฟล์บันทึกย่อที่มีโครงสร้าง และโหลดไฟล์นั้นเซสชันถัดไปซ้ำ แทนที่จะเล่นซ้ำทุกบันทึกที่ผ่านมา
ทีมเปลี่ยนเครื่องมือฐานข้อมูลเพื่อให้ส่งคืนสรุปที่กรองแล้วพร้อมจำนวนแถวแทนที่จะเป็น JSON ดิบ 5,000 แถว การดำเนินการนี้จะหยุดหน้าต่างของตัวแทนจากการกรอกข้อมูลที่จะไม่ใช้
อนาคตของวิศวกรรมบริบท
หน้าต่างบริบทเติบโตอย่างรวดเร็ว และโมเดลเริ่มดีขึ้นเมื่อใช้อินพุตแบบยาว ต้นทุน เวลาแฝง และขีดจำกัดความสนใจยังคงทำให้การเลือกสิ่งที่จะเข้ามาเป็นสิ่งสำคัญ งานอื่นๆ เหล่านี้กำลังย้ายไปยังเฟรมเวิร์กและแพลตฟอร์ม และผู้ให้บริการหลายรายก็มีเครื่องมือหน่วยความจำในตัว การบีบอัดข้อมูลอัตโนมัติ และการดึงข้อมูลที่มีการจัดการอยู่แล้ว ทักษะนี้มีแนวโน้มที่จะเปลี่ยนจากการรวบรวมบริบทด้วยมือไปสู่การออกแบบนโยบายสำหรับสิ่งที่ตัวแทนควรจดจำ ดึงข้อมูล หรือลืม จากนั้นจึงทดสอบนโยบายเหล่านั้น เป็นคำถามเปิดว่าการออกแบบโมเดลในอนาคตจะต้องได้รับการดูแลเอาใจใส่น้อยลงหรือไม่ สำหรับตอนนี้ บริบทที่ออกแบบอย่างจงใจเป็นหนึ่งในวิธีที่น่าเชื่อถือที่สุดในการปรับปรุงเอาท์พุตของโมเดล
การนำไปปฏิบัติ
ทำไมมันถึงสำคัญ
- ความเร็วและขนาด. ขั้นตอนการทำงานของภาษาสามารถดำเนินไปได้เร็วขึ้นโดยไม่กระทบต่อความสม่ำเสมอ
- เข้าถึงและเข้าถึง. ขยายการเข้าถึงภาษาและรูปแบบการสื่อสาร
- การตัดสินใจที่ชัดเจนยิ่งขึ้น. ทีมสามารถใช้เวลามากขึ้นในการตัดสิน ในขณะที่ระบบอัตโนมัติจัดการกับการทำซ้ำ
ระวัง
- ข้อเท็จจริงที่หลอนประสาทสามารถเข้าสู่รายงาน กระแสสนับสนุน หรือผลการวิจัยได้อย่างเงียบๆ
- ความละเอียดอ่อนของการแจ้งเตือนสามารถสร้างผลลัพธ์ที่ไม่สอดคล้องกันในคำขอที่คล้ายกัน
- ข้อมูลข้อความที่ละเอียดอ่อนอาจถูกเปิดเผยหากการควบคุมการเข้าถึงอ่อนแอ
ขั้นตอนต่อไป
- กำหนดรูปแบบเอาต์พุต โทนเสียง และมาตรฐานคุณภาพก่อนเปิดตัว
- การตอบสนองภาคพื้นดินกับแหล่งข้อมูลที่เชื่อถือได้เมื่อใดก็ตามที่ความแม่นยำมีความสำคัญ
- รักษาจุดตรวจสอบการตรวจสอบโดยมนุษย์สำหรับผลลัพธ์ที่มีเดิมพันสูง
- ติดตามรูปแบบความล้มเหลวและฝึกอบรมพร้อมท์หรือเวิร์กโฟลว์เป็นประจำ
สำรวจต่อไป
จดหมายข่าวฟรี
รับสรุป AI รายวัน
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
ทำแบบทดสอบ Context Engineering
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
คำถามที่พบบ่อย
วิศวกรรมบริบทคืออะไร?
วิศวกรรมบริบทคือแนวทางปฏิบัติในการตัดสินใจว่าโมเดลภาษามองเห็นอะไรในแต่ละขั้นตอน (คำแนะนำ เอกสารที่ดึงมา คำจำกัดความและผลลัพธ์ของเครื่องมือ ประวัติการสนทนาและหน่วยความจำ) และปรับให้เหมาะสมในหน้าต่างบริบทที่จำกัด มันไปไกลกว่าถ้อยคำที่พร้อมท์ เป็นเรื่องสำคัญเนื่องจากคุณภาพเอาต์พุตขึ้นอยู่กับสิ่งที่อยู่ในหน้าต่างเป็นอย่างมาก และในเอเจนต์และงานที่ใช้เวลานานนั้น บริบทจะถูกประกอบขึ้นด้วยโค้ดในการโทรทุกครั้ง ไม่ใช่การพิมพ์เพียงครั้งเดียวโดยบุคคล
อะไรที่ทำให้วิศวกรรมบริบทแตกต่างจากวิศวกรรมพร้อมท์ได้ดีที่สุด?
วิศวกรรมบริบทจะถือว่าลำดับโทเค็นทั้งหมดที่โมเดลได้รับเป็นสิ่งที่ต้องออกแบบ: คำแนะนำ ข้อความที่ดึงข้อมูล คำจำกัดความและผลลัพธ์ของเครื่องมือ ประวัติและหน่วยความจำ การใช้ถ้อยคำที่รวดเร็วเป็นเพียงส่วนหนึ่งเท่านั้น
การวิจัย 'หลงทางกลาง' แนะนำอะไรเกี่ยวกับข้อมูลที่ยาว
หลิวและคณะ (2023) พบว่าประสิทธิภาพมักจะลดลงเมื่อข้อมูลที่เกี่ยวข้องอยู่ตรงกลางของบริบทที่ยาว นั่นคือเหตุผลหนึ่งที่ความเกี่ยวข้องและตำแหน่งมีความสำคัญมากกว่าปริมาณที่แท้จริง
เหตุใดคู่มือจึงอธิบายบริบทว่าเป็นงบประมาณ
โทเค็นในหน้าต่างมีค่าใช้จ่ายจริงในด้านราคาและเวลาตอบสนอง โทเค็นที่ไม่เกี่ยวข้องยังแข่งขันกับโทเค็นที่เกี่ยวข้องเพื่อดึงดูดความสนใจของโมเดล ดังนั้นจึงควรใช้อย่างจงใจ
การโหลดแบบทันเวลาคืออะไร?
แทนที่จะโหลดทุกอย่างไว้ข้างหน้า เอเจนต์จะเก็บพอยน์เตอร์ไว้และดึงเนื้อหาทั้งหมดเฉพาะเมื่อจำเป็นต้องมีขั้นตอนเท่านั้น ซึ่งจะทำให้หน้าต่างเอนได้
เหตุใดจึงมีประโยชน์ที่จะใส่เนื้อหาที่มีความเสถียร เช่น คำแนะนำของระบบและคำจำกัดความของเครื่องมือ ตั้งแต่เริ่มต้นในลำดับคงที่
ผู้ให้บริการที่สนับสนุนการแคชพร้อมท์สามารถใช้คำนำหน้าที่คงไบต์เหมือนกันในการโทรซ้ำได้ การให้ความสำคัญกับเนื้อหาที่มีเสถียรภาพมาเป็นอันดับแรกและการสนทนาที่เปลี่ยนแปลงไปจะทำให้สิ่งนั้นเป็นไปได้
เรียนรู้ต่อไป
คำแนะนำที่เกี่ยวข้อง
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้