คู่มือ AI ภาษา

การดึงข้อมูลการจัดอันดับใหม่

การจัดอันดับการสืบค้นข้อมูลใหม่เป็นขั้นตอนที่สองของการค้นหายุคใหม่ หลังจากที่ฟาสต์รีทรีฟเวอร์ดึงชุดผู้สมัคร โมเดลที่ทรงพลังกว่าจะให้คะแนนผู้สมัครเหล่านั้นอีกครั้ง เพื่อให้ผู้ที่เกี่ยวข้องอย่างแท้จริงขึ้นไปอยู่ด้านบน

ภาพรวม

การจัดอันดับการสืบค้นข้อมูลใหม่เป็นขั้นตอนที่สองของการค้นหายุคใหม่ หลังจากที่ฟาสต์รีทรีฟเวอร์ดึงชุดผู้สมัคร โมเดลที่ทรงพลังกว่าจะให้คะแนนผู้สมัครเหล่านั้นอีกครั้ง เพื่อให้ผู้ที่เกี่ยวข้องอย่างแท้จริงขึ้นไปอยู่ด้านบน เป็นการเพิ่มคุณภาพเบื้องหลังการค้นหาที่ดีขึ้นและระบบ RAG ที่แม่นยำยิ่งขึ้น

การจัดอันดับการดึงข้อมูลใหม่เป็นส่วนหนึ่งของสแต็กภาษา-AI ที่ใช้ในการอ่าน สร้าง จำแนก และแปลงข้อความและคำพูดตามขนาด

เจาะลึก

การสร้างการค้นหาและการดึงข้อมูลแบบเสริมมักจะทำงานในสองขั้นตอน ประการแรก ฟาสต์รีทรีฟเวอร์ (BM25 ตามคำสำคัญหรือการค้นหาเวกเตอร์หนาแน่น) จะคว้ากลุ่มผู้สมัครที่กว้างขวาง เช่น 100 อันดับแรก โดยปรับให้เหมาะสมสำหรับการเรียกคืนและความเร็ว จากนั้นผู้จัดอันดับใหม่จะตรวจสอบผู้สมัครเหล่านั้นอย่างรอบคอบมากขึ้น และจัดลำดับใหม่ตามความเกี่ยวข้อง โดยปรับให้เหมาะสมเพื่อความแม่นยำที่ด้านบน การจัดอันดับใหม่แบบคลาสสิกคือตัวเข้ารหัสข้าม โดยจะดึงข้อความค้นหาและเอกสารผู้สมัครแต่ละรายการรวมกันเป็นหม้อแปลงไฟฟ้า เพื่อให้ความสนใจสามารถเปรียบเทียบคำต่อคำได้ โดยสร้างคะแนนความเกี่ยวข้องเพียงรายการเดียว สิ่งนี้มีความแม่นยำมากกว่าการฝังแบบอิสระของรีทรีฟเวอร์มาก แต่ช้าเกินไปที่จะรันทั่วทั้งคลังข้อมูล ด้วยเหตุนี้จึงมีการออกแบบสองขั้นตอน ใน RAG การจัดอันดับใหม่ที่ดีหมายความว่าแบบจำลองจะเห็นข้อความที่เกี่ยวข้องมากที่สุด ลดภาพหลอน และปรับปรุงคุณภาพคำตอบ

ข้อมูลเชิงลึกทางเทคนิค

ความแตกต่างที่สำคัญคือตัวเข้ารหัสแบบคู่และตัวเข้ารหัสแบบข้าม ตัวเข้ารหัสแบบคู่ฝังการสืบค้นและเอกสารแยกกัน เพื่อให้สามารถคำนวณเวกเตอร์ล่วงหน้าและเปรียบเทียบกับผลิตภัณฑ์ดอทแบบเร็ว ซึ่งเหมาะสำหรับการดึงข้อมูลในขั้นตอนแรก ตัวเข้ารหัสแบบข้ามจะเชื่อมโยงการสืบค้นและเอกสารเข้าด้วยกัน และเรียกใช้ร่วมกันผ่านหม้อแปลงไฟฟ้า เพื่อให้ผู้ตัดสินที่ให้ความสนใจแบบข้ามได้เต็มรูปแบบ ตัวเข้ารหัสแบบไขว้มีความแม่นยำมากกว่ามาก แต่ไม่สามารถคำนวณเวกเตอร์เอกสารล่วงหน้าได้ ดังนั้นจึงสงวนไว้สำหรับการจัดอันดับชุดตัวเลือกขนาดเล็กใหม่แทนที่จะสแกนทุกอย่าง

การเรียนรู้การจัดอันดับการดึงข้อมูลใหม่

การจัดอันดับการสืบค้นข้อมูลใหม่เป็นขั้นตอนที่สองของการค้นหายุคใหม่ หลังจากที่ฟาสต์รีทรีฟเวอร์ดึงชุดผู้สมัคร โมเดลที่ทรงพลังกว่าจะให้คะแนนผู้สมัครเหล่านั้นอีกครั้ง เพื่อให้ผู้ที่เกี่ยวข้องอย่างแท้จริงขึ้นไปอยู่ด้านบน เป็นการเพิ่มคุณภาพเบื้องหลังการค้นหาที่ดีขึ้นและระบบ RAG ที่แม่นยำยิ่งขึ้น การจัดอันดับการดึงข้อมูลใหม่เป็นส่วนหนึ่งของสแต็กภาษา-AI ที่ใช้ในการอ่าน สร้าง จำแนก และแปลงข้อความและคำพูดตามขนาด เพื่อสร้างความเข้าใจอย่างลึกซึ้ง ให้ถือว่าการดึงข้อมูลการจัดอันดับใหม่เป็นรูปแบบการดำเนินงาน ไม่ใช่คุณลักษณะเดียว: กำหนดผลลัพธ์ที่ต้องการ ชี้แจงสมมติฐาน และแยกสิ่งที่ระบบสามารถทำได้อย่างน่าเชื่อถือจากสิ่งที่ยังต้องใช้วิจารณญาณจากผู้เชี่ยวชาญ

ในทางปฏิบัติ ทีมที่แข็งแกร่งใช้พรอมต์การออกแบบการดึงข้อมูลการจัดอันดับใหม่ การดึงข้อมูล และลูปการตรวจสอบเป็นระบบการสื่อสารแบบรวมระบบเดียว โดยจะบันทึกเกณฑ์ความสำเร็จที่ชัดเจน ทดสอบกับข้อมูลและขั้นตอนการทำงานที่สมจริง และทำซ้ำตามรูปแบบความล้มเหลวที่สังเกตได้ แทนที่จะชนะการวัดประสิทธิภาพเพียงครั้งเดียว นี่คือจุดที่ความเข้าใจทางทฤษฎีกลายเป็นความสามารถที่คงทนของผลิตภัณฑ์ นโยบาย และการดำเนินงาน

ขั้นตอนการทำงานของภาษาสามารถดำเนินไปได้เร็วขึ้นโดยไม่กระทบต่อความสม่ำเสมอ ในขณะเดียวกัน ข้อเท็จจริงที่หลอนประสาทสามารถเข้าสู่รายงาน กระแสสนับสนุน หรือผลการวิจัยได้อย่างเงียบๆ แนวทางที่ยืดหยุ่นที่สุดคือการรวมความเร็วของการทดลองเข้ากับวินัยในการกำกับดูแล: ดำเนินการนำร่อง จับหลักฐาน เผยแพร่บันทึกการตัดสินใจ และอัปเดตการป้องกันอย่างต่อเนื่องเมื่อพฤติกรรมของโมเดล ความคาดหวังของผู้ใช้ และข้อกำหนดด้านกฎระเบียบมีการเปลี่ยนแปลง

ผลกระทบเชิงกลยุทธ์

ขั้นตอนการทำงานของภาษาสามารถดำเนินไปได้เร็วขึ้นโดยไม่กระทบต่อความสม่ำเสมอ

ขั้นตอนการทำงานของภาษาสามารถดำเนินไปได้เร็วขึ้นโดยไม่กระทบต่อความสม่ำเสมอ ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

ขยายการเข้าถึงภาษาและรูปแบบการสื่อสาร

ขยายการเข้าถึงภาษาและรูปแบบการสื่อสาร ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

ทีมสามารถใช้เวลามากขึ้นในการตัดสิน ในขณะที่ระบบอัตโนมัติจัดการกับการทำซ้ำ

ทีมสามารถใช้เวลามากขึ้นในการตัดสิน ในขณะที่ระบบอัตโนมัติจัดการกับการทำซ้ำ ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

อนาคตของการจัดอันดับการดึงข้อมูลใหม่

การจัดอันดับใหม่เป็นศูนย์กลางในการค้นหาการผลิตและ RAG และชุดเครื่องมือกำลังขยายตัวอย่างรวดเร็ว API การจัดอันดับใหม่ที่โฮสต์ไว้ (เช่น Cohere Rerank) และโมเดลตัวเข้ารหัสข้ามแบบเปิดทำให้ง่ายต่อการติดตั้ง แนวทางที่ใหม่กว่า ได้แก่ การใช้โมเดลภาษาขนาดใหญ่เป็นตัวจัดอันดับใหม่แบบรายการซึ่งให้เหตุผลกับผู้สมัครทั้งหมดที่ตั้งค่าไว้พร้อมกัน โมเดลการโต้ตอบล่าช้า เช่น ColBERT ที่สร้างสมดุลระหว่างความเร็วและความแม่นยำ และเรียนรู้การผสมผสานของรีทรีฟเวอร์หลายตัว เมื่อหน้าต่างบริบทขยายใหญ่ขึ้น คาดว่าจะเชื่อมโยงกันมากขึ้นระหว่างการจัดอันดับใหม่และวิธีเลือกและเรียงลำดับข้อความสำหรับการสร้าง

การใช้งานจริงในโลกแห่งความเป็นจริง

แชทบอท RAG ดึงข้อความ 50 ข้อความด้วยการค้นหาเวกเตอร์ จากนั้นตัวเข้ารหัสข้ามจะจัดอันดับข้อความเหล่านั้นใหม่ เพื่อให้ 5 อันดับแรกที่ป้อนไปยัง LLM มีความเกี่ยวข้องมากที่สุด

การค้นหาไซต์อีคอมเมิร์ซใช้ BM25 ในการเรียกคืน จากนั้นผู้จัดอันดับใหม่จะจัดลำดับผลิตภัณฑ์ใหม่ตามความเกี่ยวข้องของข้อความค้นหาเพื่อเพิ่ม Conversion

การเรียก API การจัดอันดับใหม่ที่โฮสต์ (เช่น Cohere Rerank) เพื่อจัดลำดับการค้นหาใหม่โดยไม่ต้องฝึกโมเดลที่กำหนดเอง

การใช้การโต้ตอบล่าช้าแบบ ColBERT เพื่อจัดอันดับผู้สมัครใหม่ด้วยความแม่นยำของตัวเข้ารหัสแบบเกือบข้ามในเวลาแฝงที่ต่ำกว่า

รูปแบบการดำเนินงาน

การดึงข้อมูลการจัดอันดับใหม่ในทางปฏิบัติ

แชทบอท RAG ดึงข้อความ 50 ข้อความด้วยการค้นหาเวกเตอร์ จากนั้นตัวเข้ารหัสข้ามจะจัดอันดับข้อความเหล่านั้นใหม่ เพื่อให้ 5 อันดับแรกที่ป้อนไปยัง LLM มีความเกี่ยวข้องมากที่สุด

แชทบอต RAG ดึงข้อความ 50 ข้อความด้วยการค้นหาเวกเตอร์ จากนั้นตัวเข้ารหัสข้ามจะจัดลำดับใหม่ ดังนั้น 5 อันดับแรกที่ป้อนให้กับ LLM จึงเป็นทีมที่เกี่ยวข้องมากที่สุดมักจะได้รับผลลัพธ์ที่ดีกว่า เมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

การดึงข้อมูลการจัดอันดับใหม่ในทางปฏิบัติ

การค้นหาไซต์อีคอมเมิร์ซใช้ BM25 ในการเรียกคืน จากนั้นผู้จัดอันดับใหม่จะจัดลำดับผลิตภัณฑ์ใหม่ตามความเกี่ยวข้องของข้อความค้นหาเพื่อเพิ่ม Conversion

การค้นหาไซต์อีคอมเมิร์ซใช้ BM25 ในการเรียกคืน จากนั้นผู้จัดอันดับใหม่จะจัดลำดับผลิตภัณฑ์ใหม่ตามความเกี่ยวข้องของคำค้นหาเพื่อเพิ่ม Conversion ทีมมักจะได้รับผลลัพธ์ที่ดีขึ้นเมื่อพวกเขากำหนดเกณฑ์คุณภาพไว้ล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

การดึงข้อมูลการจัดอันดับใหม่ในทางปฏิบัติ

การเรียก API การจัดอันดับใหม่ที่โฮสต์ (เช่น Cohere Rerank) เพื่อจัดลำดับการค้นหาใหม่โดยไม่ต้องฝึกโมเดลที่กำหนดเอง

การเรียกใช้ API การจัดอันดับใหม่ที่โฮสต์ (เช่น Cohere Rerank) เพื่อจัดลำดับการค้นหาใหม่โดยไม่ต้องฝึกอบรมโมเดลที่กำหนดเอง ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

การดึงข้อมูลการจัดอันดับใหม่ในทางปฏิบัติ

การใช้การโต้ตอบล่าช้าแบบ ColBERT เพื่อจัดอันดับผู้สมัครใหม่ด้วยความแม่นยำของตัวเข้ารหัสแบบเกือบข้ามในเวลาแฝงที่ต่ำกว่า

การใช้การโต้ตอบล่าช้าแบบ ColBERT เพื่อจัดอันดับผู้สมัครใหม่ด้วยความแม่นยำของตัวเข้ารหัสใกล้ข้ามที่เวลาแฝงต่ำกว่า ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

ความเสี่ยงและรั้ว

!

ข้อเท็จจริงที่หลอนประสาทสามารถเข้าสู่รายงาน กระแสสนับสนุน หรือผลการวิจัยได้อย่างเงียบๆ

!

ความละเอียดอ่อนของการแจ้งเตือนสามารถสร้างผลลัพธ์ที่ไม่สอดคล้องกันในคำขอที่คล้ายกัน

!

ข้อมูลข้อความที่ละเอียดอ่อนอาจถูกเปิดเผยหากการควบคุมการเข้าถึงอ่อนแอ

แผนงานการดำเนินงาน

1

กำหนดรูปแบบเอาต์พุต โทนเสียง และมาตรฐานคุณภาพก่อนเปิดตัว

กำหนดรูปแบบเอาต์พุต โทนเสียง และมาตรฐานคุณภาพก่อนเปิดตัว ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

2

การตอบสนองภาคพื้นดินกับแหล่งข้อมูลที่เชื่อถือได้เมื่อใดก็ตามที่ความแม่นยำมีความสำคัญ

การตอบสนองภาคพื้นดินกับแหล่งข้อมูลที่เชื่อถือได้เมื่อใดก็ตามที่ความแม่นยำมีความสำคัญ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

3

รักษาจุดตรวจสอบการตรวจสอบโดยมนุษย์สำหรับผลลัพธ์ที่มีเดิมพันสูง

รักษาจุดตรวจสอบการตรวจสอบโดยมนุษย์สำหรับผลลัพธ์ที่มีเดิมพันสูง ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

4

ติดตามรูปแบบความล้มเหลวและฝึกอบรมพร้อมท์หรือเวิร์กโฟลว์เป็นประจำ

ติดตามรูปแบบความล้มเหลวและฝึกอบรมพร้อมท์หรือเวิร์กโฟลว์เป็นประจำ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

สำรวจต่อไป