การจัดอันดับโมเดลใหม่
การจัดอันดับใหม่คือโมเดลขั้นที่สองที่ให้คะแนนรายการผลการค้นหาใหม่ซึ่งเกี่ยวข้องกับข้อความค้นหา ซึ่งจะทำให้ลำดับมีความคมชัดขึ้นหลังจากที่สุนัขจำพวกเร็วดึงผู้สมัคร
ภาพรวม
It is a key ingredient in modern search and retrieval-augmented generation (RAG).
เจาะลึก
ระบบ Search และ RAG มักจะทำงานในสองขั้นตอน ประการแรก โปรแกรมรีทรีฟเวอร์แบบรวดเร็ว (มักเป็นการค้นหาแบบเวกเตอร์/แบบฝัง หรือคำสำคัญ BM25) จะดึงเอกสารที่อยู่ระหว่างการพิจารณาประมาณ 50-100 เอกสารจากหลายล้านชุด ซึ่งปรับให้เหมาะสมเพื่อการเรียกคืนและความเร็ว แต่การส่งผ่านครั้งแรกนั้นจะให้คะแนนการสืบค้นและเอกสารแยกกัน ดังนั้นจึงอาจพลาดความแตกต่างเล็กน้อยได้ การจัดอันดับใหม่เป็นขั้นตอนที่แม่นยำ โดยนำการสืบค้นและผู้สมัครแต่ละคนมารวมกันและให้คะแนนความเกี่ยวข้องที่ละเอียด จากนั้นจึงเรียงลำดับรายการใหม่เพื่อให้ผลลัพธ์ที่ดีที่สุดขึ้นไปอยู่ด้านบนสุด สถาปัตยกรรมที่โดดเด่นคือตัวเข้ารหัสข้าม โดยจะฟีดการสืบค้นและเอกสารร่วมกันในหม้อแปลงไฟฟ้า โดยให้ทุกโทเค็นการสืบค้นเข้าร่วมกับทุกโทเค็นของเอกสาร การโต้ตอบเชิงลึกนี้ทำให้ผู้จัดอันดับใหม่มีความแม่นยำมากกว่าการฝังความคล้ายคลึงกัน โดยเสียค่าใช้จ่ายในการดำเนินการหนึ่งครั้งต่อผู้สมัครหนึ่งคน
ข้อมูลเชิงลึกทางเทคนิค
ความแตกต่างคือตัวเข้ารหัสแบบคู่กับตัวเข้ารหัสแบบข้าม ตัวเข้ารหัสแบบคู่ฝังแบบสอบถามและเอกสารอย่างอิสระในเวกเตอร์ ดังนั้นความคล้ายคลึงกันจึงเป็นผลิตภัณฑ์ดอทราคาถูก รวดเร็วและคำนวณล่วงหน้าได้ แต่ตื้นเขิน ตัวเข้ารหัสข้ามจะเชื่อมโยงการสืบค้นและเอกสารเข้าด้วยกันเป็นอินพุตเดียว และเรียกใช้ Transformer Pass แบบเต็ม ทำให้เกิดคะแนนความเกี่ยวข้องเพียงรายการเดียวพร้อมความสนใจในระดับโทเค็นที่หลากหลาย ไม่สามารถคำนวณล่วงหน้าได้ ดังนั้นจึงสงวนไว้สำหรับการจัดอันดับรายการโปรดเล็กๆ น้อยๆ ใหม่ โมเดลอย่าง Cohere Rerank และ BGE-reranker เป็นตัวอย่างให้เห็นสิ่งนี้
ผลกระทบเชิงกลยุทธ์
ต้นทุนและงบประมาณ
การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
การตัดสินใจที่ชัดเจนยิ่งขึ้น
การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
การควบคุมคุณภาพ
ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต
อนาคตของการจัดอันดับโมเดลใหม่
การจัดอันดับใหม่กำลังกลายเป็นมาตรฐานในไปป์ไลน์ RAG เนื่องจากบริบทที่ได้รับการจัดลำดับที่ดีขึ้นจะปรับปรุงคุณภาพคำตอบ LLM โดยตรงและลดอาการประสาทหลอน คาดว่าจะมีตัวเข้ารหัสข้ามที่เบากว่าและเร็วกว่า ตัวจัดอันดับใหม่หลายภาษาและหลายรูปแบบ (ข้อความพร้อมรูปภาพหรือตาราง) และหน้าต่างบริบทที่ยาวขึ้นเพื่อให้สามารถให้คะแนนเอกสารทั้งหมดได้ การจัดอันดับใหม่แบบ 'listwise' ที่ใช้ LLM ซึ่งตัดสินผู้สมัครทั้งหมดในคราวเดียวกำลังเพิ่มขึ้น และระบบบางระบบกลั่นกรองการตัดสินแบบเข้ารหัสข้ามกลับไปสู่การเรียกค้นที่ราคาถูกกว่าเพื่อให้ได้ความแม่นยำใกล้กับขั้นแรกมากขึ้น
การใช้งานจริงในโลกแห่งความเป็นจริง
แชทบอท RAG ดึงข้อมูล 50 ชิ้นโดยการฝังการค้นหา จากนั้นจัดอันดับใหม่เพื่อป้อนเฉพาะ 5 ชิ้นที่เกี่ยวข้องมากที่สุดในบริบทของ LLM
การค้นหาอีคอมเมิร์ซจัดลำดับผลลัพธ์ผลิตภัณฑ์ใหม่เพื่อให้สินค้าที่ตรงกับวลีค้นหาทั้งหมดของนักช้อปมากที่สุดจะปรากฏเป็นอันดับแรก
Cohere Rerank หรือ BGE-reranker ช่วยเพิ่มความแม่นยำในการค้นหาเอกสารระดับองค์กรผ่าน PDF นโยบายนับพันรายการ
ฐานความรู้ของฝ่ายสนับสนุนลูกค้าจะจัดอันดับบทความช่วยเหลือที่ดึงข้อมูลใหม่ เพื่อให้ตัวแทนแสดงคำตอบที่เกี่ยวข้องมากที่สุดเพียงคำตอบเดียวที่ด้านบน
ความเสี่ยงและรั้ว
การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น
แผนงานการดำเนินงาน
กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Reranking Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
การทดสอบ A/B สำหรับโมเดล ML
คำถามที่พบบ่อย
What is Reranking Models?
การจัดอันดับใหม่คือโมเดลขั้นที่สองที่ให้คะแนนรายการผลการค้นหาใหม่ซึ่งเกี่ยวข้องกับข้อความค้นหา ซึ่งจะทำให้ลำดับมีความคมชัดขึ้นหลังจากที่สุนัขจำพวกเร็วดึงผู้สมัคร เป็นองค์ประกอบสำคัญในการค้นหาสมัยใหม่และการเรียกข้อมูลเสริม (RAG)
ในไปป์ไลน์การดึงข้อมูลแบบสองขั้นตอนทั่วไป หน้าที่ของผู้จัดอันดับใหม่คืออะไร?
จำพวกที่รวดเร็วดึงผู้สมัคร; จากนั้นผู้จัดอันดับใหม่จะให้คะแนนตัวเลือกนั้นอีกครั้งเพื่อผลักดันผลลัพธ์ที่เกี่ยวข้องมากที่สุดไปอยู่ด้านบน
ผู้จัดอันดับใหม่ส่วนใหญ่ใช้สถาปัตยกรรมใด
โดยทั่วไปแล้วผู้จัดอันดับใหม่จะใช้ตัวเข้ารหัสข้าม ป้อนข้อความค้นหาและจัดทำเอกสารร่วมกัน เพื่อให้ความสนใจสามารถสร้างแบบจำลองการโต้ตอบของพวกเขาได้
เหตุใดจึงไม่สามารถใช้การจัดเรียงข้อมูลข้ามตัวเข้ารหัสเพื่อค้นหาเอกสารนับล้านโดยตรงได้
ต่างจากการฝังที่คำนวณล่วงหน้าได้ ตัวเข้ารหัสแบบข้ามจะต้องรันการส่งผ่านหม้อแปลงแบบเต็มต่อคู่ ดังนั้นจึงสงวนไว้สำหรับรายการสั้นๆ
ข้อได้เปรียบหลักของ Bi-encoder เหนือ Cross-encoder คืออะไร?
ตัวเข้ารหัสแบบ Bi จะฝังเอกสารอย่างอิสระและล่วงหน้า ช่วยให้สามารถค้นหาความคล้ายคลึงกันในคอลเลกชันขนาดใหญ่ได้อย่างรวดเร็ว
การจัดเรียงใหม่จะช่วยลดอาการประสาทหลอนในระบบ RAG ได้อย่างไร
บริบทที่ได้รับการจัดลำดับดีขึ้นและมีความเกี่ยวข้องมากขึ้นทำให้ LLM มีพื้นฐานที่ถูกต้อง ซึ่งจะช่วยลดคำตอบที่ประดิษฐ์ขึ้น