ต่อไปคำแนะนำต่อไป
การฝึกล่วงหน้าอย่างต่อเนื่องและการปรับแต่งแบบละเอียด
เทคนิค
คู่มือทางเทคนิค
การปรับแต่งโมเดลการฝังอย่างละเอียดหมายถึงการฝึกอบรมคู่ของการสืบค้นจริงและเอกสารที่ตอบคำถามเหล่านั้น เพื่อให้ข้อความที่เกี่ยวข้องกับโดเมนของคุณลงชิดกันในพื้นที่เวกเตอร์มากกว่าข้อความที่ไม่เกี่ยวข้อง
ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min
เป็นเรื่องสำคัญเนื่องจากคุณภาพการดึงข้อมูลจะจำกัดคุณภาพ RAG: หากไม่ดึงข้อความที่ถูกต้อง โมเดลภาษาจะใช้งานไม่ได้ และการฝังวัตถุประสงค์ทั่วไปมักจะพลาดคำศัพท์ในโดเมน ตัวย่อ และวิธีการถามคำถามของผู้ใช้
โมเดลการฝังจะเปลี่ยนข้อความให้เป็นเวกเตอร์ เพื่อให้ข้อความที่คล้ายคลึงกันทางความหมายมีเวกเตอร์ที่คล้ายกัน ซึ่งมักจะวัดจากความคล้ายคลึงของโคไซน์ ใน RAG ทั้งข้อความค้นหาและชิ้นเอกสารจะถูกฝังไว้ และชิ้นที่ใกล้ที่สุดจะถูกดึงออกมา โมเดลทั่วไปได้รับการฝึกบนเว็บแบบกว้างและข้อมูลคำถาม-คำตอบ พวกเขาทำงานได้ดีพอสมควรในทุกที่ แต่อาจประสบปัญหากับคำศัพท์เฉพาะ ชื่อผลิตภัณฑ์ภายใน และช่องว่างระหว่างวิธีที่ผู้ใช้ถามและวิธีการเขียนเอกสาร การปรับแต่งอย่างละเอียดจะปิดช่องว่างนั้นด้วยข้อมูลการฝึกอบรมในสามรูปแบบ คู่ที่เป็นบวกคือคำถามและข้อความที่ตอบ เชิงลบในชุดใช้ข้อความอื่นๆ ในชุดการฝึกอบรมเดียวกันเป็นตัวอย่างของสิ่งที่ควรได้คะแนนต่ำกว่า ข้อความเชิงลบที่ชัดเจนคือข้อความที่ดูเกี่ยวข้อง แบ่งปันคำหรือหัวข้อ แต่ไม่ตอบคำถาม ฟิล์มเนกาทีฟแบบฮาร์ดสอนให้แยกแยะอย่างละเอียดซึ่งมีความสำคัญมากที่สุด เนื่องจากฟิล์มเนกาทีฟแบบง่ายถูกแยกออกจากโมเดลพื้นฐานแล้ว แหล่งข้อมูลที่ดีได้แก่ บันทึกการค้นหาที่มีการคลิก ตั๋วสนับสนุนที่เชื่อมโยงกับบทความ หน้าคำถามที่พบบ่อย และคำค้นหาสังเคราะห์ที่สร้างจากเอกสารของคุณตามโมเดลภาษา ข้อมูลสังเคราะห์มีประโยชน์แต่ควรกรองออก เนื่องจากคำถามที่สร้างขึ้นมักจะคัดลอกถ้อยคำของเอกสารและทำให้งานง่ายเกินไป ความเข้าใจผิดที่พบบ่อยคือการปรับแต่งอย่างละเอียดเป็นวิธีแก้ปัญหาแรกสำหรับการดึงข้อมูลที่ไม่ดี มักจะแบ่งเป็นส่วนๆ ดีกว่า การเพิ่มการค้นหาคำหลัก เช่น BM25 ในการตั้งค่าแบบผสม หรือการเพิ่มการจัดอันดับใหม่จะช่วยให้ได้กำไรมากขึ้นโดยใช้ความพยายามน้อยลง การปรับแต่งอย่างละเอียดจะคุ้มค่าที่สุดเมื่อคุณวัดช่องว่างในการดึงข้อมูลและมีหรือสามารถสร้างคู่คุณภาพได้อย่างน้อยสองสามพันคู่ ข้อผิดพลาดอีกประการหนึ่งคือผลลบลวง: ผลลบเชิงลบที่ขุดขึ้นมาซึ่งตอบคำถามได้จริง การฝึกโมเดลเพื่อผลักดันคุณภาพความเสียหายออกไป โปรดทราบว่าการเปลี่ยนแปลงโมเดลการฝังจำเป็นต้องฝังคอลเลกชันเอกสารทั้งหมดอีกครั้ง เนื่องจากเวกเตอร์เก่าและใหม่ไม่สามารถเทียบเคียงได้
บริษัทประกันภัยฝึกอบรมการฝังคำถามของลูกค้าคู่หนึ่งและข้อกำหนดของกรมธรรม์ที่ตอบคำถามเหล่านั้น ดังนั้น 'โทรศัพท์ของฉันจะได้รับการคุ้มครองหากฉันทำโทรศัพท์ตก' เพื่อเรียกคืนข้อความเสียหายจากอุบัติเหตุ
บริษัทซอฟต์แวร์ใช้ประวัติตั๋วสนับสนุน โดยจับคู่คำถามของตั๋วแต่ละใบกับตัวแทนบทความช่วยเหลือที่ลิงก์ไว้ในการตอบกลับ เป็นข้อมูลการฝึกอบรมฟรี
ทีมวิจัยด้านกฎหมายจะเจาะลึกประเด็นเชิงลบโดยการใช้ประโยคที่ใช้คำหลักร่วมกันกับข้อความค้นหา แต่ระบุถึงเขตอำนาจศาลอื่น โดยสอนแบบจำลองให้แยกคำเหล่านั้นออกจากกัน
ทีมเภสัชกรรมสร้างคำถามสังเคราะห์จากเอกสารภายในด้วยโมเดลภาษา กรองคำถามคุณภาพต่ำออก และใช้คู่เพื่อฝึกโมเดลการฝังโดเมน
โมเดลการฝังทั่วไปได้รับการปรับปรุงอย่างต่อเนื่องบนการวัดประสิทธิภาพสาธารณะ เช่น MTEB ซึ่งแคบลงแต่ไม่ได้ลบประโยชน์ของการปรับโดเมน เนื่องจากข้อมูลการวัดประสิทธิภาพแทบจะไม่ตรงกับคลังข้อมูลส่วนตัว การสร้างข้อมูลสังเคราะห์ด้วยแบบจำลองภาษาทำให้การปรับแต่งอย่างละเอียดเป็นประโยชน์สำหรับทีมที่ไม่มีชุดข้อมูลขนาดใหญ่ คาดหวังการใช้งานไปป์ไลน์แบบไฮบริดอย่างต่อเนื่อง โดยที่โมเดลการฝังที่ได้รับการปรับแต่งอย่างละเอียดจะจัดการการเรียกคืนในขั้นตอนแรก และผู้จัดอันดับใหม่จะจัดการอย่างแม่นยำ พฤติกรรมการวัดผลมีความสำคัญมากที่สุด: ทีมที่ติดตามการเรียกคืนจากการสืบค้นจริงจะรู้ว่าเมื่อการปรับแต่งแบบละเอียดได้ผลดี
จดหมายข่าวฟรี
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
การปรับแต่งโมเดลการฝังอย่างละเอียดหมายถึงการฝึกอบรมคู่ของการสืบค้นจริงและเอกสารที่ตอบคำถามเหล่านั้น เพื่อให้ข้อความที่เกี่ยวข้องกับโดเมนของคุณลงชิดกันในพื้นที่เวกเตอร์มากกว่าข้อความที่ไม่เกี่ยวข้อง เป็นเรื่องสำคัญเนื่องจากคุณภาพการดึงข้อมูลจะจำกัดคุณภาพ RAG: หากไม่ดึงข้อความที่ถูกต้อง โมเดลภาษาจะใช้งานไม่ได้ และการฝังวัตถุประสงค์ทั่วไปมักจะพลาดคำศัพท์ในโดเมน ตัวย่อ และวิธีการถามคำถามของผู้ใช้
คำเชิงลบที่ชัดเจนจะใช้คำหรือหัวข้อร่วมกับคำถามแต่ไม่ถูกต้อง ซึ่งเป็นการสอนโมเดลให้แยกแยะความแตกต่างได้เป็นอย่างดี
เชิงลบแบบง่ายอยู่ไกลจากแบบสอบถามอยู่แล้ว เชิงลบอย่างหนักบังคับให้โมเดลเรียนรู้ความแตกต่างที่ลึกซึ้ง
หากแง่ลบที่เกี่ยวข้องกันจริง ๆ การฝึกอบรมจะผลักคำตอบที่ถูกต้องออกไปและส่งผลเสียต่อการเรียกค้นกลับคืนมา
ความสูญเสียที่ตรงกันข้ามจะให้ผลบวกต่อผลลบแบบในแบตช์และผลลบแบบฮาร์ด โดยผลักดันให้ผลบวกขึ้นไปอยู่ด้านบน
เวกเตอร์จากโมเดลที่แตกต่างกันไม่สามารถเทียบเคียงได้ ดังนั้นคอลเลกชันทั้งหมดจึงต้องถูกฝังใหม่
เรียนรู้ต่อไป
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้
ต่อไปคำแนะนำต่อไป
การฝึกล่วงหน้าอย่างต่อเนื่องและการปรับแต่งแบบละเอียด
เทคนิค