Tiếp theoHướng dẫn tiếp theo
Tiếp tục đào tạo trước và tinh chỉnh
kỹ thuật
HƯỚNG DẪN KỸ THUẬT
Tinh chỉnh mô hình nhúng để truy xuất
Tinh chỉnh mô hình nhúng có nghĩa là đào tạo mô hình đó theo cặp truy vấn thực và tài liệu trả lời chúng, sao cho văn bản liên quan trong miền của bạn nằm gần nhau hơn trong không gian vectơ so với văn bản không liên quan.
Trên trang nàyđọc 4 phút
Tổng quan
Điều này quan trọng vì chất lượng truy xuất giới hạn chất lượng RAG: nếu đoạn văn phù hợp không được truy xuất, mô hình ngôn ngữ không thể sử dụng đoạn văn đó và các phần nhúng cho mục đích chung thường bỏ sót từ vựng, từ viết tắt trong miền và cách người dùng đặt câu hỏi.
Lặn sâu
Mô hình nhúng biến văn bản thành một vectơ sao cho các văn bản tương tự về mặt ngữ nghĩa có các vectơ tương tự, thường được đo bằng độ tương tự cosine. Trong RAG, cả truy vấn và khối tài liệu đều được nhúng và các khối gần nhất sẽ được truy xuất. Các mô hình chung được đào tạo trên web rộng và dữ liệu trả lời câu hỏi. Chúng hoạt động khá tốt ở mọi nơi nhưng có thể gặp khó khăn với các thuật ngữ chuyên ngành, tên sản phẩm nội bộ và khoảng cách giữa cách người dùng hỏi và cách viết tài liệu. Tinh chỉnh sẽ thu hẹp khoảng cách đó với dữ liệu huấn luyện ở ba dạng. Các cặp tích cực là một truy vấn và một đoạn văn trả lời nó. Tiêu cực theo đợt sử dụng các đoạn khác trong cùng một đợt đào tạo làm ví dụ về những gì nên đạt điểm thấp hơn. Phủ định cứng là những đoạn văn có vẻ liên quan, chia sẻ từ ngữ hoặc chủ đề nhưng không trả lời câu hỏi. Những âm bản khó dạy về sự khác biệt tinh tế quan trọng nhất, bởi vì những âm bản dễ dàng đã được phân tách bằng mô hình cơ sở. Các nguồn dữ liệu tốt bao gồm nhật ký tìm kiếm với các lần nhấp chuột, phiếu hỗ trợ được liên kết với bài viết, trang Câu hỏi thường gặp và các truy vấn tổng hợp được mô hình ngôn ngữ tạo ra từ tài liệu của bạn. Dữ liệu tổng hợp rất hữu ích nhưng cần được lọc vì các câu hỏi được tạo ra thường sao chép từ ngữ của tài liệu và khiến công việc trở nên quá dễ dàng. Một quan niệm sai lầm thường gặp là tinh chỉnh là cách khắc phục đầu tiên cho việc truy xuất kém. Thường thì việc phân chia tốt hơn, thêm tìm kiếm từ khóa như BM25 trong thiết lập kết hợp hoặc thêm trình sắp xếp lại sẽ mang lại lợi ích lớn hơn mà tốn ít công sức hơn. Tinh chỉnh là đáng giá nhất khi bạn đã đo được khoảng cách truy xuất và có hoặc có thể xây dựng ít nhất vài nghìn cặp chất lượng. Một cạm bẫy khác là phủ định sai: một phủ định cứng được khai thác thực sự trả lời được truy vấn. Đào tạo mô hình để đẩy nó đi sẽ làm tổn hại đến chất lượng. Cũng lưu ý rằng việc thay đổi mô hình nhúng yêu cầu phải nhúng lại toàn bộ bộ sưu tập tài liệu, vì các vectơ cũ và mới không thể so sánh được.
Tác động chiến lược
Chi phí và ngân sách
Các quyết định về kiến trúc sẽ thúc đẩy hiệu suất và chi phí vận hành trong nhiều năm.
Quyết định rõ ràng hơn
Giáo dục kỹ thuật giúp các nhóm chọn nhóm phù hợp chứ không chỉ nhóm mới nhất.
Kiểm soát chất lượng
Lựa chọn kỹ thuật tốt hơn làm giảm sự cố về độ tin cậy trong sản xuất.
Tương lai của việc tinh chỉnh các mô hình nhúng để truy xuất
Các mô hình nhúng chung tiếp tục cải thiện các điểm chuẩn công khai như MTEB, thu hẹp nhưng không loại bỏ lợi ích của việc điều chỉnh tên miền, vì dữ liệu điểm chuẩn hiếm khi khớp với kho dữ liệu riêng tư. Việc tạo dữ liệu tổng hợp bằng các mô hình ngôn ngữ đã giúp việc tinh chỉnh trở nên thiết thực đối với các nhóm không có bộ dữ liệu được gắn nhãn lớn. Mong đợi việc tiếp tục sử dụng các quy trình kết hợp trong đó mô hình nhúng được tinh chỉnh xử lý việc thu hồi ở giai đoạn đầu và trình sắp xếp lại xử lý độ chính xác. Thói quen đo lường quan trọng nhất: các nhóm theo dõi việc thu hồi các truy vấn thực tế sẽ biết khi nào việc tinh chỉnh mang lại hiệu quả.
Triển khai trong thế giới thực
Một công ty bảo hiểm huấn luyện các phần nhúng dựa trên các cặp câu hỏi của khách hàng và các điều khoản chính sách trả lời chúng, vì vậy 'điện thoại của tôi có được bảo hiểm nếu tôi làm rơi nó không' sẽ truy xuất điều khoản thiệt hại do tai nạn.
Một công ty phần mềm sử dụng lịch sử yêu cầu hỗ trợ của mình, ghép nối từng câu hỏi của yêu cầu với các nhân viên hỗ trợ bài viết được liên kết trong câu trả lời của họ, dưới dạng dữ liệu đào tạo miễn phí.
Một nhóm nghiên cứu pháp lý khai thác những phủ định khó bằng cách lấy các mệnh đề có chung từ khóa với truy vấn nhưng đề cập đến một khu vực pháp lý khác, dạy mô hình cách phân tách chúng.
Một nhóm dược phẩm tạo ra các câu hỏi tổng hợp từ các tài liệu nội bộ bằng mô hình ngôn ngữ, lọc ra những câu hỏi có chất lượng thấp và sử dụng các cặp này để đào tạo mô hình nhúng miền.
Rủi ro & lan can
Tối ưu hóa một điểm chuẩn có thể che giấu những điểm yếu của hệ thống rộng hơn.
Chi phí cơ sở hạ tầng và bảo trì thường được đánh giá thấp.
Khoảng cách về bảo mật và khả năng quan sát có thể tăng lên khi hệ thống trở nên phức tạp hơn.
Lộ trình thực hiện
Xác định các mục tiêu về độ trễ, chất lượng và chi phí trước khi triển khai.
Điểm chuẩn trong điều kiện tải và dữ liệu thực tế.
Giám sát thiết bị về lỗi, độ lệch và tác động của người dùng.
Chuẩn bị đường dẫn khôi phục và ứng phó sự cố trước khi mở rộng quy mô.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Fine-Tuning Embedding Models for Retrieval quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Câu hỏi thường gặp
Mô hình nhúng tinh chỉnh để truy xuất là gì?
Tinh chỉnh mô hình nhúng có nghĩa là đào tạo mô hình đó theo cặp truy vấn thực và tài liệu trả lời chúng, sao cho văn bản liên quan trong miền của bạn nằm gần nhau hơn trong không gian vectơ so với văn bản không liên quan. Điều này quan trọng vì chất lượng truy xuất giới hạn chất lượng RAG: nếu đoạn văn phù hợp không được truy xuất, mô hình ngôn ngữ không thể sử dụng đoạn văn đó và các phần nhúng cho mục đích chung thường bỏ sót từ vựng, từ viết tắt trong miền và cách người dùng đặt câu hỏi.
Một tiêu cực cứng trong việc nhúng tinh chỉnh là gì?
Những phủ định cứng nhắc chia sẻ các từ hoặc chủ đề với truy vấn nhưng không chính xác, dạy cho mô hình sự khác biệt rõ ràng.
Tại sao những câu phủ định khó lại hữu ích hơn những câu phủ định dễ?
Những phủ định dễ dàng đã không còn là vấn đề nữa; những tiêu cực cứng rắn buộc người mẫu phải tìm hiểu những khác biệt tinh tế.
Âm tính giả trong bối cảnh này là gì?
Nếu một câu trả lời được cho là tiêu cực thực sự có liên quan thì việc đào tạo sẽ đẩy câu trả lời đúng đi và gây tổn hại cho việc truy hồi.
Sự mất mát nào thường được sử dụng để đào tạo các mô hình nhúng trên các cặp đoạn truy vấn?
Những tổn thất tương phản ghi điểm tích cực so với các điểm tiêu cực theo đợt và tiêu cực cứng, đẩy điểm tích cực lên hàng đầu.
Sau khi chuyển sang mô hình nhúng mới được tinh chỉnh, bạn phải làm gì với chỉ mục tài liệu của mình?
Các vectơ từ các mô hình khác nhau không thể so sánh được nên toàn bộ bộ sưu tập phải được nhúng lại.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này