HƯỚNG DẪN AI về ngôn ngữ

Tinh chỉnh vs RAG vs Nhắc nhở

Nhắc thay đổi những gì bạn hỏi mô hình, tạo tăng cường truy xuất (RAG) thay đổi thông tin mà mô hình nhìn thấy tại thời điểm trả lời và tinh chỉnh sẽ thay đổi trọng số của mô hình để mô hình hoạt động khác theo mặc định.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của Tinh chỉnh so với RAG và Nhắc nhở
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Sự lựa chọn đúng đắn phụ thuộc vào những gì thực sự còn thiếu: kiến ​​thức chỉ ra RAG, các điểm định dạng hoặc phong cách nhất quán để nhắc nhở đầu tiên và tinh chỉnh thứ hai, và một kỹ năng mới mà mô hình không thể thực hiện một cách đáng tin cậy chỉ ra việc tinh chỉnh. Chọn sai đòn bẩy sẽ gây lãng phí tiền bạc và thường khiến kết quả trở nên tồi tệ hơn.

Lặn sâu

Một cách hữu ích để quyết định là đặt tên cho khoảng trống trước khi đặt tên cho giải pháp. Có bốn lỗ hổng phổ biến: kiến ​​thức (mô hình không biết thông tin thực tế của bạn), hình thức (mô hình biết nhưng trả lời sai hình thức), phong cách hoặc giọng điệu (trả lời đúng nhưng nghe có vẻ không đúng) và kỹ năng (mô hình không thể thực hiện nhiệm vụ một cách đáng tin cậy, chẳng hạn như trích xuất chuyên biệt hoặc phán đoán theo miền cụ thể). Nhắc nhở là đòn bẩy đầu tiên cho hầu hết mọi khoảng trống vì nó rẻ, thay đổi nhanh và dễ kiểm tra. Hướng dẫn rõ ràng, lược đồ đầu ra được xác định và một số ví dụ khắc phục phần lớn các vấn đề về định dạng và kiểu dáng. Các giới hạn của nó là độ dài ngữ cảnh, chi phí cho mỗi cuộc gọi khi lời nhắc kéo dài và sự không nhất quán trong các nhiệm vụ khó. RAG giải quyết kiến ​​thức. Tại thời điểm truy vấn, trình truy xuất sẽ tìm các đoạn có liên quan từ tài liệu của bạn và đặt chúng vào dấu nhắc, nhờ đó mô hình sẽ trả lời từ các nguồn hiện tại có thể trích dẫn. Nó phù hợp với các sự kiện có thể thay đổi, các sự kiện phải theo dõi được và các bộ sưu tập quá lớn để có thể đưa vào lời nhắc. Chất lượng của nó phụ thuộc rất nhiều vào việc truy xuất: nếu không tìm thấy đoạn phù hợp, mô hình không thể sử dụng nó. Tinh chỉnh đào tạo mô hình trên các ví dụ về đầu vào và đầu ra mong muốn. Nó rất mạnh trong việc khóa định dạng, giai điệu hoặc kỹ năng hẹp và có thể cho phép mô hình nhỏ hơn thay thế mô hình lớn hơn, cắt giảm độ trễ và chi phí. Một quan niệm sai lầm phổ biến là tinh chỉnh là một cách hay để bổ sung thông tin. Nó có thể thay đổi những gì một mô hình có xu hướng nói, nhưng đó là một cách không đáng tin cậy và khó cập nhật để lưu trữ kiến ​​thức, đồng thời có thể làm tăng sai sót về độ tin cậy về tài liệu mà mô hình chỉ nhìn thấy một vài lần. Các phương pháp kết hợp. Nhiều hệ thống sản xuất sử dụng mô hình tinh chỉnh có khả năng đọc ngữ cảnh được truy xuất tốt, được điều khiển bởi lời nhắc được thiết kế tốt. Thứ tự thực tế thường là: nhắc nhở, sau đó thêm truy xuất nếu thiếu kiến ​​thức, sau đó tinh chỉnh khi bạn có dữ liệu đánh giá cho thấy lỗ hổng dai dẳng.

Triển khai trong thế giới thực

Nhóm hỗ trợ muốn chatbot trả lời các câu hỏi về hướng dẫn sử dụng sản phẩm thay đổi hàng tháng; RAG phù hợp vì sự thật thay đổi và câu trả lời cần được trích dẫn ở phiên bản hiện tại.

Nhóm pháp lý cần mọi bản tóm tắt hợp đồng theo cùng một cấu trúc năm tiêu đề; một lời nhắc rõ ràng với hai ví dụ đã được sử dụng thường giải quyết được vấn đề này trước khi xem xét bất kỳ hoạt động đào tạo nào.

Một công ty xử lý hàng triệu yêu cầu phân loại ngắn mỗi ngày và nhận thấy rằng một mô hình tinh chỉnh nhỏ phù hợp với độ chính xác của mô hình được nhắc lớn với chi phí và độ trễ chỉ bằng một phần nhỏ.

Một bệnh viện cố gắng tinh chỉnh mô hình trên các tài liệu chính sách nội bộ để 'biết' chúng, nhận thấy bệnh viện vẫn phát minh ra các chi tiết và chuyển sang RAG để các câu trả lời trích dẫn văn bản chính sách thực tế.

Tương lai của Tinh chỉnh so với RAG và Nhắc nhở

Cửa sổ ngữ cảnh dài hơn và suy luận rẻ hơn đã giúp khả năng nhắc và truy xuất trở nên hiệu quả hơn, giúp giảm số trường hợp trong đó tinh chỉnh là lựa chọn duy nhất. Đồng thời, các dịch vụ tinh chỉnh được lưu trữ trên máy chủ đã trở nên dễ sử dụng hơn, bao gồm các biến thể dựa trên ưu tiên và tăng cường. Ranh giới giữa ba phương pháp tiếp cận này có thể sẽ tiếp tục mờ nhạt khi các hệ thống truy xuất, nhắc nhở và sử dụng các mô hình được điều chỉnh nhẹ nhàng cùng nhau. Kỹ năng lâu bền là khả năng chẩn đoán: xác định xem thất bại có phải do thiếu kiến ​​thức, hướng dẫn không rõ ràng hay do khoảng cách năng lực thực sự hay không, sau đó đo lường xem liệu một thay đổi có thực sự hữu ích hay không.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Tốc độ và tỷ lệ. Quy trình công việc ngôn ngữ có thể di chuyển nhanh hơn mà không làm mất tính nhất quán.
  • Truy cập và tiếp cận. Nó mở rộng quyền truy cập vào các ngôn ngữ và phong cách giao tiếp.
  • Quyết định rõ ràng hơn. Các nhóm có thể dành nhiều thời gian hơn để đánh giá trong khi quá trình tự động hóa xử lý sự lặp lại.

coi chừng

  • Sự thật ảo giác có thể lặng lẽ đi vào báo cáo, luồng hỗ trợ hoặc kết quả nghiên cứu.
  • Sự nhạy cảm kịp thời có thể tạo ra kết quả không nhất quán đối với các yêu cầu tương tự.
  • Dữ liệu văn bản nhạy cảm có thể bị lộ nếu khả năng kiểm soát quyền truy cập yếu.

Các bước tiếp theo

  1. Xác định định dạng đầu ra, âm thanh và tiêu chuẩn chất lượng trước khi triển khai.
  2. Phản hồi mặt đất với các nguồn đáng tin cậy bất cứ khi nào độ chính xác quan trọng.
  3. Duy trì điểm kiểm tra đánh giá của con người đối với các kết quả đầu ra có mức độ rủi ro cao.
  4. Theo dõi các kiểu lỗi và đào tạo lại các lời nhắc hoặc quy trình làm việc thường xuyên.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Làm bài kiểm tra Tinh chỉnh, RAG và Nhắc nhở

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Tinh chỉnh, RAG và Nhắc nhở là gì?

Nhắc thay đổi những gì bạn hỏi mô hình, tạo tăng cường truy xuất (RAG) thay đổi thông tin mà mô hình nhìn thấy tại thời điểm trả lời và tinh chỉnh sẽ thay đổi trọng số của mô hình để mô hình hoạt động khác theo mặc định. Sự lựa chọn đúng đắn phụ thuộc vào những gì thực sự còn thiếu: kiến ​​thức chỉ ra RAG, các điểm định dạng hoặc phong cách nhất quán để nhắc nhở đầu tiên và tinh chỉnh thứ hai, và một kỹ năng mới mà mô hình không thể thực hiện một cách đáng tin cậy chỉ ra việc tinh chỉnh. Chọn sai đòn bẩy sẽ gây lãng phí tiền bạc và thường khiến kết quả trở nên tồi tệ hơn.

Một mô hình trả lời không chính xác các câu hỏi về việc định giá của công ty bạn vì giá thay đổi hàng quý. Cách tiếp cận nào phù hợp nhất với khoảng cách này?

Đây là một lỗ hổng kiến ​​thức với sự thay đổi thực tế. RAG cung cấp thông tin hiện hành, có thể trích dẫn tại thời điểm truy vấn và việc cập nhật thông tin đó chỉ có nghĩa là cập nhật tài liệu.

Theo hướng dẫn, đòn bẩy đầu tiên cần thử đối với các vấn đề về định dạng và kiểu dáng thường là gì?

Lời nhắc không tốn kém, thay đổi nhanh chóng và dễ kiểm tra, đồng thời có hướng dẫn rõ ràng cùng với một số ví dụ khắc phục nhiều vấn đề về định dạng và kiểu dáng.

Tại sao tinh chỉnh được mô tả là một cách không đáng tin cậy để bổ sung kiến ​​thức thực tế?

Việc tinh chỉnh các xu hướng thay đổi thay vì lưu trữ dữ liệu một cách đáng tin cậy sẽ gây khó khăn khi cập nhật khi dữ liệu thay đổi và có thể khiến mô hình trở nên sai lầm một cách đáng tin cậy.

Tình huống nào rõ ràng nhất ủng hộ việc tinh chỉnh?

Tinh chỉnh có tác dụng mạnh mẽ trong việc khóa kỹ năng hoặc định dạng hẹp và cho phép mô hình nhỏ hơn thay thế mô hình lớn hơn nhằm cắt giảm chi phí và độ trễ.

Trong hệ thống RAG đưa ra câu trả lời sai, bạn nên kiểm tra điều gì trước khi đổ lỗi cho mô hình ngôn ngữ?

Nếu việc truy xuất không hiển thị đúng đoạn văn thì mô hình không thể sử dụng đoạn văn đó. Việc đo lường khả năng thu hồi truy xuất sẽ tách biệt vấn đề.