Tiếp theoHướng dẫn tiếp theo
Tiếp tục đào tạo trước và tinh chỉnh
kỹ thuật
HƯỚNG DẪN AI về ngôn ngữ
Nhắc thay đổi những gì bạn hỏi mô hình, tạo tăng cường truy xuất (RAG) thay đổi thông tin mà mô hình nhìn thấy tại thời điểm trả lời và tinh chỉnh sẽ thay đổi trọng số của mô hình để mô hình hoạt động khác theo mặc định.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Sự lựa chọn đúng đắn phụ thuộc vào những gì thực sự còn thiếu: kiến thức chỉ ra RAG, các điểm định dạng hoặc phong cách nhất quán để nhắc nhở đầu tiên và tinh chỉnh thứ hai, và một kỹ năng mới mà mô hình không thể thực hiện một cách đáng tin cậy chỉ ra việc tinh chỉnh. Chọn sai đòn bẩy sẽ gây lãng phí tiền bạc và thường khiến kết quả trở nên tồi tệ hơn.
Một cách hữu ích để quyết định là đặt tên cho khoảng trống trước khi đặt tên cho giải pháp. Có bốn lỗ hổng phổ biến: kiến thức (mô hình không biết thông tin thực tế của bạn), hình thức (mô hình biết nhưng trả lời sai hình thức), phong cách hoặc giọng điệu (trả lời đúng nhưng nghe có vẻ không đúng) và kỹ năng (mô hình không thể thực hiện nhiệm vụ một cách đáng tin cậy, chẳng hạn như trích xuất chuyên biệt hoặc phán đoán theo miền cụ thể). Nhắc nhở là đòn bẩy đầu tiên cho hầu hết mọi khoảng trống vì nó rẻ, thay đổi nhanh và dễ kiểm tra. Hướng dẫn rõ ràng, lược đồ đầu ra được xác định và một số ví dụ khắc phục phần lớn các vấn đề về định dạng và kiểu dáng. Các giới hạn của nó là độ dài ngữ cảnh, chi phí cho mỗi cuộc gọi khi lời nhắc kéo dài và sự không nhất quán trong các nhiệm vụ khó. RAG giải quyết kiến thức. Tại thời điểm truy vấn, trình truy xuất sẽ tìm các đoạn có liên quan từ tài liệu của bạn và đặt chúng vào dấu nhắc, nhờ đó mô hình sẽ trả lời từ các nguồn hiện tại có thể trích dẫn. Nó phù hợp với các sự kiện có thể thay đổi, các sự kiện phải theo dõi được và các bộ sưu tập quá lớn để có thể đưa vào lời nhắc. Chất lượng của nó phụ thuộc rất nhiều vào việc truy xuất: nếu không tìm thấy đoạn phù hợp, mô hình không thể sử dụng nó. Tinh chỉnh đào tạo mô hình trên các ví dụ về đầu vào và đầu ra mong muốn. Nó rất mạnh trong việc khóa định dạng, giai điệu hoặc kỹ năng hẹp và có thể cho phép mô hình nhỏ hơn thay thế mô hình lớn hơn, cắt giảm độ trễ và chi phí. Một quan niệm sai lầm phổ biến là tinh chỉnh là một cách hay để bổ sung thông tin. Nó có thể thay đổi những gì một mô hình có xu hướng nói, nhưng đó là một cách không đáng tin cậy và khó cập nhật để lưu trữ kiến thức, đồng thời có thể làm tăng sai sót về độ tin cậy về tài liệu mà mô hình chỉ nhìn thấy một vài lần. Các phương pháp kết hợp. Nhiều hệ thống sản xuất sử dụng mô hình tinh chỉnh có khả năng đọc ngữ cảnh được truy xuất tốt, được điều khiển bởi lời nhắc được thiết kế tốt. Thứ tự thực tế thường là: nhắc nhở, sau đó thêm truy xuất nếu thiếu kiến thức, sau đó tinh chỉnh khi bạn có dữ liệu đánh giá cho thấy lỗ hổng dai dẳng.
Nhóm hỗ trợ muốn chatbot trả lời các câu hỏi về hướng dẫn sử dụng sản phẩm thay đổi hàng tháng; RAG phù hợp vì sự thật thay đổi và câu trả lời cần được trích dẫn ở phiên bản hiện tại.
Nhóm pháp lý cần mọi bản tóm tắt hợp đồng theo cùng một cấu trúc năm tiêu đề; một lời nhắc rõ ràng với hai ví dụ đã được sử dụng thường giải quyết được vấn đề này trước khi xem xét bất kỳ hoạt động đào tạo nào.
Một công ty xử lý hàng triệu yêu cầu phân loại ngắn mỗi ngày và nhận thấy rằng một mô hình tinh chỉnh nhỏ phù hợp với độ chính xác của mô hình được nhắc lớn với chi phí và độ trễ chỉ bằng một phần nhỏ.
Một bệnh viện cố gắng tinh chỉnh mô hình trên các tài liệu chính sách nội bộ để 'biết' chúng, nhận thấy bệnh viện vẫn phát minh ra các chi tiết và chuyển sang RAG để các câu trả lời trích dẫn văn bản chính sách thực tế.
Cửa sổ ngữ cảnh dài hơn và suy luận rẻ hơn đã giúp khả năng nhắc và truy xuất trở nên hiệu quả hơn, giúp giảm số trường hợp trong đó tinh chỉnh là lựa chọn duy nhất. Đồng thời, các dịch vụ tinh chỉnh được lưu trữ trên máy chủ đã trở nên dễ sử dụng hơn, bao gồm các biến thể dựa trên ưu tiên và tăng cường. Ranh giới giữa ba phương pháp tiếp cận này có thể sẽ tiếp tục mờ nhạt khi các hệ thống truy xuất, nhắc nhở và sử dụng các mô hình được điều chỉnh nhẹ nhàng cùng nhau. Kỹ năng lâu bền là khả năng chẩn đoán: xác định xem thất bại có phải do thiếu kiến thức, hướng dẫn không rõ ràng hay do khoảng cách năng lực thực sự hay không, sau đó đo lường xem liệu một thay đổi có thực sự hữu ích hay không.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Nhắc thay đổi những gì bạn hỏi mô hình, tạo tăng cường truy xuất (RAG) thay đổi thông tin mà mô hình nhìn thấy tại thời điểm trả lời và tinh chỉnh sẽ thay đổi trọng số của mô hình để mô hình hoạt động khác theo mặc định. Sự lựa chọn đúng đắn phụ thuộc vào những gì thực sự còn thiếu: kiến thức chỉ ra RAG, các điểm định dạng hoặc phong cách nhất quán để nhắc nhở đầu tiên và tinh chỉnh thứ hai, và một kỹ năng mới mà mô hình không thể thực hiện một cách đáng tin cậy chỉ ra việc tinh chỉnh. Chọn sai đòn bẩy sẽ gây lãng phí tiền bạc và thường khiến kết quả trở nên tồi tệ hơn.
Đây là một lỗ hổng kiến thức với sự thay đổi thực tế. RAG cung cấp thông tin hiện hành, có thể trích dẫn tại thời điểm truy vấn và việc cập nhật thông tin đó chỉ có nghĩa là cập nhật tài liệu.
Lời nhắc không tốn kém, thay đổi nhanh chóng và dễ kiểm tra, đồng thời có hướng dẫn rõ ràng cùng với một số ví dụ khắc phục nhiều vấn đề về định dạng và kiểu dáng.
Việc tinh chỉnh các xu hướng thay đổi thay vì lưu trữ dữ liệu một cách đáng tin cậy sẽ gây khó khăn khi cập nhật khi dữ liệu thay đổi và có thể khiến mô hình trở nên sai lầm một cách đáng tin cậy.
Tinh chỉnh có tác dụng mạnh mẽ trong việc khóa kỹ năng hoặc định dạng hẹp và cho phép mô hình nhỏ hơn thay thế mô hình lớn hơn nhằm cắt giảm chi phí và độ trễ.
Nếu việc truy xuất không hiển thị đúng đoạn văn thì mô hình không thể sử dụng đoạn văn đó. Việc đo lường khả năng thu hồi truy xuất sẽ tách biệt vấn đề.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Tiếp tục đào tạo trước và tinh chỉnh
kỹ thuật