Tiếp theoHướng dẫn tiếp theo
Giải thích về lời nhắc hệ thống
Ngôn ngữ AI
HƯỚNG DẪN AI về ngôn ngữ
Chuỗi nhanh chóng
Chuỗi lời nhắc chia nhiệm vụ thành một chuỗi cố định gồm các lời nhắc nhỏ hơn, trong đó đầu ra của mỗi bước sẽ trở thành đầu vào của bước tiếp theo: ví dụ: trích xuất, sau đó phân tích, rồi soạn thảo.
Trên trang nàyđọc 4 phút
Tổng quan
Điều này làm cho LLM hoạt động đáng tin cậy hơn và dễ gỡ lỗi hơn một dấu nhắc khổng lồ. Nó cũng dễ dự đoán hơn một tác nhân tự trị vì nhà phát triển quyết định các bước chứ không phải mô hình.
Lặn sâu
Một dấu nhắc lớn duy nhất yêu cầu mô hình thực hiện mọi thứ cùng một lúc: đọc nguồn, trích xuất dữ kiện, lý do về chúng, tuân theo các quy tắc về văn phong và định dạng câu trả lời. Mỗi nhu cầu thêm cạnh tranh để được chú ý. Khi đầu ra sai, bạn không thể biết phần nào bị lỗi. Chuỗi nhắc nhở chia công việc thành các giai đoạn và mỗi giai đoạn có một công việc rõ ràng. Một chuỗi thông thường có ba bước: 1. Trích xuất các trích dẫn liên quan từ một tài liệu. 2. Trả lời câu hỏi chỉ sử dụng những trích dẫn đó. 3. Kiểm tra câu trả lời dựa trên các trích dẫn và viết lại cho khán giả. Mã thông thường có thể kiểm tra kết quả đầu ra giữa các bước. Nó có thể phân tích cú pháp JSON, xác nhận rằng trường bắt buộc tồn tại hoặc dừng chuỗi nếu trình phân loại trả về độ tin cậy thấp. Bài tiểu luận "Xây dựng đại lý hiệu quả" của Anthropic tháng 12 năm 2024 gọi những bước kiểm tra này là "cổng". Nó mô tả chuỗi nhắc nhở như một quy trình công việc đánh đổi độ trễ cao hơn để có độ chính xác cao hơn vì mỗi cuộc gọi trở thành một nhiệm vụ dễ dàng hơn. Chuỗi và tác nhân khác nhau ở chỗ ai kiểm soát con đường. Trong một chuỗi, nhà phát triển mã hóa trình tự đó. Trong một tác nhân, mô hình sẽ quyết định trong thời gian chạy công cụ nào sẽ được gọi tiếp theo và khi nào nó được thực hiện. Việc kiểm tra chuỗi rẻ hơn, dễ giải thích hơn và thất bại ở những nơi có thể đoán trước được. Tác nhân phù hợp với các bài toán mở trong đó các bước không thể biết trước. Nhiều hệ thống sản xuất mang tính dây chuyền chứ không phải tác nhân, đôi khi có các nhánh (định tuyến) hoặc các bước chạy song song. Ba quan niệm sai lầm thường gặp: - Xâu chuỗi luôn tốn nhiều chi phí hơn. Trên thực tế, những lời nhắc tập trung nhỏ có thể sử dụng các mô hình rẻ hơn cho các bước đơn giản. - Nhiều bước luôn tốt hơn. Mỗi lần chuyển giao có thể làm mất thông tin hoặc mắc các lỗi phức tạp. - Xích cần có khuôn khổ. Các thư viện như LangChain cung cấp các trình trợ giúp, nhưng chuỗi chỉ là một vài lệnh gọi hàm truyền chuỗi hoặc JSON.
Tác động chiến lược
Tốc độ và tỷ lệ
Quy trình công việc ngôn ngữ có thể di chuyển nhanh hơn mà không làm mất tính nhất quán.
Truy cập và tiếp cận
Nó mở rộng quyền truy cập vào các ngôn ngữ và phong cách giao tiếp.
Quyết định rõ ràng hơn
Các nhóm có thể dành nhiều thời gian hơn để đánh giá trong khi quá trình tự động hóa xử lý sự lặp lại.
Tương lai của chuỗi nhanh chóng
Các khung ngày càng thể hiện các chuỗi dưới dạng biểu đồ rõ ràng của các bước. Điều đó giúp việc thêm các nhánh, số lần thử lại và các điểm mà một người đánh giá kết quả trở nên dễ dàng hơn. Khi các mô hình xử lý các ngữ cảnh dài hơn và tuân theo các hướng dẫn phức tạp tốt hơn, một số chuỗi tồn tại chỉ để giải quyết các giới hạn của mô hình có thể hợp nhất lại thành các lệnh gọi đơn lẻ. Những người khác sẽ ở lại vì họ cung cấp các điểm kiểm tra, kiểm tra tuân thủ và kiểm soát chi phí mà một cuộc gọi không thể thực hiện được. Lĩnh vực này đang giải quyết trên nền tảng trung gian thực tế: sử dụng các chuỗi cố định trong đó các bước đã được biết rõ và dành quyền tự chủ của đại lý cho các nhiệm vụ thực sự cần đến nó.
Triển khai trong thế giới thực
Nhóm pháp lý xử lý hợp đồng trong ba cuộc gọi. Mệnh đề đầu tiên trích xuất các mệnh đề thành JSON, mệnh đề gắn cờ thứ hai khác với mẫu tiêu chuẩn và mệnh đề thứ ba viết một bản tóm tắt bằng tiếng Anh đơn giản chỉ về các mục được gắn cờ.
Quy trình tiếp thị trước tiên sẽ tạo ra một bản phác thảo blog. Quá trình kiểm tra mã sẽ xác nhận dàn ý bao gồm các từ khóa bắt buộc và sau đó mỗi phần được viết bằng một lệnh gọi riêng để các bài viết dài vẫn mạch lạc.
Công cụ hỗ trợ trước tiên sẽ phân loại email đến dưới dạng thanh toán, lỗi hoặc hủy. Sau đó, nó sẽ gửi email đến lời nhắc dành riêng cho từng danh mục có kèm theo văn bản chính sách phù hợp, đó là một chuỗi có một nhánh.
Một nhà nghiên cứu tóm tắt lần lượt 20 bài báo, sau đó chuyển 20 bản tóm tắt đó đến gợi ý cuối cùng để so sánh các phương pháp của chúng. Điều này giúp bất kỳ cuộc gọi nào không bị quá tải về ngữ cảnh.
Rủi ro & lan can
Sự thật ảo giác có thể lặng lẽ đi vào báo cáo, luồng hỗ trợ hoặc kết quả nghiên cứu.
Sự nhạy cảm kịp thời có thể tạo ra kết quả không nhất quán đối với các yêu cầu tương tự.
Dữ liệu văn bản nhạy cảm có thể bị lộ nếu khả năng kiểm soát quyền truy cập yếu.
Lộ trình thực hiện
Xác định định dạng đầu ra, âm thanh và tiêu chuẩn chất lượng trước khi triển khai.
Phản hồi mặt đất với các nguồn đáng tin cậy bất cứ khi nào độ chính xác quan trọng.
Duy trì điểm kiểm tra đánh giá của con người đối với các kết quả đầu ra có mức độ rủi ro cao.
Theo dõi các kiểu lỗi và đào tạo lại các lời nhắc hoặc quy trình làm việc thường xuyên.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Prompt Chaining quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Câu hỏi thường gặp
Chuỗi nhắc nhở là gì?
Chuỗi lời nhắc chia nhiệm vụ thành một chuỗi cố định gồm các lời nhắc nhỏ hơn, trong đó đầu ra của mỗi bước sẽ trở thành đầu vào của bước tiếp theo: ví dụ: trích xuất, sau đó phân tích, rồi soạn thảo. Điều này làm cho LLM hoạt động đáng tin cậy hơn và dễ gỡ lỗi hơn một dấu nhắc khổng lồ. Nó cũng dễ dự đoán hơn một tác nhân tự trị vì nhà phát triển quyết định các bước chứ không phải mô hình.
Tính năng xác định của chuỗi nhắc nhở là gì?
Chuỗi chia nhiệm vụ thành các giai đoạn theo thứ tự và mỗi giai đoạn chuyển đầu ra của nó về phía trước làm đầu vào của giai đoạn tiếp theo.
Chuỗi nhắc nhở khác với tác nhân tự trị như thế nào?
Ai kiểm soát con đường là sự khác biệt chính. Một chuỗi tuân theo trình tự mà nhà phát triển đã viết. Một tác nhân chọn hành động của nó trong khi nó chạy.
Trong bài luận “Xây dựng đại lý hiệu quả” của Anthropic, “cổng” trong chuỗi nhắc nhở là gì?
Cổng là các bước kiểm tra bằng mã thông thường, chẳng hạn như xác thực JSON hoặc điểm tin cậy, để quyết định xem chuỗi có tiếp tục hay không.
Chuỗi nhắc nhở thường mang lại sự đánh đổi gì?
Mỗi cuộc gọi trở thành một nhiệm vụ dễ dàng hơn, giúp cải thiện độ chính xác nhưng việc chạy nhiều cuộc gọi theo trình tự sẽ mất nhiều thời gian hơn.
Nếu mỗi bước trong số bốn bước trong chuỗi có độ tin cậy 95% và các thất bại là độc lập thì toàn bộ chuỗi có độ tin cậy đại khái là bao nhiêu?
0,95 nhân với chính nó bốn lần là khoảng 0,81. Đó là lý do tại sao lỗi phức tạp và cổng lại quan trọng.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này