Tiếp theoHướng dẫn tiếp theo
Giải thích về lời nhắc hệ thống
Ngôn ngữ AI
HƯỚNG DẪN AI về ngôn ngữ
Chuỗi lời nhắc chia nhiệm vụ thành một chuỗi cố định gồm các lời nhắc nhỏ hơn, trong đó đầu ra của mỗi bước sẽ trở thành đầu vào của bước tiếp theo: ví dụ: trích xuất, sau đó phân tích, rồi soạn thảo.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Điều này làm cho LLM hoạt động đáng tin cậy hơn và dễ gỡ lỗi hơn một dấu nhắc khổng lồ. Nó cũng dễ dự đoán hơn một tác nhân tự trị vì nhà phát triển quyết định các bước chứ không phải mô hình.
Một dấu nhắc lớn duy nhất yêu cầu mô hình thực hiện mọi thứ cùng một lúc: đọc nguồn, trích xuất dữ kiện, lý do về chúng, tuân theo các quy tắc về văn phong và định dạng câu trả lời. Mỗi nhu cầu thêm cạnh tranh để được chú ý. Khi đầu ra sai, bạn không thể biết phần nào bị lỗi. Chuỗi nhắc nhở chia công việc thành các giai đoạn và mỗi giai đoạn có một công việc rõ ràng. Một chuỗi thông thường có ba bước: 1. Trích xuất các trích dẫn liên quan từ một tài liệu. 2. Trả lời câu hỏi chỉ sử dụng những trích dẫn đó. 3. Kiểm tra câu trả lời dựa trên các trích dẫn và viết lại cho khán giả. Mã thông thường có thể kiểm tra kết quả đầu ra giữa các bước. Nó có thể phân tích cú pháp JSON, xác nhận rằng trường bắt buộc tồn tại hoặc dừng chuỗi nếu trình phân loại trả về độ tin cậy thấp. Bài tiểu luận "Xây dựng đại lý hiệu quả" của Anthropic tháng 12 năm 2024 gọi những bước kiểm tra này là "cổng". Nó mô tả chuỗi nhắc nhở như một quy trình công việc đánh đổi độ trễ cao hơn để có độ chính xác cao hơn vì mỗi cuộc gọi trở thành một nhiệm vụ dễ dàng hơn. Chuỗi và tác nhân khác nhau ở chỗ ai kiểm soát con đường. Trong một chuỗi, nhà phát triển mã hóa trình tự đó. Trong một tác nhân, mô hình sẽ quyết định trong thời gian chạy công cụ nào sẽ được gọi tiếp theo và khi nào nó được thực hiện. Việc kiểm tra chuỗi rẻ hơn, dễ giải thích hơn và thất bại ở những nơi có thể đoán trước được. Tác nhân phù hợp với các bài toán mở trong đó các bước không thể biết trước. Nhiều hệ thống sản xuất mang tính dây chuyền chứ không phải tác nhân, đôi khi có các nhánh (định tuyến) hoặc các bước chạy song song. Ba quan niệm sai lầm thường gặp: - Xâu chuỗi luôn tốn nhiều chi phí hơn. Trên thực tế, những lời nhắc tập trung nhỏ có thể sử dụng các mô hình rẻ hơn cho các bước đơn giản. - Nhiều bước luôn tốt hơn. Mỗi lần chuyển giao có thể làm mất thông tin hoặc mắc các lỗi phức tạp. - Xích cần có khuôn khổ. Các thư viện như LangChain cung cấp các trình trợ giúp, nhưng chuỗi chỉ là một vài lệnh gọi hàm truyền chuỗi hoặc JSON.
Nhóm pháp lý xử lý hợp đồng trong ba cuộc gọi. Mệnh đề đầu tiên trích xuất các mệnh đề thành JSON, mệnh đề gắn cờ thứ hai khác với mẫu tiêu chuẩn và mệnh đề thứ ba viết một bản tóm tắt bằng tiếng Anh đơn giản chỉ về các mục được gắn cờ.
Quy trình tiếp thị trước tiên sẽ tạo ra một bản phác thảo blog. Quá trình kiểm tra mã sẽ xác nhận dàn ý bao gồm các từ khóa bắt buộc và sau đó mỗi phần được viết bằng một lệnh gọi riêng để các bài viết dài vẫn mạch lạc.
Công cụ hỗ trợ trước tiên sẽ phân loại email đến dưới dạng thanh toán, lỗi hoặc hủy. Sau đó, nó sẽ gửi email đến lời nhắc dành riêng cho từng danh mục có kèm theo văn bản chính sách phù hợp, đó là một chuỗi có một nhánh.
Một nhà nghiên cứu tóm tắt lần lượt 20 bài báo, sau đó chuyển 20 bản tóm tắt đó đến gợi ý cuối cùng để so sánh các phương pháp của chúng. Điều này giúp bất kỳ cuộc gọi nào không bị quá tải về ngữ cảnh.
Các khung ngày càng thể hiện các chuỗi dưới dạng biểu đồ rõ ràng của các bước. Điều đó giúp việc thêm các nhánh, số lần thử lại và các điểm mà một người đánh giá kết quả trở nên dễ dàng hơn. Khi các mô hình xử lý các ngữ cảnh dài hơn và tuân theo các hướng dẫn phức tạp tốt hơn, một số chuỗi tồn tại chỉ để giải quyết các giới hạn của mô hình có thể hợp nhất lại thành các lệnh gọi đơn lẻ. Những người khác sẽ ở lại vì họ cung cấp các điểm kiểm tra, kiểm tra tuân thủ và kiểm soát chi phí mà một cuộc gọi không thể thực hiện được. Lĩnh vực này đang giải quyết trên nền tảng trung gian thực tế: sử dụng các chuỗi cố định trong đó các bước đã được biết rõ và dành quyền tự chủ của đại lý cho các nhiệm vụ thực sự cần đến nó.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Chuỗi lời nhắc chia nhiệm vụ thành một chuỗi cố định gồm các lời nhắc nhỏ hơn, trong đó đầu ra của mỗi bước sẽ trở thành đầu vào của bước tiếp theo: ví dụ: trích xuất, sau đó phân tích, rồi soạn thảo. Điều này làm cho LLM hoạt động đáng tin cậy hơn và dễ gỡ lỗi hơn một dấu nhắc khổng lồ. Nó cũng dễ dự đoán hơn một tác nhân tự trị vì nhà phát triển quyết định các bước chứ không phải mô hình.
Chuỗi chia nhiệm vụ thành các giai đoạn theo thứ tự và mỗi giai đoạn chuyển đầu ra của nó về phía trước làm đầu vào của giai đoạn tiếp theo.
Ai kiểm soát con đường là sự khác biệt chính. Một chuỗi tuân theo trình tự mà nhà phát triển đã viết. Một tác nhân chọn hành động của nó trong khi nó chạy.
Cổng là các bước kiểm tra bằng mã thông thường, chẳng hạn như xác thực JSON hoặc điểm tin cậy, để quyết định xem chuỗi có tiếp tục hay không.
Mỗi cuộc gọi trở thành một nhiệm vụ dễ dàng hơn, giúp cải thiện độ chính xác nhưng việc chạy nhiều cuộc gọi theo trình tự sẽ mất nhiều thời gian hơn.
0,95 nhân với chính nó bốn lần là khoảng 0,81. Đó là lý do tại sao lỗi phức tạp và cổng lại quan trọng.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Giải thích về lời nhắc hệ thống
Ngôn ngữ AI