HƯỚNG DẪN AI về ngôn ngữ

Nhắc nhở về vai trò và tính cách

Nhắc nhở về vai trò hoặc cá nhân có nghĩa là yêu cầu mô hình ngôn ngữ xác định danh tính trước khi bạn giao cho nó một nhiệm vụ, chẳng hạn như "Bạn là nhân viên kế toán thuế cấp cao". Nó thay đổi giọng điệu, từ vựng và khung hình một cách đáng tin cậy.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của vai trò và sự nhắc nhở về nhân cách
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Bằng chứng cho thấy bản thân một nhân vật tự cải thiện độ chính xác thực tế là yếu, vì vậy nó hoạt động tốt nhất khi vai trò đó mang lại những kỳ vọng cụ thể về khán giả, tiêu chuẩn và kết quả đầu ra.

Lặn sâu

Lời nhắc vai trò hoạt động bằng cách điều hòa. Một mô hình ngôn ngữ dự đoán văn bản phù hợp với ngữ cảnh của nó và một danh tính đã nêu sẽ thay đổi loại văn bản nào có vẻ phù hợp. "Bạn là bác sĩ cấp cứu" làm cho từ vựng lâm sàng, thứ tự phân loại và phòng ngừa rủi ro thận trọng trở nên dễ xảy ra hơn. Đó là lý do tại sao các cá tính lại đáng tin cậy về phong cách. Đăng ký, trình độ đọc, thói quen định dạng và quan điểm đều thay đổi đáng chú ý. Độ chính xác là một câu hỏi riêng biệt. Một cá nhân không thể bổ sung kiến ​​thức mà mô hình không có. Zheng và các đồng nghiệp, trong một nghiên cứu được đăng lần đầu tiên vào năm 2023, đã thử nghiệm nhiều vai trò xã hội trong lời nhắc hệ thống dựa trên các tiêu chuẩn trả lời câu hỏi thực tế. Việc thêm một vai trò sẽ tạo ra những tác động nhỏ và không nhất quán, đồng thời thật khó để dự đoán trước vai trò nào sẽ hữu ích. Nghiên cứu khác về việc gợi ý đóng vai đã báo cáo những tiến bộ trong một số nhiệm vụ toán học và lý luận thông thường. Một bản tóm tắt công bằng là các nhân vật đôi khi có ích nhưng hiếm khi quyết định kết quả và không bao giờ thay thế ngữ cảnh. Personas mang lại hiệu quả cao nhất khi vai trò đó bao gồm một danh sách kiểm tra. "Trình soạn thảo sao chép theo phong cách AP" hàm ý các quy tắc cụ thể. "Người đánh giá bảo mật" ngụ ý tìm kiếm các lỗ hổng chèn, xác thực yếu và các bí mật bị lộ. Vai trò này là một cách ngắn gọn để gọi ra một bộ tiêu chuẩn và nó thậm chí còn hữu ích hơn khi bạn đánh vần các tiêu chuẩn đó. Ba quan niệm sai lầm thường gặp: - Những nhãn hiệu tâng bốc như “tốt nhất thế giới” nâng cao chất lượng. Có rất ít bằng chứng cho điều này. - Một cá nhân biến người mẫu thành người có thẩm quyền. Tính cách "bác sĩ" không phải là lời khuyên y tế. - Personas là vô hại. Giọng nói chuyên nghiệp đầy tự tin có thể khiến những câu trả lời sai trở nên thuyết phục hơn. Việc đóng khung vai trò cũng xuất hiện trong các nỗ lực bẻ khóa. Đó là lý do tại sao các nhà cung cấp đào tạo người mẫu để tuân thủ các quy tắc an toàn của họ cho dù họ được giao nhân vật nào. Quy tắc thực tế: sử dụng một vai trò để đặt ra đối tượng và tiêu chuẩn, sau đó cung cấp thông tin thực tế, các ràng buộc và định dạng đầu ra mà vai trò đó sẽ cần.

Triển khai trong thế giới thực

Nhóm hỗ trợ đặt lời nhắc hệ thống "Bạn là nhân viên bộ phận trợ giúp bệnh nhân cho những người dùng lần đầu sử dụng ứng dụng kế toán của chúng tôi". Các câu trả lời trở thành các bước ngắn gọn, không có biệt ngữ, nhưng chúng chỉ chính xác khi tài liệu sản phẩm cũng được nhắc nhở.

Một người viết yêu cầu người mẫu "đóng vai trò là người đánh giá ngang hàng đầy hoài nghi" về bản thảo. Điều này chắc chắn đưa ra những lập luận phản bác và bằng chứng yếu ớt cho thấy giọng điệu hữu ích mặc định của mô hình có xu hướng dịu đi.

Một giáo viên yêu cầu quang hợp giải thích "như một hướng dẫn viên bảo tàng nói chuyện với những đứa trẻ 10 tuổi" và sau đó "như một nhà sinh vật học thực vật giới thiệu cho các sinh viên tốt nghiệp." Những sự thật giống nhau xuất hiện ở hai mức độ chi tiết rất khác nhau.

Một nhà phát triển nhận thấy rằng "Bạn là chuyên gia Python đẳng cấp thế giới" không sửa được lỗi mà mô hình mắc phải. Việc thêm dấu vết lỗi, phiên bản Python và yêu cầu kiểm tra các trường hợp biên sẽ khắc phục được lỗi đó.

Tương lai của vai trò và sự nhắc nhở về nhân cách

Khi các mô hình trở nên tốt hơn trong việc tuân theo các hướng dẫn chi tiết, chức danh công việc đơn thuần có thể sẽ ngày càng ít quan trọng hơn so với bối cảnh, tiêu chí và ví dụ rõ ràng. Persona vẫn hữu ích trong thiết kế sản phẩm, nơi mà tiếng nói nhất quán đóng vai trò quan trọng. Chúng cũng giúp thực hiện các nhiệm vụ mô phỏng, chẳng hạn như thực hành các cuộc phỏng vấn xin việc hoặc tạo ra các góc nhìn đa dạng của người dùng để thử nghiệm. Các nhà nghiên cứu đang nghiên cứu xem các người mẫu giữ tính cách tốt như thế nào trong các cuộc trò chuyện dài và cách các cá nhân tương tác với việc huấn luyện an toàn. Hướng dẫn có khả năng tiếp tục coi các vai trò là một đòn bẩy trong số nhiều vai trò, được kiểm tra bằng các bộ kiểm tra thay vì được cho là có ích.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Tốc độ và tỷ lệ. Quy trình công việc ngôn ngữ có thể di chuyển nhanh hơn mà không làm mất tính nhất quán.
  • Truy cập và tiếp cận. Nó mở rộng quyền truy cập vào các ngôn ngữ và phong cách giao tiếp.
  • Quyết định rõ ràng hơn. Các nhóm có thể dành nhiều thời gian hơn để đánh giá trong khi quá trình tự động hóa xử lý sự lặp lại.

coi chừng

  • Sự thật ảo giác có thể lặng lẽ đi vào báo cáo, luồng hỗ trợ hoặc kết quả nghiên cứu.
  • Sự nhạy cảm kịp thời có thể tạo ra kết quả không nhất quán đối với các yêu cầu tương tự.
  • Dữ liệu văn bản nhạy cảm có thể bị lộ nếu khả năng kiểm soát quyền truy cập yếu.

Các bước tiếp theo

  1. Xác định định dạng đầu ra, âm thanh và tiêu chuẩn chất lượng trước khi triển khai.
  2. Phản hồi mặt đất với các nguồn đáng tin cậy bất cứ khi nào độ chính xác quan trọng.
  3. Duy trì điểm kiểm tra đánh giá của con người đối với các kết quả đầu ra có mức độ rủi ro cao.
  4. Theo dõi các kiểu lỗi và đào tạo lại các lời nhắc hoặc quy trình làm việc thường xuyên.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the Role and Persona Prompting quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Nhắc nhở về Vai trò và Tính cách là gì?

Nhắc nhở về vai trò hoặc cá nhân có nghĩa là yêu cầu mô hình ngôn ngữ xác định danh tính trước khi bạn giao cho nó một nhiệm vụ, chẳng hạn như "Bạn là nhân viên kế toán thuế cấp cao". Nó thay đổi giọng điệu, từ vựng và khung hình một cách đáng tin cậy. Bằng chứng cho thấy bản thân một nhân vật tự cải thiện độ chính xác thực tế là yếu, vì vậy nó hoạt động tốt nhất khi vai trò đó mang lại những kỳ vọng cụ thể về khán giả, tiêu chuẩn và kết quả đầu ra.

Điều gì được nhắc nhở về tính cách đáng tin cậy nhất trong kết quả đầu ra của mô hình?

Danh tính đã nêu sẽ thay đổi loại văn bản nào có vẻ phù hợp với ngữ cảnh. Điều đó luôn thay đổi phong cách, cách đăng ký và quan điểm, nhưng nó không thể bổ sung thêm kiến ​​thức mà mô hình còn thiếu.

Các nghiên cứu như nghiên cứu của Zheng và đồng nghiệp đã tìm ra điều gì khi vai trò được thêm vào các gợi ý hệ thống để trả lời câu hỏi thực tế?

Việc thêm một vai trò sẽ tạo ra những tác động nhỏ và không nhất quán, và thật khó để biết trước vai trò nào sẽ hữu ích. Đó là lý do tại sao các cá tính đôi khi được mô tả là hữu ích nhưng hiếm khi mang tính quyết định.

Tại sao một nhân vật như “người đánh giá bảo mật” lại có xu hướng hữu ích hơn “trợ lý giỏi nhất thế giới”?

Các vai trò mang lại hiệu quả cao nhất khi chúng bao hàm những tiêu chuẩn cụ thể. Người đánh giá bảo mật ngụ ý việc kiểm tra các lỗi chèn, xác thực yếu và các bí mật bị lộ. Một nhãn hiệu tâng bốc ngụ ý không có gì cụ thể.

Tài liệu của Anthropic khuyên bạn nên đặt vai trò của mô hình ở đâu?

Một vai trò trong lời nhắc hệ thống vẫn tồn tại qua các lượt và được coi là hướng dẫn của người vận hành. Vai trò được giao một lần trong tin nhắn của người dùng có thể mờ dần sau một cuộc trò chuyện dài.

Điều nào trong số này được mô tả là quan niệm sai lầm về việc nhắc nhở cá nhân?

Có rất ít bằng chứng cho thấy nhãn bậc nhất cải thiện chất lượng. Các câu khác phù hợp với lời khuyên của người hướng dẫn.