Tiếp theoHướng dẫn tiếp theo
Các biện pháp đánh giá đạo đức cho nghiên cứu AI của Trung Quốc
xã hội
HƯỚNG DẪN xã hội
Các biện pháp tạm thời của Trung Quốc để quản lý các dịch vụ trí tuệ nhân tạo sáng tạo, có hiệu lực kể từ ngày 15 tháng 8 năm 2023, đặt ra các quy tắc cho chatbot, trình tạo hình ảnh và các AI sáng tạo khác được cung cấp cho công chúng ở Trung Quốc đại lục.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Chúng bao gồm các tiêu chuẩn nội dung, dữ liệu đào tạo, ghi nhãn và bảo vệ người dùng, đồng thời yêu cầu các nhà cung cấp có ảnh hưởng đến dư luận phải hoàn thành các đánh giá bảo mật và lập hồ sơ thuật toán. Chúng quan trọng vì chúng đã biến Trung Quốc trở thành một trong những nền kinh tế lớn đầu tiên có các quy tắc ràng buộc được viết riêng cho AI có tính sáng tạo.
Cơ quan Quản lý Không gian mạng Trung Quốc (CAC) đã ban hành Biện pháp tạm thời vào tháng 7 năm 2023 cùng với sáu cơ quan khác, bao gồm Ủy ban Cải cách và Phát triển Quốc gia, Bộ Giáo dục, Bộ Khoa học và Công nghệ, Bộ Công nghiệp và Công nghệ Thông tin và Bộ Công an. Chúng áp dụng cho các dịch vụ AI tổng quát được cung cấp cho công chúng ở Trung Quốc đại lục. Nghiên cứu và phát triển không được cung cấp cho công chúng phần lớn sẽ bị loại trừ. Các quy tắc nội dung yêu cầu các nhà cung cấp phải duy trì “các giá trị xã hội chủ nghĩa cốt lõi” và không tạo ra nội dung làm suy yếu quyền lực nhà nước, đoàn kết dân tộc hoặc ổn định xã hội hoặc truyền bá thông tin sai lệch hoặc có hại. Các nhà cung cấp cũng phải thực hiện các bước chống phân biệt đối xử, bảo vệ tài sản trí tuệ và bí mật thương mại, đồng thời tôn trọng các quyền cá nhân như quyền riêng tư và danh tiếng. Về dữ liệu đào tạo, nhà cung cấp phải sử dụng các nguồn hợp pháp, tránh vi phạm quyền sở hữu trí tuệ, có cơ sở pháp lý như sự đồng ý về thông tin cá nhân và nâng cao chất lượng, tính trung thực, chính xác, khách quan và đa dạng của dữ liệu của họ. Ghi nhãn dữ liệu con người phải tuân theo các quy tắc rõ ràng và được kiểm tra chất lượng. Các biện pháp kết nối với các quy định trước đó. Các dịch vụ có "thuộc tính dư luận hoặc khả năng huy động xã hội" phải trải qua đánh giá bảo mật và gửi thuật toán theo quy tắc đề xuất thuật toán năm 2022, đồng thời nội dung được tạo ra phải được gắn nhãn theo quy tắc tổng hợp sâu. CAC duy trì hệ thống lưu trữ và công bố danh sách các dịch vụ được lưu trữ. Dự thảo tháng 4 năm 2023 chặt chẽ hơn. Nó yêu cầu nội dung được tạo ra phải chân thực và chính xác, điều này gần như không thể xảy ra đối với các mô hình ngôn ngữ có thể gây ảo giác. Văn bản cuối cùng đã làm dịu điều này thành nghĩa vụ thực hiện các biện pháp hiệu quả để cải thiện độ chính xác và độ tin cậy, đồng thời bổ sung thêm ngôn ngữ hỗ trợ sự đổi mới. Các biện pháp không cấm tất cả AI nước ngoài. Thay vào đó, họ để CAC thực hiện các biện pháp kỹ thuật đối với các dịch vụ từ bên ngoài Trung Quốc vi phạm quy tắc.
Trước khi một công ty Trung Quốc có thể mở chatbot của mình ra công chúng, công ty này thường hoàn thành đánh giá bảo mật và nộp thuật toán của mình cho Cơ quan quản lý không gian mạng Trung Quốc. Chỉ sau khi hồ sơ được chấp nhận thì nó mới được tung ra rộng rãi.
Nhà cung cấp xây dựng kho dữ liệu đào tạo phải sàng lọc nội dung bất hợp pháp, sử dụng dữ liệu có nguồn gốc hợp pháp, tôn trọng quyền sở hữu trí tuệ và nhận được sự đồng ý hoặc cơ sở pháp lý khác trước khi sử dụng thông tin cá nhân.
Ứng dụng AI dành cho người tiêu dùng phải thiết lập các kênh khiếu nại và báo cáo, gắn nhãn hình ảnh và video do AI tạo ra theo các quy tắc tổng hợp sâu sắc của Trung Quốc và thực hiện các bước để giúp trẻ vị thành niên không trở nên phụ thuộc quá mức vào dịch vụ.
Một công ty chỉ sử dụng mô hình lớn cho mục đích nghiên cứu nội bộ mà không cung cấp cho công chúng ở Trung Quốc thường nằm ngoài các nghĩa vụ chính của các biện pháp.
Các biện pháp được dán nhãn tạm thời. Một luật AI toàn diện đã xuất hiện trong kế hoạch công tác lập pháp của Hội đồng Nhà nước, nhưng chưa có luật nào được thông qua. Trong khi đó, Trung Quốc tiếp tục bổ sung các quy định có mục tiêu, chẳng hạn như yêu cầu ghi nhãn bắt buộc và các tiêu chuẩn quốc gia mới, do đó hệ thống tổng thể phát triển theo từng lớp. Mức độ áp dụng nghiêm ngặt các quy tắc nội dung có thể thay đổi theo các ưu tiên chính trị và các chiến dịch thực thi CAC. Đối với các công ty toàn cầu, một câu hỏi mở quan trọng là cách tiếp cận dựa trên hồ sơ của Trung Quốc sẽ tương tác với các quy tắc AI của các quốc gia khác như thế nào, đặc biệt là khi dữ liệu đào tạo và mô hình truy cập xuyên biên giới.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Các biện pháp tạm thời của Trung Quốc để quản lý các dịch vụ trí tuệ nhân tạo sáng tạo, có hiệu lực kể từ ngày 15 tháng 8 năm 2023, đặt ra các quy tắc cho chatbot, trình tạo hình ảnh và các AI sáng tạo khác được cung cấp cho công chúng ở Trung Quốc đại lục. Chúng bao gồm các tiêu chuẩn nội dung, dữ liệu đào tạo, ghi nhãn và bảo vệ người dùng, đồng thời yêu cầu các nhà cung cấp có ảnh hưởng đến dư luận phải hoàn thành các đánh giá bảo mật và lập hồ sơ thuật toán. Chúng quan trọng vì chúng đã biến Trung Quốc trở thành một trong những nền kinh tế lớn đầu tiên có các quy tắc ràng buộc được viết riêng cho AI có tính sáng tạo.
CAC và sáu cơ quan khác đã ban hành các biện pháp này vào tháng 7 năm 2023 và chúng có hiệu lực vào ngày 15 tháng 8 năm 2023.
Các biện pháp này áp dụng cho các dịch vụ AI tổng hợp được cung cấp cho công chúng ở Trung Quốc đại lục. Nghiên cứu và phát triển không được cung cấp cho công chúng phần lớn sẽ bị loại trừ.
Các biện pháp này yêu cầu các dịch vụ có thuộc tính dư luận hoặc khả năng huy động xã hội để hoàn thành các đánh giá bảo mật và lập hồ sơ thuật toán theo các quy tắc đề xuất thuật toán trước đó.
Cơ quan Quản lý Không gian mạng Trung Quốc đã ban hành các biện pháp này cùng với các cơ quan khác, vận hành hệ thống lưu trữ và chỉ đạo thực thi.
Dự thảo yêu cầu nội dung được tạo ra phải chân thực và chính xác, điều này không thực tế đối với những người mẫu có thể gây ảo giác. Văn bản cuối cùng đã thay đổi điều này thành nghĩa vụ thực hiện các biện pháp hiệu quả để cải thiện độ chính xác và độ tin cậy.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Các biện pháp đánh giá đạo đức cho nghiên cứu AI của Trung Quốc
xã hội