Tiếp theoHướng dẫn tiếp theo
Khung quản trị an toàn AI TC260 của Trung Quốc
xã hội
HƯỚNG DẪN xã hội
Khung an toàn AI tiên phong, chẳng hạn như chính sách mở rộng có trách nhiệm, là một cam kết được công bố của phòng thí nghiệm AI nhằm kiểm tra các mô hình của mình về các khả năng nguy hiểm.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Nếu một mô hình vượt qua ngưỡng đã đặt, phòng thí nghiệm cam kết bổ sung các biện pháp bảo vệ mạnh mẽ hơn hoặc không triển khai hay đào tạo thêm cho đến khi các biện pháp bảo vệ đó được áp dụng. Những khuôn khổ này quan trọng vì chúng hiện là cách chính mà các mô hình AI tiên tiến nhất quản lý đối với rủi ro thảm khốc, mặc dù hầu hết chúng đều là tự nguyện và do chính các phòng thí nghiệm viết ra.
Anthropic đã công bố Chính sách mở rộng có trách nhiệm đầu tiên vào tháng 9 năm 2023. Chính sách này giới thiệu Cấp độ an toàn AI (ASL), được mô hình hóa lỏng lẻo về các cấp độ an toàn sinh học, trong đó các cấp độ cao hơn yêu cầu các biện pháp bảo vệ triển khai và bảo mật mạnh mẽ hơn. Phiên bản mới hơn, vào tháng 10 năm 2024, đã trình bày lại chính sách về ngưỡng năng lực cũng như các biện pháp bảo vệ bắt buộc, đồng thời mô tả vai trò của Cán bộ mở rộng có trách nhiệm. OpenAI đã phát hành Khung chuẩn bị dưới dạng beta vào tháng 12 năm 2023. Nó ghi nhận rủi ro trong các danh mục được theo dõi, ban đầu bao gồm các mối đe dọa CBRN, an ninh mạng, thuyết phục và tự chủ mô hình. Bản sửa đổi năm 2025 đã sắp xếp lại nó xung quanh các ngưỡng khả năng Cao và Quan trọng, đồng thời loại bỏ khả năng thuyết phục thành một danh mục được theo dõi. Google DeepMind đã công bố Khung An toàn Biên giới vào tháng 5 năm 2024 và đã sửa đổi kể từ đó. Nó xác định các Mức năng lực quan trọng (CCL) để kích hoạt các kế hoạch ứng phó. Tại Hội nghị thượng đỉnh AI Seoul vào tháng 5 năm 2024, 16 công ty đã ký Cam kết An toàn AI Biên giới. Họ đồng ý công bố các khuôn khổ an toàn, đặt ra các ngưỡng cho rủi ro không thể chấp nhận được và không phát triển hoặc triển khai mô hình nếu rủi ro của nó không thể được giữ ở dưới các ngưỡng đó. Nhiều khuôn khổ đã được công bố trước Hội nghị thượng đỉnh hành động AI ở Paris vào tháng 2 năm 2025. Các nhà phê bình chỉ ra một số điểm yếu. Các phòng thí nghiệm viết ra các ngưỡng của riêng họ và có thể tự sửa đổi chúng. Những từ ngữ như "nâng cao ý nghĩa" vẫn còn chỗ để giải thích. Việc xác minh bên ngoài còn hạn chế và cạnh tranh thương mại mang lại cho các phòng thí nghiệm động lực để đọc kết quả một cách rộng rãi. Một quan niệm sai lầm phổ biến là cho rằng những khuôn khổ này là luật. Hầu hết là tự nguyện, mặc dù điều này đang thay đổi. SB 53 của California yêu cầu các nhà phát triển biên giới lớn xuất bản một khuôn khổ như vậy và Quy tắc thực hành AI cho mục đích chung của EU, một lộ trình tự nguyện để thể hiện sự tuân thủ Đạo luật AI, yêu cầu các bên ký kết áp dụng một khuôn khổ.
Trước khi phát hành, phòng thí nghiệm sẽ kiểm tra xem liệu một mô hình mới có mang lại sự nâng cao ý nghĩa cho người đang cố gắng có được vũ khí sinh học hay không. Nếu vượt quá ngưỡng, phòng thí nghiệm sẽ bổ sung các bộ lọc và biện pháp bảo mật chống lạm dụng nghiêm ngặt hơn trước khi triển khai.
Vào tháng 5 năm 2025, Anthropic cho biết họ đã kích hoạt các biện pháp bảo mật và triển khai ASL-3 cho Claude Opus 4 như một biện pháp phòng ngừa, vì không thể loại trừ rằng mô hình này đã đạt đến ngưỡng khả năng liên quan.
Khung chuẩn bị của OpenAI chỉ đạo Nhóm tư vấn an toàn xem xét các báo cáo năng lực và tư vấn cho lãnh đạo về việc liệu các biện pháp bảo vệ có đầy đủ hay không trước khi phát hành.
Một phòng thí nghiệm theo dõi quá trình sao chép tự động hoặc tăng tốc nghiên cứu AI sẽ thực hiện các đánh giá tác nhân. Những điều này kiểm tra xem mô hình có thể hoàn thành các nhiệm vụ dài, gồm nhiều bước mà không cần sự trợ giúp của con người hay không.
Các khuôn khổ đang chuyển từ cam kết tự nguyện sang kỳ vọng pháp lý. California hiện yêu cầu các nhà phát triển biên giới lớn xuất bản chúng, Quy tắc thực hành của EU yêu cầu các bên ký kết áp dụng chúng và nhiều khu vực pháp lý hơn có thể tuân theo. Các câu hỏi mở bao gồm ai kiểm tra việc tuân thủ, cách các ngưỡng được chuẩn hóa trong các phòng thí nghiệm và liệu các đánh giá có thể theo kịp các hệ thống đại lý đang cải tiến nhanh chóng hay không. Các cơ quan thử nghiệm độc lập, bao gồm các viện AI của chính phủ, có thể đảm nhận vai trò lớn hơn trong việc kiểm tra các tuyên bố của phòng thí nghiệm. Căng thẳng trung tâm có thể sẽ vẫn còn: các phòng thí nghiệm thiết kế các quy tắc mà họ được đánh giá, điều này khiến cho tính minh bạch và sự giám sát từ bên ngoài trở nên quan trọng.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Khung an toàn AI tiên phong, chẳng hạn như chính sách mở rộng có trách nhiệm, là một cam kết được công bố của phòng thí nghiệm AI nhằm kiểm tra các mô hình của mình về các khả năng nguy hiểm. Nếu một mô hình vượt qua ngưỡng đã đặt, phòng thí nghiệm cam kết bổ sung các biện pháp bảo vệ mạnh mẽ hơn hoặc không triển khai hay đào tạo thêm cho đến khi các biện pháp bảo vệ đó được áp dụng. Những khuôn khổ này quan trọng vì chúng hiện là cách chính mà các mô hình AI tiên tiến nhất quản lý đối với rủi ro thảm khốc, mặc dù hầu hết chúng đều là tự nguyện và do chính các phòng thí nghiệm viết ra.
Các khuôn khổ này được xây dựng dựa trên các cam kết nếu-thì ràng buộc các ngưỡng năng lực với các biện pháp bảo vệ cần thiết.
Chính sách mở rộng có trách nhiệm vào tháng 9 năm 2023 của Anthropic đã giới thiệu ASL, được mô hình hóa lỏng lẻo về các cấp độ an toàn sinh học.
DeepMind sử dụng Cấp độ năng lực quan trọng (CCL), kích hoạt các kế hoạch phản hồi khi đạt đến chúng.
Cam kết An toàn AI của Biên giới là các cam kết tự nguyện công bố các khuôn khổ và không tiếp tục nếu không thể giữ rủi ro dưới ngưỡng.
Bản sửa đổi đã tổ chức lại khuôn khổ xung quanh các ngưỡng Cao và Quan trọng, đồng thời loại bỏ khả năng thuyết phục như một danh mục được theo dõi.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Khung quản trị an toàn AI TC260 của Trung Quốc
xã hội