Chuyện gì đã xảy ra
Các chuyên gia an ninh của Hoa Kỳ và Trung Quốc đã đề xuất các biện pháp bảo vệ AI để ngăn ngừa tai nạn hạt nhân và đảm bảo sự kiểm soát của con người đối với các cuộc tấn công mạng sau đó. Các đề xuất bao gồm các ranh giới đỏ xung quanh hệ thống hạt nhân, tiếp tục kiểm soát con người đối với các cuộc tấn công mạng và đường dây nóng cho các sự cố liên quan đến AI tự trị.
Các đề xuất này đã được công bố vào tuần trước trước các cuộc đàm phán về AI cấp chính phủ theo kế hoạch và cuộc gặp dự kiến vào ngày 24 tháng 9 tại Washington giữa Tổng thống Mỹ Donald Trump và Chủ tịch Trung Quốc Tập Cận Bình.
Melanie Sisson, thành viên cấp cao tại Viện Brookings và Tianjiao Jiang, phó giáo sư tại Đại học Fudan, là tác giả của các khuyến nghị.
Đề xuất của họ phản ánh sự cạnh tranh AI giữa Mỹ và Trung Quốc đang mở rộng ra ngoài cạnh tranh về chip và các mẫu máy tiên tiến. Càng ngày, cuộc thảo luận càng liên quan đến các vấn đề truyền thống liên quan đến kiểm soát vũ khí.
Bộ trưởng An ninh Nhà nước Trung Quốc Chen Yixin đã viết trong tuần này trên một cơ quan chính phủ rằng AI “về cơ bản biến đổi hình thức đấu tranh quân sự”. Ông cho biết AI đã chuyển từ vai trò hỗ trợ trên chiến trường sang vai trò chủ chốt, trích dẫn các cuộc tấn công do AI chỉ đạo trong cuộc chiến Mỹ-Israel với Iran.
Chi tiết nguồn: stratnewsglobal.com ↗
Tại sao nó quan trọng
Các đề xuất phản ánh mối lo ngại ngày càng tăng về các hệ thống AI tự chủ và mạnh mẽ hơn. Nếu được triển khai, chúng có thể giúp ngăn ngừa tai nạn bị nhầm lẫn với các cuộc tấn công, hạn chế các quyết định quân sự do máy thực hiện và thiết lập các giao thức liên lạc khi công nghệ hoạt động bất ngờ giữa các đối thủ có vũ khí hạt nhân.
Các đề xuất được xây dựng dựa trên nguyên tắc được Hoa Kỳ lúc bấy giờ tán thành. Tổng thống Joe Biden và Tập vào tháng 11 năm 2024 rằng con người nên giữ quyền kiểm soát các quyết định sử dụng vũ khí hạt nhân.
Lora Saalman, một thành viên cấp cao tại Viện Nghiên cứu Hòa bình Quốc tế Stockholm, đã viết vào tháng 2 rằng đây là một lĩnh vực quan trọng của sự hội tụ Mỹ-Trung.
Đồng thời, bà lưu ý các dấu hiệu cho thấy cả hai nước đang tích hợp AI sâu hơn vào các hệ thống hạt nhân và liên quan đến hạt nhân.
Jiang cũng đề xuất một đường dây nóng quân sự Mỹ-Trung dành riêng cho các sự cố AI. Ông cảnh báo rằng các trao đổi mạng tự động có thể leo thang quá nhanh để con người có thể can thiệp.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
crm_get_transaction(id='4092').How does the guide frame AI safety risk across current and advanced systems?
Xem gì tiếp theo
Mỹ và Trung Quốc sẽ tổ chức các cuộc đàm phán về AI cấp chính phủ và cuộc gặp giữa Tổng thống Trump và Chủ tịch Tập Cận Bình vào ngày 24 tháng 9. Các đề xuất sẽ được thảo luận trong bối cảnh đối thoại an ninh quốc gia và AI Mỹ-Trung.
Mỹ và Trung Quốc sẽ tổ chức các cuộc đàm phán về AI cấp chính phủ và cuộc gặp giữa Tổng thống Trump và Chủ tịch Tập Cận Bình vào ngày 24/9.
Các đề xuất sẽ được thảo luận trong bối cảnh đối thoại an ninh quốc gia và AI Mỹ-Trung.
Trung Quốc ngày càng kết hợp AI vào bộ máy kiểm soát vũ khí hiện có của mình.
Washington không có cơ quan kiểm soát vũ khí tương đương chịu trách nhiệm về AI.