Chuyện gì đã xảy ra
Các thượng nghị sĩ đảng Dân chủ đã gửi thư tới Bộ trưởng Quốc phòng Pete Hegseth và DNI Jay Clayton yêu cầu điều tra ngay lập tức về các lỗi liên quan đến AI trong tình báo quân sự.
Theo news.meaww.com, một nhóm thượng nghị sĩ đảng Dân chủ, bao gồm Mark Warner, Jack Reed và Chris Coons, đã viết thư cho Bộ trưởng Quốc phòng Pete Hegseth và Giám đốc Tình báo Quốc gia Jay Clayton vào ngày 19/9. Bức thư yêu cầu Tổng Thanh tra liên quan ngay lập tức điều tra một loạt sai sót trong kế hoạch nhắm mục tiêu của quân đội Mỹ do trí tuệ nhân tạo gây ra.
Các thượng nghị sĩ trích dẫn một sự việc cụ thể trong đó một báo cáo quốc phòng được lưu hành khắp quân đội Hoa Kỳ tuyên bố rằng các tàu Trung Quốc đang vận chuyển các thành phần của chương trình vũ khí hạt nhân ở Trung Đông. Bức thư lập luận rằng các cơ quan đã ưu tiên tăng tốc áp dụng và thử nghiệm khả năng AI hơn là quản trị hiệu quả.
Nguồn lưu ý rằng CNN trước đây đã báo cáo rằng một nhà phân tích chỉ huy hoạt động đặc biệt đã dựa vào AI để tạo ra báo cáo tình báo này, được mô tả là 'hoàn toàn sai sự thật'. Báo cáo đã thúc giục quân đội Mỹ chuẩn bị cho chiến dịch đánh chặn các tàu này. Các quan chức chỉ phát hiện ra báo cáo do AI tạo ra và không chính xác khi hoạt động đã được tiến hành với sự tham gia của máy bay quân sự.
Vụ việc đã được ngăn chặn trong gang tấc, nhưng nguồn tin dẫn lời một cá nhân nói rằng tình hình "gần như bắt đầu một cuộc chiến". Các thượng nghị sĩ đang kêu gọi mức độ minh bạch công khai cao hơn trong những phát hiện cuối cùng nhằm khôi phục niềm tin của công chúng vào các nhiệm vụ tình báo và chiến đấu.
Chi tiết nguồn: news.meaww.com ↗
Tại sao nó quan trọng
Vụ việc nêu bật những lỗ hổng nghiêm trọng về an toàn và quản trị trong việc áp dụng AI của quân đội, trong đó việc phân tích tự động gần như dẫn đến phản ứng động của quân đội dựa trên dữ liệu sai lệch.
Sự kiện này thể hiện sự leo thang đáng kể trong cuộc tranh luận về an toàn AI trong môi trường an ninh quốc gia có tính rủi ro cao. Nó chuyển cuộc trò chuyện từ những rủi ro về mặt lý thuyết sang một tình huống suýt xảy ra được ghi lại liên quan đến động lực quân sự.
Vụ việc nhấn mạnh nguy cơ 'thiên vị tự động hóa' trong các hoạt động quân sự, nơi các nhà điều hành có thể tin tưởng vào trí thông minh do AI tạo ra mà không có sự xác minh đầy đủ của con người, đặc biệt là dưới áp lực về thời gian.
Nó nhấn mạnh sự thất bại trong quản trị khi tốc độ áp dụng AI vượt xa sự phát triển của các cơ chế giám sát và kiểm tra lỗi cần thiết trong Bộ Quốc phòng.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
Why can ethical evaluation not be reduced to one model score?
Xem gì tiếp theo
Phản hồi của Bộ Quốc phòng và phạm vi điều tra của Tổng Thanh tra về các giao thức quản trị AI.
Phản hồi chính thức của Bộ Quốc phòng và Cộng đồng Tình báo đối với thư của các thượng nghị sĩ.
Phạm vi và tiến trình điều tra của Tổng thanh tra, cụ thể là liệu cơ quan này có kiểm tra các hoạt động tích hợp AI rộng hơn trong toàn quân đội hay không.
Những thay đổi về chính sách hoặc luật pháp tiềm năng nhằm mục đích bắt buộc các yêu cầu của con người đối với trí thông minh do AI tạo ra được sử dụng trong các quyết định nhắm mục tiêu.