Chuyện gì đã xảy ra
Technology.org báo cáo rằng Thủ tướng Andy Burnham và Tổng thống Volodymyr Zelenskiy đã ký quan hệ đối tác Anh-Ukraine tại Kyiv tập trung vào phát triển các công cụ AI cho quốc phòng và an ninh. Báo cáo cho biết Anh là đối tác quốc tế đầu tiên được cấp quyền truy cập vào Phòng thí nghiệm AI Avengers của Ukraine, nơi sử dụng dữ liệu chiến trường liên kết với hệ thống DELTA.
Technology.org báo cáo rằng Anh và Ukraine đã ký hợp tác vào thứ Hai để cùng phát triển các công cụ trí tuệ nhân tạo cho quốc phòng và an ninh. Báo cáo xác định Andy Burnham và Volodymyr Zelenskiy là những người ký kết và cho biết thỏa thuận này cho phép các nhà nghiên cứu Anh quyền truy cập vào nền tảng dữ liệu chiến trường của Ukraine được sử dụng để đào tạo các hệ thống AI quân sự. Technology.org giới thiệu Anh là đối tác quốc tế đầu tiên nhận được quyền truy cập vào Phòng thí nghiệm AI của Avengers. Những chi tiết này đến từ báo cáo thứ cấp và không được xác nhận độc lập trong tài liệu được cung cấp ở đây.
Technology.org cho biết Avengers Labs được xây dựng dựa trên một tập dữ liệu có chú thích gồm khoảng 5 triệu hình ảnh chiến trường, phần lớn được lấy từ hệ thống nhận thức tình huống và quản lý chiến trường DELTA được phát triển trong nước của Ukraine. Báo cáo cho biết nền tảng này nhận được tài liệu từ hàng nghìn camera ánh sáng ban ngày và cảm biến hồng ngoại được đặt trên chiến tuyến. Các đối tượng được báo cáo bao gồm xe tăng, pháo binh, hệ thống phòng không, bộ binh và các mục tiêu trên không như máy bay không người lái Shahed và máy bay không người lái trinh sát. Báo cáo mô tả tập dữ liệu là tài liệu chiến trường thực tế chứ không phải là dữ liệu mô phỏng, cóp nhặt hoặc tổng hợp.
Báo cáo còn cho biết thêm rằng các mô hình được đào tạo về dữ liệu đã vận hành một hệ thống phát hiện mục tiêu tự động xử lý hơn 100.000 nguồn cấp dữ liệu video từ máy bay không người lái mỗi tháng. Technology.org báo cáo rằng hệ thống xác định khoảng 70% mục tiêu của kẻ thù trong thời gian thực. Cách diễn đạt đó không xác định ý nghĩa của việc “xác định” trong hoạt động, cách tính tỷ lệ phần trăm, loại mục tiêu nào được đưa vào hoặc liệu con số này có thể hiện độ chính xác, khả năng thu hồi hay thước đo khác hay không. Không có kết quả kiểm tra độc lập, phương pháp hoặc hồ sơ triển khai nào được cung cấp trong nguồn.
Theo Technology.org, sự hợp tác bắt đầu với hai dự án thí điểm. Người ta sẽ coi cáp quang là cảm biến hỗ trợ AI để bảo vệ các cơ sở quân sự. Nhóm còn lại sẽ nghiên cứu chip AI năng lượng thấp cho máy bay không người lái và hệ thống tự hành, giải quyết các hạn chế về điện toán và năng lượng hạn chế quyền tự chủ trên máy bay. Báo cáo đặt thỏa thuận này trong khuôn khổ Quan hệ đối tác 100 năm rộng lớn hơn giữa Anh và Ukraine và cho biết nó quy tụ các trường đại học, nhà nghiên cứu, công ty công nghệ, kỹ sư và chuyên gia quân sự. Nó cũng mô tả một quyết định riêng của Anh cho phép MBDA tiết lộ thông tin mật về các thành phần được sử dụng trong tên lửa hành trình SCALP để dây chuyền sản xuất có thể được thiết lập ở Ukraine.
Chi tiết nguồn: technology.org ↗
Tại sao nó quan trọng
Nếu số liệu được báo cáo và thỏa thuận truy cập là chính xác, thỏa thuận sẽ cung cấp cho các nhà nghiên cứu Anh quyền truy cập trực tiếp một cách bất thường vào dữ liệu quân sự đang hoạt động để phát triển AI. Nó cũng đặt ra những câu hỏi thực tế về đánh giá mô hình, kiểm soát con người, quản trị dữ liệu và việc sử dụng các bộ dữ liệu có nguồn gốc từ chiến đấu trong các hệ thống tự trị trong tương lai.
Việc sắp xếp quyền truy cập được báo cáo có ý nghĩa quan trọng vì AI quân sự hữu ích phụ thuộc rất nhiều vào dữ liệu phản ánh các điều kiện hoạt động thực tế. Một tập dữ liệu được thu thập trong một cuộc chiến tranh cường độ cao có thể chứa các ví dụ khó không có trong các tiêu chuẩn thông thường của phòng thí nghiệm, bao gồm thời tiết thay đổi, địa hình thay đổi, ngụy trang, thiết bị hư hỏng và các vật thể lạ. Nếu các nhà nghiên cứu Anh có thể đào tạo hoặc đánh giá các hệ thống dựa trên tài liệu đó mà không cần nhận cơ sở dữ liệu nhạy cảm cơ bản, thì sự sắp xếp này có thể cung cấp một mô hình cho sự hợp tác có kiểm soát giữa chính phủ và các tổ chức nghiên cứu. Technology.org báo cáo rằng nền tảng của Ukraine được thiết kế để hỗ trợ đào tạo mô hình an toàn mà không cần truy cập trực tiếp vào cơ sở dữ liệu cơ bản, nhưng nguồn không xác minh độc lập cách hoạt động của biện pháp bảo vệ đó.
Thỏa thuận cũng minh họa kinh nghiệm chiến trường có thể định hình sự phát triển AI như thế nào. Các thử nghiệm được báo cáo đã kết nối hai phần khác nhau của nhóm công nghệ: cảm biến và điện toán. Cảm biến sợi quang có thể giúp phát hiện hoạt động xung quanh các cơ sở quân sự, trong khi chip năng lượng thấp có thể cho phép máy bay không người lái và hệ thống tự động xử lý thông tin gần hơn với nơi thu thập thông tin. Đó là những vấn đề kỹ thuật thực tế chứ không chỉ đơn giản là những câu hỏi về khả năng của mô hình. Chúng liên quan đến việc sử dụng năng lượng, độ tin cậy của thông tin liên lạc, độ bền phần cứng, độ trễ, bảo trì và hậu quả của việc phân loại không chính xác.
Mối quan tâm của công chúng cao bất thường vì dữ liệu được báo cáo gắn liền với mục tiêu quân sự. Technology.org cho biết các quan chức Ukraine đã mô tả mục tiêu là phát hiện nhanh hơn và đưa ra quyết định sáng suốt hơn thay vì loại bỏ con người khỏi vòng lặp. Bản thân mục đích đã nêu đó không thể hiện cách các hệ thống được sử dụng trong thực tế. Một công cụ xác định đối tượng, ưu tiên cảnh báo hoặc đề xuất hành động vẫn có thể ảnh hưởng đến các quyết định gây chết người ngay cả khi con người chính thức nắm giữ quyền lực. Nguồn không mô tả mức độ đánh giá của con người, chuỗi mệnh lệnh, quy tắc đối với kết quả đầu ra gây tranh cãi hoặc thủ tục sửa lỗi.
Sự hợp tác được báo cáo cũng có thể ảnh hưởng đến mối quan hệ giữa nghiên cứu quốc phòng và phát triển AI dân sự. Technology.org lập luận rằng cảm biến sợi quang và suy luận năng lượng thấp có thể có các ứng dụng trong giám sát cơ sở hạ tầng quan trọng và điện toán biên. Những tác động lan tỏa có thể xảy ra đó là những lĩnh vực hợp lý để theo dõi, nhưng báo cáo không cung cấp thông tin về việc triển khai dân sự, thử nghiệm hiệu suất hoặc thỏa thuận thương mại hóa. Do đó, ý nghĩa trước mắt là việc chuyển giao dữ liệu hoạt động, chuyên môn và năng lực kỹ thuật vào chương trình AI-quốc phòng chung, thay vì lợi ích dân sự đã được chứng minh.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Xem gì tiếp theo
Các thử nghiệm chính là liệu quan hệ đối tác có tạo ra các phi công được mô tả công khai hay không, cách quản lý quyền truy cập vào dữ liệu nhạy cảm và liệu hiệu suất phát hiện mục tiêu được báo cáo có nằm ngoài các điều kiện mà mô hình được phát triển hay không. Nguồn không thiết lập các biện pháp bảo vệ đầy đủ, quy tắc triển khai hoặc kết quả đánh giá độc lập của thỏa thuận.
Vấn đề đầu tiên cần theo dõi là liệu chính phủ có công bố báo cáo rõ ràng hơn về việc quản lý hiệp định hay không. Những ẩn số quan trọng bao gồm ai có thể truy cập vào nền tảng, liệu các nhà nghiên cứu Anh có thể xóa các mô hình đã được đào tạo hoặc bộ dữ liệu phái sinh hay không, cách xử lý lại các ví dụ nhạy cảm và liệu quyền truy cập có bị giới hạn ở các tổ chức được phê duyệt hay không. Nguồn tin cho biết văn bản thỏa thuận đầy đủ và phạm vi thí điểm có sẵn trong thông báo của chính phủ, nhưng văn bản được cung cấp ở đây không thiết lập các điều khoản đó một cách độc lập.
Vấn đề thứ hai là xác nhận kỹ thuật. Con số được báo cáo về việc xác định mục tiêu khoảng 70% trên hơn 100.000 nguồn cấp dữ liệu video hàng tháng có thể rất đáng kể, nhưng nó không đủ để đánh giá tính an toàn hoặc tính hữu ích trong hoạt động. Báo cáo tiếp theo nên tìm kiếm các định nghĩa về các nhóm mục tiêu, tỷ lệ dương tính giả và âm tính giả, hiệu suất theo thời tiết và địa hình, tỷ lệ nguồn cấp dữ liệu được con người xem xét và liệu kết quả có được đo lường theo thời gian hay hồi cứu hay không. Nó cũng cần làm rõ liệu con số này chỉ áp dụng cho phát hiện hay cho quy trình nhắm mục tiêu lớn hơn.
Vấn đề thứ ba là ranh giới giữa hỗ trợ quyết định và quyền tự chủ. Phi công sử dụng chip năng lượng thấp có thể giúp việc chạy AI trực tiếp trên máy bay không người lái hoặc các hệ thống tự động khác trở nên dễ dàng hơn, giảm sự phụ thuộc vào thông tin liên lạc từ xa. Điều đó có thể cải thiện khả năng phục hồi và thời gian phản hồi, nhưng nó cũng có thể tăng tốc độ và quy mô của các quyết định được đưa ra trong điều kiện không chắc chắn. Nguồn tin không nói rằng quan hệ đối tác sẽ cấp phép cho vũ khí tự động, cũng như không mô tả bất kỳ việc triển khai vũ khí cụ thể nào. Báo cáo không được suy ra kết quả nào từ sự tồn tại của chương trình thí điểm.
Cuối cùng, các nhà quan sát nên theo dõi bằng chứng cho thấy mối quan hệ đối tác tạo ra những kết quả cụ thể thay vì chỉ duy trì một thỏa thuận khung. Các cập nhật hữu ích sẽ bao gồm các tổ chức được nêu tên, các quy trình đánh giá được công bố, các quyết định mua sắm hoặc triển khai, các lỗi được ghi lại, kiểm toán độc lập và giải thích về cách các nhà vận hành thách thức hoặc ghi đè các kết quả đầu ra của mô hình. Nguồn tin cũng không rõ liệu quyền truy cập được báo cáo đã được áp dụng cho các nhà nghiên cứu Anh hay còn phụ thuộc vào các phê duyệt sau này. Cho đến khi những câu hỏi đó được trả lời, thỏa thuận này được hiểu rõ nhất là sự hợp tác mang tính hệ quả với phạm vi được báo cáo đáng kể, chứ không phải là bằng chứng cho thấy hệ thống AI trên chiến trường là đáng tin cậy hoặc an toàn.