AI trong bầu cử và công nghệ dân sự
AI đang định hình lại cách thức tổ chức, giám sát và tranh chấp các cuộc bầu cử — từ tự động hóa việc duy trì danh sách cử tri và dịch các lá phiếu cho đến phát hiện các hành vi giả mạo sâu và khiến cử tri tràn ngập các cuộc gọi tự động tổng hợp.
Tổng quan
The same technology that streamlines democracy can also be weaponized to undermine it.
Lặn sâu
Các quan chức bầu cử sử dụng AI để xóa danh sách cử tri, khớp chữ ký trên các lá phiếu qua thư, định tuyến nhân viên phòng phiếu và dịch tài liệu bầu cử sang hàng chục ngôn ngữ. Các nhóm công nghệ-dân sự triển khai công nghệ học máy để phát hiện thông tin sai lệch phối hợp, gắn cờ các video ứng cử viên deepfake và tước quyền sở hữu bản đồ. Nhưng những mối đe dọa là có thật: vào tháng 1 năm 2024, một cuộc gọi tự động giả mạo do AI tạo ra bắt chước giọng nói của Tổng thống Biden đã yêu cầu các đảng viên Đảng Dân chủ ở New Hampshire không được bỏ phiếu trong cuộc bầu cử sơ bộ, dẫn đến khoản tiền phạt 6 triệu đô la của FCC và một bản cáo trạng. AI sáng tạo giúp giảm chi phí sản xuất hình ảnh, âm thanh và văn bản giả mạo có sức thuyết phục trên quy mô lớn, do đó, các nền tảng và tiêu chuẩn hình mờ như thông tin xác thực nội dung C2PA đang chạy đua để gắn nhãn phương tiện tổng hợp. Nhiều tiểu bang của Hoa Kỳ đã thông qua luật yêu cầu tiết lộ AI trong quảng cáo chính trị.
Hiểu biết kỹ thuật
Bản sao giọng nói deepfake có thể được tạo từ đoạn âm thanh dưới một phút bằng cách sử dụng các mô hình chuyển văn bản thành giọng nói được đào tạo dựa trên lời nói của mục tiêu. Tính năng phát hiện hoạt động ngược lại: bộ phân loại tìm kiếm các tạo tác quang phổ, các khoảng dừng không tự nhiên hoặc âm thanh hơi thở bị thiếu, trong khi các hệ thống xuất xứ như C2PA ký mã hóa phương tiện khi chụp để bất kỳ chỉnh sửa nào sau này sẽ phá vỡ chữ ký. Việc khớp chữ ký cho các lá phiếu qua thư sử dụng điểm số tương tự về thị giác máy tính, nhưng việc đánh giá của con người vẫn là bắt buộc vì việc từ chối sai có thể tước quyền bầu cử của những cử tri hợp pháp.
Tác động chiến lược
Bối cảnh và quy tắc
Bối cảnh của ngành quyết định liệu các ý tưởng AI có tồn tại được khi tiếp xúc với thực tế hay không.
Kiểm soát chất lượng
Các ràng buộc về miền ảnh hưởng đến tỷ lệ lỗi có thể chấp nhận được và các mô hình giám sát.
Xây dựng lựa chọn
Triển khai thành công sẽ điều chỉnh năng lực kỹ thuật phù hợp với quy trình làm việc tuyến đầu.
Tương lai của AI trong bầu cử và công nghệ dân sự
Mong đợi các nhãn tiết lộ AI bắt buộc trên quảng cáo chính trị sẽ lan rộng và các tiêu chuẩn xuất xứ (C2PA) sẽ được đưa vào máy ảnh và điện thoại để phương tiện truyền thông xác thực có thể được xác minh tại nguồn. Các văn phòng bầu cử sẽ dựa vào AI để tạo ra các chatbot đa ngôn ngữ trả lời các câu hỏi “tôi bỏ phiếu ở đâu” và để theo dõi thông tin sai lệch theo thời gian thực. Sự căng thẳng giữa việc sử dụng AI để mở rộng quy mô tính toàn vẹn của cuộc bầu cử và bảo vệ chống lại sự thao túng do AI điều khiển, lỗi trong danh sách cử tri và đàn áp tự động sẽ xác định chính sách công nghệ-dân sự trong suốt thập kỷ.
Triển khai trong thế giới thực
Phần mềm xác minh chữ ký tự động so sánh chữ ký lá phiếu gửi qua thư với hồ sơ đăng ký cử tri, với những điểm không khớp được gắn cờ được gửi đến người đánh giá
Các công cụ phát hiện deepfake được các nhà xác minh dữ kiện và nền tảng sử dụng để xác định các video ứng cử viên do AI tạo ra trước khi chúng lan truyền
Chatbot AI đa ngôn ngữ trên các trang web bầu cử tiểu bang trả lời các câu hỏi của cử tri về địa điểm bỏ phiếu, thời hạn đăng ký và yêu cầu về ID
Các công cụ phân tích tái phân chia khu vực được hỗ trợ bởi AI mô phỏng hàng nghìn bản đồ khu vực để phát hiện hành vi gian lận theo đảng phái
Rủi ro & lan can
Các yêu cầu pháp lý có thể vô hiệu hóa các nguyên mẫu mạnh mẽ.
Dữ liệu lịch sử có thể mã hóa thành kiến gây tổn hại cho các cộng đồng cụ thể.
Các hệ thống cũ có thể tạo ra các nút thắt cổ chai trong tích hợp và chi phí tiềm ẩn.
Lộ trình thực hiện
Thu hút các chuyên gia trong lĩnh vực từ việc xác định vấn đề đến đánh giá.
Thiết kế các đường dẫn kiểm tra và tài liệu trước khi ra mắt.
Xác nhận sớm các nghĩa vụ tuân thủ và an toàn.
Triển khai theo từng giai đoạn với tiêu chí dừng và khôi phục rõ ràng.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Elections and Civic Tech quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
AI trong Hàng hải và Vận chuyển
Câu hỏi thường gặp
What is AI in Elections and Civic Tech?
AI đang định hình lại cách thức tổ chức, giám sát và tranh chấp các cuộc bầu cử — từ tự động hóa việc duy trì danh sách cử tri và dịch các lá phiếu cho đến phát hiện các hành vi giả mạo sâu và khiến cử tri tràn ngập các cuộc gọi tự động tổng hợp. Công nghệ tương tự giúp hợp lý hóa nền dân chủ cũng có thể được vũ khí hóa để làm suy yếu nó.
Điều gì đã xảy ra trong cuộc bầu cử sơ bộ ở New Hampshire vào tháng 1 năm 2024 làm nổi bật những rủi ro trong bầu cử AI?
Một cuộc gọi tự động giả mạo đã sử dụng bản sao giọng nói AI của Tổng thống Biden để ngăn cản đảng Dân chủ bỏ phiếu trong cuộc bầu cử sơ bộ, dẫn đến khoản tiền phạt 6 triệu USD của FCC và một bản cáo trạng.
Tiêu chuẩn C2PA được thiết kế để làm gì?
C2PA (Liên minh chứng minh và xác thực nội dung) gắn chữ ký mật mã vào phương tiện để mọi hành vi giả mạo sau này sẽ phá vỡ chuỗi và có thể bị phát hiện.
Tại sao vẫn cần phải có sự đánh giá của con người khi AI khớp chữ ký trên các lá phiếu qua thư?
Điểm tương đồng của AI có thể gắn cờ sai các chữ ký hợp lệ, vì vậy người đánh giá phải xác nhận trước khi lá phiếu bị từ chối để tránh tước quyền bầu cử của cử tri thực sự.
Bao nhiêu âm thanh có thể đủ để sao chép giọng nói của ai đó bằng các mô hình chuyển văn bản thành giọng nói hiện đại?
Các mô hình nhân bản giọng nói hiện đại có thể tạo ra lời nói thuyết phục chỉ với chưa đầy một phút âm thanh được ghi lại của mục tiêu.
Làm thế nào AI có thể được sử dụng để phát hiện sự sắp xếp hợp lý của đảng phái?
Các thuật toán tạo ra một tập hợp lớn các bản đồ khu vực hợp pháp để các nhà phân tích có thể xem liệu bản đồ được ban hành có phải là một ngoại lệ thống kê có lợi cho một bên hay không.