選舉和公民技術中的人工智慧
人工智慧正在重塑選舉的運作、監控和競爭方式——從自動化選民名冊維護和翻譯選票到檢測深度造假和用合成機器人電話淹沒選民。
概述
The same technology that streamlines democracy can also be weaponized to undermine it.
深入探討
選舉官員使用人工智慧來清理選民名冊、匹配郵寄選票上的簽名、路由投票工作人員以及將選舉材料翻譯成數十種語言。公民技術團體部署機器學習來檢測協調一致的虛假信息，標記深度偽造的候選視頻，並繪製剝奪公民權的地圖。但威脅是真實存在的：2024 年 1 月，一個模仿拜登總統聲音的人工智慧生成的虛假機器人電話告訴新罕布夏州民主黨人不要在初選中投票，導致 FCC 罰款 600 萬美元並被起訴。生成式 AI 降低了大規模生成令人信服的虛假圖像、音訊和文字的成本，因此 C2PA 內容憑證等平台和浮水印標準正在競相標記合成媒體。美國許多州已通過法律，要求在政治廣告中揭露人工智慧資訊。
技術洞察
Deepfake 語音複製可以使用目標語音訓練的文字轉語音模型從不到一分鐘的音訊中建立。檢測的工作原理相反：分類器尋找光譜偽影、不自然的停頓或丟失的呼吸音，而 C2PA 等來源系統在捕獲時對媒體進行加密簽名，以便任何後續編輯都會破壞簽名。郵件選票的簽名匹配使用計算機視覺相似度評分，但人工審查仍然是強制性的，因為錯誤的拒絕可能會剝奪合法選民的選舉權。
戰略影響
背景與規則
產業背景決定了人工智慧創意能否與現實接觸。
品質管控
領域約束會影響可接受的錯誤率和監督模型。
配裝選擇
成功的部署使技術能力與第一線工作流程保持一致。
人工智慧在選舉和公民技術的未來
預計政治廣告上的強制性人工智慧揭露標籤將會傳播，出處標準 (C2PA) 將被納入相機和手機中，以便可以從源頭驗證媒體的真實性。選舉辦公室將依靠人工智慧的多語言聊天機器人來回答「我在哪裡投票」的問題，並進行即時虛假資訊監控。使用人工智慧來衡量選舉的完整性與防範人工智慧驅動的操縱、選民名冊錯誤和自動鎮壓之間的緊張關係將決定未來十年的公民技術政策。
現實世界的實施
自動簽名驗證軟體將郵寄選票簽名與選民登記記錄進行比較，並將標記的不匹配發送給人工審核員
事實查核人員和平台使用 Deepfake 檢測工具在 AI 生成的候選影片傳播之前識別它們
州選舉網站上的多語言人工智慧聊天機器人回答選民有關投票地點、登記截止日期和身分要求的問題
由人工智慧驅動的選區重新劃分分析工具，可模擬數千張選區地圖以偵測黨派不公正劃分
風險與防護欄
監理要求可能會使原本強大的原型失效。
歷史資料可能會編碼損害特定社區的偏見。
遺留系統可能會造成整合瓶頸和隱性成本。
實施路線圖
讓領域專家參與從問題框架到評估的整個過程。
在啟動前設計審計追蹤和文件。
儘早驗證合規性和安全義務。
分階段推出，並有明確的停止和回滾標準。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Elections and Civic Tech quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is AI in Elections and Civic Tech?
人工智慧正在重塑選舉的運作、監控和競爭方式——從自動化選民名冊維護和翻譯選票到檢測深度造假和用合成機器人電話淹沒選民。簡化民主的技術也可以被武器化來破壞它。
2024 年 1 月新罕布夏州初選中發生了什麼凸顯了人工智慧選舉風險？
一個欺騙性的機器人電話使用了拜登總統的人工智慧語音克隆來阻止民主黨人在初選中投票，導致 FCC 罰款 600 萬美元並被起訴。
C2PA 標準的目的是什麼？
C2PA（內容來源和真實性聯盟）將加密簽名附加到媒體上，以便任何後來的篡改都會破壞鏈條並可以被檢測到。
當人工智慧匹配郵寄選票上的簽名時，為什麼仍然需要人工審核？
人工智慧相似度分數可能會錯誤地標記有效簽名，因此人類審核員必須在選票被拒絕之前進行確認，以避免剝奪真正選民的選舉權。
多少音訊足以使用現代文字到語音模型克隆某人的聲音？
现代语音克隆模型可以从目标录制的不到一分钟的音频中产生令人信服的语音。
如何利用人工智慧來偵測黨派不公正劃分選區？
演算法會產生大量合法選區地圖，以便分析人員可以了解已頒布的地圖是否是有利於某一政黨的統計異常值。