概述
人工智慧正在重塑選舉的運作、監控和競爭方式——從自動化選民名冊維護和翻譯選票到檢測深度造假和用合成機器人電話淹沒選民。簡化民主的技術也可以被武器化來破壞民主。
選舉和公民技術中的人工智慧將人工智慧應用於特定領域的環境中，在這些環境中，法規、操作和風險承受能力強烈影響設計選擇。
深入探討
選舉官員使用人工智慧來清理選民名冊、匹配郵寄選票上的簽名、路由投票工作人員以及將選舉材料翻譯成數十種語言。公民技術團體部署機器學習來檢測協調一致的虛假信息，標記深度偽造的候選視頻，並繪製剝奪公民權的地圖。但威脅是真實存在的：2024 年 1 月，一個模仿拜登總統聲音的人工智慧生成的虛假機器人電話告訴新罕布夏州民主黨人不要在初選中投票，導致 FCC 罰款 600 萬美元並被起訴。生成式 AI 降低了大規模生成令人信服的虛假圖像、音訊和文字的成本，因此 C2PA 內容憑證等平台和浮水印標準正在競相標記合成媒體。美國許多州已通過法律，要求在政治廣告中揭露人工智慧資訊。
技術洞察
Deepfake 語音複製可以使用目標語音訓練的文字轉語音模型從不到一分鐘的音訊中建立。檢測的工作原理相反：分類器尋找光譜偽影、不自然的停頓或丟失的呼吸音，而 C2PA 等來源系統在捕獲時對媒體進行加密簽名，以便任何後續編輯都會破壞簽名。郵件選票的簽名匹配使用計算機視覺相似度評分，但人工審查仍然是強制性的，因為錯誤的拒絕可能會剝奪合法選民的選舉權。
掌握選舉和公民技術中的人工智慧
人工智能正在重塑选举的运行、监控和竞争方式——从自动化选民名册维护和翻译选票到检测深度造假和用合成机器人电话淹没选民。簡化民主的技術也可以被武器化來破壞民主。选举和公民技术中的人工智能将人工智能应用于特定领域的环境中，在这些环境中，法规、操作和风险承受能力强烈影响设计选择。为了建立深入的理解，请将选举和公民技术中的人工智能视为一种操作模型，而不是单一功能：定义期望的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，在选举和公民技术中使用人工智能的强大团队将技术能力与领域政策、可审计性和一线决策相结合。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
產業背景決定了人工智慧創意能否與現實接觸。同時，監管要求可能會使原本強大的原型失效。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
產業背景決定了人工智慧創意能否與現實接觸。
產業背景決定了人工智慧創意能否與現實接觸。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
領域約束會影響可接受的錯誤率和監督模型。
領域約束會影響可接受的錯誤率和監督模型。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
成功的部署使技術能力與第一線工作流程保持一致。
成功的部署使技術能力與第一線工作流程保持一致。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
自動簽名驗證軟體將郵寄選票簽名與選民登記記錄進行比較，並將標記的不匹配發送給人工審核員
事實查核人員和平台使用 Deepfake 檢測工具在 AI 生成的候選影片傳播之前識別它們
州選舉網站上的多語言人工智慧聊天機器人回答選民有關投票地點、登記截止日期和身分要求的問題
由人工智慧驅動的選區重新劃分分析工具，可模擬數千張選區地圖以偵測黨派不公正劃分
實施模式
选举中的人工智能和公民技术的实践
自動簽名驗證軟體將郵寄選票簽名與選民登記記錄進行比較，並將標記的不匹配發送給人工審核員。
自動簽名驗證軟體將郵寄選票簽名與選民登記記錄進行比較，並將標記的不匹配發送給人工審核員。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會得到更好的結果。
选举中的人工智能和公民技术的实践
事實檢查者和平台使用 Deepfake 檢測工具來識別人工智慧生成的候選視頻，然後再進行病毒式傳播。
事實檢查者和平台使用深度造假檢測工具，在人工智慧生成的候選影片瘋傳之前識別它們。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
选举中的人工智能和公民技术的实践
州選舉網站上的多語言人工智慧聊天機器人回答選民有關投票地點、登記截止日期和身分要求的問題。
州選舉網站上的多語言人工智慧聊天機器人回答選民有關投票地點、登記截止日期和身分要求的問題。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力提高和錯誤成本時，通常會得到更好的結果。
选举中的人工智能和公民技术的实践
由人工智慧驅動的選區重劃分析工具可模擬數千張選區地圖，以偵測黨派不公正劃分選區。
由人工智慧驅動的選區重劃分析工具可以模擬數千張選區地圖，以偵測黨派不公正劃分選區。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力增益和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
監理要求可能會使原本強大的原型失效。
歷史資料可能會編碼損害特定社區的偏見。
遺留系統可能會造成整合瓶頸和隱性成本。
實施路線圖
讓領域專家參與從問題框架到評估的整個過程。
讓領域專家參與從問題框架到評估的整個過程。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在啟動前設計審計追蹤和文件。
在啟動前設計審計追蹤和文件。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
儘早驗證合規性和安全義務。
儘早驗證合規性和安全義務。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
分階段推出，並有明確的停止和回滾標準。
分階段推出，並有明確的停止和回滾標準。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。