概述
人工智能正在重塑选举的运行、监控和竞争方式——从自动化选民名册维护和翻译选票到检测深度造假和用合成机器人电话淹没选民。简化民主的技术也可以被武器化来破坏民主。
选举和公民技术中的人工智能将人工智能应用于特定领域的环境中，在这些环境中，法规、操作和风险承受能力强烈影响设计选择。
深入探讨
选举官员使用人工智能来清理选民名册、匹配邮寄选票上的签名、路由投票工作人员以及将选举材料翻译成数十种语言。公民技术团体部署机器学习来检测协调一致的虚假信息，标记深度伪造的候选视频，并绘制剥夺公民权的地图。但威胁是真实存在的：2024 年 1 月，一个模仿拜登总统声音的人工智能生成的虚假机器人电话告诉新罕布什尔州民主党人不要在初选中投票，导致 FCC 罚款 600 万美元并被起诉。生成式 AI 降低了大规模生成令人信服的虚假图像、音频和文本的成本，因此 C2PA 内容凭证等平台和水印标准正在竞相标记合成媒体。美国许多州已通过法律，要求在政治广告中披露人工智能信息。
技术洞察
Deepfake 语音克隆可以使用针对目标语音训练的文本到语音模型从不到一分钟的音频中构建。检测的工作原理相反：分类器寻找光谱伪影、不自然的停顿或丢失的呼吸音，而 C2PA 等来源系统在捕获时对媒体进行加密签名，以便任何后续编辑都会破坏签名。邮件选票的签名匹配使用计算机视觉相似度评分，但人工审查仍然是强制性的，因为错误的拒绝可能会剥夺合法选民的选举权。
掌握选举和公民技术中的人工智能
人工智能正在重塑选举的运行、监控和竞争方式——从自动化选民名册维护和翻译选票到检测深度造假和用合成机器人电话淹没选民。简化民主的技术也可以被武器化来破坏民主。选举和公民技术中的人工智能将人工智能应用于特定领域的环境中，在这些环境中，法规、操作和风险承受能力强烈影响设计选择。为了建立深入的理解，请将选举和公民技术中的人工智能视为一种操作模型，而不是单一功能：定义期望的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，在选举和公民技术中使用人工智能的强大团队将技术能力与领域政策、可审计性和一线决策相结合。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
行业背景决定了人工智能创意能否与现实接触。同时，监管要求可能会使原本强大的原型失效。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
行业背景决定了人工智能创意能否与现实接触。
行业背景决定了人工智能创意能否与现实接触。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
领域约束会影响可接受的错误率和监督模型。
领域约束会影响可接受的错误率和监督模型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
成功的部署使技术能力与一线工作流程保持一致。
成功的部署使技术能力与一线工作流程保持一致。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
自动签名验证软件将邮寄选票签名与选民登记记录进行比较，并将标记的不匹配发送给人工审核员
事实核查人员和平台使用 Deepfake 检测工具在 AI 生成的候选视频传播之前识别它们
州选举网站上的多语言人工智能聊天机器人回答选民有关投票地点、登记截止日期和身份要求的问题
由人工智能驱动的选区重新划分分析工具，可模拟数千张选区地图以检测党派不公正划分
实施模式
选举中的人工智能和公民技术的实践
自动签名验证软件将邮寄选票签名与选民登记记录进行比较，并将标记的不匹配发送给人工审核员。
自动签名验证软件将邮寄选票签名与选民登记记录进行比较，并将标记的不匹配发送给人工审核员。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会得到更好的结果。
选举中的人工智能和公民技术的实践
事实检查者和平台使用 Deepfake 检测工具来识别人工智能生成的候选视频，然后再进行病毒式传播。
事实检查者和平台使用深度造假检测工具，在人工智能生成的候选视频疯传之前识别它们。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
选举中的人工智能和公民技术的实践
州选举网站上的多语言人工智能聊天机器人回答选民有关投票地点、登记截止日期和身份要求的问题。
州选举网站上的多语言人工智能聊天机器人回答选民有关投票地点、登记截止日期和身份要求的问题。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力提高和错误成本时，通常会得到更好的结果。
选举中的人工智能和公民技术的实践
由人工智能驱动的选区重划分析工具可模拟数千张选区地图，以检测党派不公正划分选区。
由人工智能驱动的选区重划分析工具可以模拟数千张选区地图，以检测党派不公正划分选区。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
监管要求可能会使原本强大的原型失效。
历史数据可能会编码损害特定社区的偏见。
遗留系统可能会造成集成瓶颈和隐性成本。
实施路线图
让领域专家参与从问题框架到评估的整个过程。
让领域专家参与从问题框架到评估的整个过程。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
在启动前设计审计跟踪和文档。
在启动前设计审计跟踪和文档。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
尽早验证合规性和安全义务。
尽早验证合规性和安全义务。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
分阶段推出，并具有明确的停止和回滚标准。
分阶段推出，并具有明确的停止和回滚标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。