选举和公民技术中的人工智能
人工智能正在重塑选举的运行、监控和竞争方式——从自动化选民名册维护和翻译选票到检测深度造假和用合成机器人电话淹没选民。
概述
The same technology that streamlines democracy can also be weaponized to undermine it.
深入探讨
选举官员使用人工智能来清理选民名册、匹配邮寄选票上的签名、路由投票工作人员以及将选举材料翻译成数十种语言。公民技术团体部署机器学习来检测协调一致的虚假信息，标记深度伪造的候选视频，并绘制剥夺公民权的地图。但威胁是真实存在的：2024 年 1 月，一个模仿拜登总统声音的人工智能生成的虚假机器人电话告诉新罕布什尔州民主党人不要在初选中投票，导致 FCC 罚款 600 万美元并被起诉。生成式 AI 降低了大规模生成令人信服的虚假图像、音频和文本的成本，因此 C2PA 内容凭证等平台和水印标准正在竞相标记合成媒体。美国许多州已通过法律，要求在政治广告中披露人工智能信息。
技术洞察
Deepfake 语音克隆可以使用针对目标语音训练的文本到语音模型从不到一分钟的音频中构建。检测的工作原理相反：分类器寻找光谱伪影、不自然的停顿或丢失的呼吸音，而 C2PA 等来源系统在捕获时对媒体进行加密签名，以便任何后续编辑都会破坏签名。邮件选票的签名匹配使用计算机视觉相似度评分，但人工审查仍然是强制性的，因为错误的拒绝可能会剥夺合法选民的选举权。
战略影响
背景与规则
行业背景决定了人工智能创意能否与现实接触。
质量控制
领域约束会影响可接受的错误率和监督模型。
构建选择
成功的部署使技术能力与一线工作流程保持一致。
人工智能在选举和公民技术中的未来
预计政治广告上的强制性人工智能披露标签将会传播，出处标准 (C2PA) 将被纳入相机和手机中，以便可以从源头验证媒体的真实性。选举办公室将依靠人工智能的多语言聊天机器人来回答“我在哪里投票”的问题，并进行实时虚假信息监控。使用人工智能来衡量选举的完整性与防范人工智能驱动的操纵、选民名册错误和自动镇压之间的紧张关系将决定未来十年的公民技术政策。
现实世界的实施
自动签名验证软件将邮寄选票签名与选民登记记录进行比较，并将标记的不匹配发送给人工审核员
事实核查人员和平台使用 Deepfake 检测工具在 AI 生成的候选视频传播之前识别它们
州选举网站上的多语言人工智能聊天机器人回答选民有关投票地点、登记截止日期和身份要求的问题
由人工智能驱动的选区重新划分分析工具，可模拟数千张选区地图以检测党派不公正划分
风险与防护栏
监管要求可能会使原本强大的原型失效。
历史数据可能会编码损害特定社区的偏见。
遗留系统可能会造成集成瓶颈和隐性成本。
实施路线图
让领域专家参与从问题框架到评估的整个过程。
在启动前设计审计跟踪和文档。
尽早验证合规性和安全义务。
分阶段推出，并具有明确的停止和回滚标准。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Elections and Civic Tech quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is AI in Elections and Civic Tech?
人工智能正在重塑选举的运行、监控和竞争方式——从自动化选民名册维护和翻译选票到检测深度造假和用合成机器人电话淹没选民。简化民主的技术也可以被武器化来破坏它。
2024 年 1 月新罕布什尔州初选中发生了什么凸显了人工智能选举风险？
一个欺骗性的机器人电话使用了拜登总统的人工智能语音克隆来阻止民主党人在初选中投票，导致 FCC 罚款 600 万美元并被起诉。
C2PA 标准的目的是什么？
C2PA（内容来源和真实性联盟）将加密签名附加到媒体上，以便任何后来的篡改都会破坏链条并可以被检测到。
当人工智能匹配邮寄选票上的签名时，为什么仍然需要人工审核？
人工智能相似度分数可能会错误地标记有效签名，因此人类审核员必须在选票被拒绝之前进行确认，以避免剥夺真正选民的选举权。
多少音频足以使用现代文本到语音模型克隆某人的声音？
现代语音克隆模型可以从目标录制的不到一分钟的音频中产生令人信服的语音。
如何利用人工智能来检测党派不公正划分选区？
算法会生成大量合法选区地图，以便分析人员可以了解已颁布的地图是否是有利于某一政党的统计异常值。