선거 및 시민 기술의 AI
AI는 유권자 명부 유지 관리 자동화, 투표용지 번역에서부터 딥페이크 탐지 및 합성 자동녹음전화로 유권자를 범람시키는 일까지 선거가 진행되고, 모니터링되고, 경쟁하는 방식을 바꾸고 있습니다.
개요
The same technology that streamlines democracy can also be weaponized to undermine it.
심층 분석
선거 공무원은 AI를 사용하여 유권자 명부를 정리하고, 우편 투표용지의 서명을 일치시키고, 투표소 직원을 라우팅하고, 선거 자료를 수십 개의 언어로 번역합니다. Civic-tech groups deploy machine learning to detect coordinated disinformation, flag deepfake candidate videos, and map disenfranchisement. 그러나 위협은 현실입니다. 2024년 1월 바이든 대통령의 목소리를 흉내낸 가짜 AI 생성 자동녹음전화가 뉴햄프셔 민주당원들에게 예비선거에서 투표하지 말라고 지시해 FCC 벌금 600만 달러와 기소로 이어졌습니다. Generative AI는 설득력 있는 가짜 이미지, 오디오 및 텍스트를 대규모로 생성하는 비용을 낮추므로 C2PA 콘텐츠 자격 증명과 같은 플랫폼 및 워터마킹 표준은 합성 미디어에 라벨을 붙이기 위해 경쟁하고 있습니다. Many U.S. states have passed laws requiring disclosure of AI in political ads.
기술적 통찰력
Deepfake voice clones can be built from under a minute of audio using text-to-speech models trained on a target's speech. 감지는 역방향으로 작동합니다. 분류자는 스펙트럼 아티팩트, 부자연스러운 일시 중지 또는 누락된 숨소리를 찾는 반면, C2PA와 같은 출처 시스템은 캡처 시 미디어에 암호화 서명을 하므로 나중에 편집하면 서명이 깨집니다. 우편 투표용 서명 일치는 컴퓨터 비전 유사성 점수를 사용하지만 허위 거부로 인해 합법적인 유권자의 권리가 박탈될 수 있으므로 사람의 검토는 여전히 필수입니다.
전략적 영향
맥락과 규칙
산업적 맥락은 AI 아이디어가 현실과의 접촉에서 살아남는지 여부를 결정합니다.
품질 관리
도메인 제약 조건은 허용 가능한 오류율과 감독 모델에 영향을 미칩니다.
빌드 선택
성공적인 배포는 기술 역량을 일선 워크플로에 맞춰 조정합니다.
선거와 시민 기술에서 AI의 미래
정치 광고에 필수 AI 공개 라벨이 확산되고 출처 표준(C2PA)이 카메라와 휴대폰에 내장되어 원본 미디어를 소스에서 확인할 수 있습니다. Election offices will lean on AI for multilingual chatbots answering 'where do I vote' questions and for real-time disinformation monitoring. AI를 사용하여 선거 무결성을 확장하는 것과 AI 기반 조작, 유권자 명부 오류 및 자동화된 진압으로부터 보호하는 것 사이의 긴장은 10년 동안 시민 기술 정책을 정의할 것입니다.
실제 구현
우편 투표용지 서명과 유권자 등록 기록을 비교하고 표시된 불일치 항목을 검토자에게 전송하는 자동 서명 확인 소프트웨어
AI가 생성한 후보 비디오가 입소문이 나기 전에 이를 식별하기 위해 사실 확인 기관과 플랫폼에서 사용하는 딥페이크 탐지 도구
주 선거 웹사이트의 다국어 AI 챗봇은 투표 장소, 등록 마감일, 신분증 요구 사항에 대한 유권자 질문에 답변합니다.
수천 개의 구역 지도를 시뮬레이션하여 당파적 게리맨더링을 탐지하는 AI 기반 구역 재구획 분석 도구
위험 및 가드레일
규제 요구 사항으로 인해 강력한 프로토타입이 무효화될 수 있습니다.
과거 데이터에는 특정 커뮤니티에 해를 끼치는 편견이 포함될 수 있습니다.
레거시 시스템은 통합 병목 현상과 숨겨진 비용을 발생시킬 수 있습니다.
구현 로드맵
문제 프레이밍부터 평가까지 도메인 전문가를 참여시킵니다.
출시 전에 감사 추적 및 문서를 설계하세요.
규정 준수 및 안전 의무를 조기에 검증하십시오.
명확한 중지 및 롤백 기준을 사용하여 단계적으로 롤아웃합니다.
계속 탐색하세요
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Elections and Civic Tech quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
다음 가이드
해양 및 해운 분야의 AI
자주 묻는 질문
What is AI in Elections and Civic Tech?
AI는 유권자 명부 유지 관리 자동화, 투표용지 번역에서부터 딥페이크 탐지 및 합성 자동녹음전화로 유권자를 범람시키는 일까지 선거가 진행되고, 모니터링되고, 경쟁하는 방식을 바꾸고 있습니다. The same technology that streamlines democracy can also be weaponized to undermine it.
AI 선거 위험을 강조한 2024년 1월 뉴햄프셔 예비선거에서 무슨 일이 일어났나요?
스푸핑된 자동녹음전화는 바이든 대통령의 AI 음성 복제를 사용하여 민주당원들이 예비선거에서 투표하는 것을 방해했으며, 결과적으로 FCC는 600만 달러의 벌금을 부과하고 기소했습니다.
C2PA 표준은 무엇을 위해 설계되었나요?
C2PA(콘텐츠 출처 및 진위성 연합)는 미디어에 암호화 서명을 첨부하므로 나중에 변조할 경우 체인이 끊어지고 감지될 수 있습니다.
AI가 우편 투표용지의 서명과 일치할 때 여전히 사람의 검토가 필요한 이유는 무엇입니까?
AI 유사성 점수는 유효한 서명을 잘못 표시할 수 있으므로 실제 유권자의 권리를 박탈하는 것을 방지하려면 투표가 거부되기 전에 인간 검토자가 확인해야 합니다.
최신 텍스트 음성 변환 모델을 사용하여 누군가의 음성을 복제하는 데 오디오의 양은 얼마나 됩니까?
최신 음성 복제 모델은 대상이 녹음한 1분 미만의 오디오에서 설득력 있는 음성을 생성할 수 있습니다.
당파적 게리맨더링을 탐지하기 위해 AI를 어떻게 사용할 수 있습니까?
알고리즘은 법적 구역 지도의 거대한 앙상블을 생성하므로 분석가는 제정된 지도가 한 정당을 선호하는 통계적 이상치인지 여부를 확인할 수 있습니다.