ИИ в выборах и гражданских технологиях
ИИ меняет способы проведения, мониторинга и оспаривания выборов — от автоматизации ведения списков избирателей и перевода бюллетеней до обнаружения дипфейков и наводнения избирателей синтетическими роботизированными звонками.
Обзор
The same technology that streamlines democracy can also be weaponized to undermine it.
Глубокое погружение
Представители избирательной комиссии используют ИИ для проверки списков избирателей, сверки подписей в почтовых бюллетенях, маршрутизации работников избирательных участков и перевода избирательных материалов на десятки языков. Группы гражданских технологий используют машинное обучение для обнаружения скоординированной дезинформации, выявления фейковых видеороликов кандидатов и картирования лишения избирательных прав. Но угрозы реальны: в январе 2024 года фальшивый звонок от робота, созданный искусственным интеллектом и имитирующий голос президента Байдена, приказал демократам Нью-Гэмпшира не голосовать на предварительных выборах, что привело к штрафу Федеральной комиссии по связи в размере 6 миллионов долларов и предъявлению обвинения. Генеративный искусственный интеллект снижает затраты на создание убедительных поддельных изображений, аудио и текста в больших масштабах, поэтому платформы и стандарты водяных знаков, такие как учетные данные контента C2PA, стремятся маркировать синтетические носители. Многие штаты США приняли законы, требующие раскрытия информации об искусственном интеллекте в политической рекламе.
Техническая информация
Клоны голоса Deepfake могут быть созданы менее чем из минуты аудио с использованием моделей преобразования текста в речь, обученных на речи цели. Обнаружение работает наоборот: классификаторы ищут спектральные артефакты, неестественные паузы или пропущенные звуки дыхания, в то время как системы происхождения, такие как C2PA, криптографически подписывают носитель при захвате, поэтому любое последующее редактирование нарушает подпись. При сопоставлении подписей в почтовых бюллетенях используются оценки сходства компьютерного зрения, но проверка человеком остается обязательной, поскольку ложные отказы могут лишить законных избирателей избирательных прав.
Стратегическое воздействие
Контекст и правила
Отраслевой контекст определяет, выживут ли идеи ИИ при контакте с реальностью.
Контроль качества
Ограничения предметной области влияют на приемлемый уровень ошибок и модели надзора.
Выбор сборки
Успешные развертывания позволяют согласовать технические возможности с рабочими процессами на переднем крае.
Будущее искусственного интеллекта в выборах и гражданских технологиях
Ожидайте распространения обязательных этикеток с информацией об искусственном интеллекте на политической рекламе, а стандарты происхождения (C2PA) будут встроены в камеры и телефоны, чтобы аутентичность медиа можно было проверять у источника. Избирательные комиссии будут использовать искусственный интеллект для создания многоязычных чат-ботов, отвечающих на вопросы «где я голосую», а также для мониторинга дезинформации в режиме реального времени. Напряженность между использованием ИИ для масштабирования честности выборов и защитой от манипуляций с его помощью, ошибок в списках избирателей и автоматического подавления будет определять политику гражданских технологий на протяжении десятилетия.
Реальная реализация
Программное обеспечение для автоматической проверки подписей, сравнивающее подписи в бюллетенях для голосования по почте с записями о регистрации избирателей, а отмеченные несоответствия отправляются проверяющим.
Инструменты обнаружения дипфейков, используемые специалистами по проверке фактов и платформами для выявления видео-кандидатов, созданных ИИ, прежде чем они станут вирусными.
Многоязычные чат-боты с искусственным интеллектом на сайтах государственных выборов отвечают на вопросы избирателей об избирательных участках, сроках регистрации и требованиях, удостоверяющих личность.
Инструменты анализа перераспределения округов на базе искусственного интеллекта, которые моделируют тысячи карт районов для выявления партийных махинаций.
Риски и ограничения
Нормативные требования могут сделать недействительными сильные прототипы.
Исторические данные могут отражать предвзятость, которая наносит вред конкретным сообществам.
Устаревшие системы могут создавать узкие места в интеграции и скрытые затраты.
Дорожная карта реализации
Привлекайте экспертов в предметной области от постановки проблемы до оценки.
Разработайте журналы аудита и документацию перед запуском.
Заблаговременно проверяйте соответствие требованиям и обязательства по безопасности.
Развертывание поэтапно с четкими критериями остановки и отката.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Elections and Civic Tech quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Следующее руководство
ИИ в морском судоходстве и судоходстве
Часто задаваемые вопросы
What is AI in Elections and Civic Tech?
ИИ меняет способы проведения, мониторинга и оспаривания выборов — от автоматизации ведения списков избирателей и перевода бюллетеней до обнаружения дипфейков и наводнения избирателей синтетическими роботизированными звонками. Та же технология, которая упрощает демократию, также может быть использована в качестве оружия для ее подрыва.
Что произошло на первичных выборах в Нью-Гэмпшире в январе 2024 года, которые подчеркнули риски выборов, связанные с ИИ?
Поддельный робот-звонок использовал голосовой клон президента Байдена с использованием искусственного интеллекта, чтобы отговорить демократов от голосования на предварительных выборах, что привело к штрафу Федеральной комиссии по связи в размере 6 миллионов долларов и предъявлению обвинения.
Для чего предназначен стандарт C2PA?
C2PA (Коалиция за происхождение и подлинность контента) прикрепляет к медиафайлам криптографическую подпись, поэтому любое последующее вмешательство разрывает цепочку и может быть обнаружено.
Почему человеческая проверка по-прежнему требуется, когда ИИ сверяет подписи в почтовых бюллетенях?
Оценки сходства ИИ могут ошибочно отмечать действительные подписи, поэтому рецензенты должны подтвердить это, прежде чем бюллетень будет отклонен, чтобы не лишать избирательных прав реальных избирателей.
Какого объема звука может быть достаточно, чтобы клонировать чей-то голос с помощью современных моделей преобразования текста в речь?
Современные модели клонирования голоса могут воспроизводить убедительную речь менее чем из минуты записанного звука цели.
Как можно использовать ИИ для обнаружения партизанских махинаций?
Алгоритмы генерируют огромные ансамбли карт юридических округов, поэтому аналитики могут увидеть, является ли принятая карта статистическим выбросом в пользу одной партии.