AI у виборах і Civic Tech
Штучний інтелект змінює спосіб проведення, моніторингу та участі у виборах — від автоматизації ведення списків виборців і перекладу бюлетенів до виявлення глибоких фейків і заповнення виборців синтетичними автоматичними викликами.
Огляд
The same technology that streamlines democracy can also be weaponized to undermine it.
Глибоке занурення
Виборчі органи використовують штучний інтелект для очищення списків виборців, зіставлення підписів у бюлетенях для голосування поштою, маршрутизації працівників дільниць і перекладу виборчих матеріалів десятками мов. Групи Civic-Tech використовують машинне навчання для виявлення скоординованої дезінформації, позначення глибоких фейкових відео кандидатів і картографування позбавлення прав. Але загрози реальні: у січні 2024 року створений штучним інтелектом автоматичний дзвінок, який імітував голос президента Байдена, сказав демократам Нью-Гемпшира не голосувати на первинних виборах, що призвело до штрафу FCC у розмірі 6 мільйонів доларів США та висунення обвинувачення. Generative AI знижує витрати на створення переконливих підроблених зображень, аудіо та тексту в масштабі, тому платформи та стандарти водяних знаків, як-от облікові дані вмісту C2PA, поспішають позначати синтетичні носії. Багато штатів США прийняли закони, які вимагають розкриття ШІ в політичній рекламі.
Технічне розуміння
Клони голосу Deepfake можна створювати з аудіозапису менше ніж за хвилину, використовуючи моделі перетворення тексту в мовлення, навчені на мові цільового мовлення. Виявлення працює навпаки: класифікатори шукають спектральні артефакти, неприродні паузи або звуки відсутності дихання, тоді як системи походження, такі як C2PA, криптографічно підписують медіа під час захоплення, тому будь-яке подальше редагування порушує підпис. Зіставлення підписів для бюлетенів для голосування поштою використовує оцінки подібності комп’ютерного зору, але перевірка людьми залишається обов’язковою, оскільки помилкові відмови можуть позбавити законних виборців.
Стратегічний вплив
Контекст і правила
Галузевий контекст визначає, чи виживуть ідеї ШІ при контакті з реальністю.
Контроль якості
Обмеження домену впливають на прийнятну кількість помилок і моделі контролю.
Створіть вибір
Успішне розгортання узгоджує технічні можливості з робочими процесами.
Майбутнє штучного інтелекту у виборах і громадянських технологіях
Очікуйте, що обов’язкові позначки розголошення штучного інтелекту на політичній рекламі поширяться, а стандарти походження (C2PA) будуть вбудовані в камери та телефони, щоб можна було перевірити автентичні засоби масової інформації в джерелі. Виборчі офіси спиратимуться на штучний інтелект для багатомовних чат-ботів, які відповідатимуть на запитання «де мені голосувати» та для моніторингу дезінформації в реальному часі. Напруга між використанням штучного інтелекту для масштабування чесності виборів і захистом від маніпуляцій за допомогою штучного інтелекту, помилок у списках виборців і автоматизованого придушення визначатиме політику громадянських технологій протягом наступного десятиліття.
Реалізація в реальному світі
Автоматизоване програмне забезпечення для перевірки підписів, яке порівнює підписи, надіслані поштою, із записами реєстрації виборців із позначеними невідповідностями, які надсилаються рецензентам
Інструменти виявлення глибоких фейків, які використовуються перевіряючими фактами та платформами для виявлення згенерованих штучним інтелектом відео-кандидатів, перш ніж вони стануть вірусними
Багатомовні чат-боти штучного інтелекту на виборчих веб-сайтах штатів відповідають на запитання виборців про виборчі дільниці, кінцеві терміни реєстрації та вимоги до ідентифікаційних документів
Інструменти аналізу перерозподілу на основі штучного інтелекту, які симулюють тисячі карт районів для виявлення партизанського фальсифікації
Ризики та огорожі
Нормативні вимоги можуть зробити недійсними в іншому випадку надійні прототипи.
Історичні дані можуть кодувати упередженість, яка шкодить певним спільнотам.
Застарілі системи можуть створювати вузькі місця інтеграції та приховані витрати.
Дорожня карта впровадження
Залучайте експертів із предметної області від розробки проблеми до оцінки.
Створіть контрольні стежки та документацію перед запуском.
Завчасно перевірте зобов’язання щодо відповідності та безпеки.
Розгортайте поетапно з чіткими критеріями зупинки та відкату.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Elections and Civic Tech quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Наступний посібник
ШІ в морському судноплавстві
Часті запитання
What is AI in Elections and Civic Tech?
Штучний інтелект змінює спосіб проведення, моніторингу та участі у виборах — від автоматизації ведення списків виборців і перекладу бюлетенів до виявлення глибоких фейків і заповнення виборців синтетичними автоматичними викликами. Та сама технологія, яка оптимізує демократію, також може бути використана для її підриву.
Що сталося під час праймериз у Нью-Гемпширі в січні 2024 року, на якому було підкреслено ризики ШІ на виборах?
Підроблений автоматичний дзвінок використовував голосовий клон президента Байдена зі штучним інтелектом, щоб перешкодити демократам голосувати на первинних виборах, що призвело до штрафу FCC у розмірі 6 мільйонів доларів США та висунення обвинувачення.
Для чого призначений стандарт C2PA?
C2PA (Coalition for Content Provenance and Authenticity) додає криптографічний підпис до носія, щоб будь-яке подальше втручання розірвало ланцюжок і могло бути виявлено.
Чому перевірка людиною все ще потрібна, коли ШІ збігає підписи в бюлетенях для голосування поштою?
Оцінки подібності штучного інтелекту можуть помилково позначати дійсні підписи, тому рецензенти повинні підтвердити, перш ніж бюлетень буде відхилено, щоб уникнути позбавлення прав справжніх виборців.
Скільки аудіо може бути достатньо, щоб клонувати чийсь голос за допомогою сучасних моделей синтезу мовлення?
Сучасні моделі клонування голосу можуть створювати переконливу мову з записаного звуку об’єкта менш ніж за хвилину.
Як штучний інтелект можна використовувати для виявлення партизанського геррімандерінгу?
Алгоритми генерують величезні ансамблі законних карт районів, щоб аналітики могли побачити, чи є прийнята карта статистичним відхиленням на користь однієї сторони.