AI в изборите и гражданските технологии
AI променя начина, по който изборите се провеждат, наблюдават и оспорват – от автоматизиране на поддържането на избирателни списъци и превод на бюлетини до откриване на дълбоки фалшификати и заливане на гласоподаватели със синтетични автоматични разговори.
Преглед
The same technology that streamlines democracy can also be weaponized to undermine it.
Дълбоко гмуркане
Служителите по изборите използват AI, за да почистят избирателните списъци, да съпоставят подписите върху бюлетините по пощата, да насочват служителите в анкетите и да превеждат изборни материали на десетки езици. Групите на Civic-tech внедряват машинно обучение за откриване на координирана дезинформация, маркиране на дълбоко фалшиви видеоклипове на кандидати и картографиране на лишаване от права. Но заплахите са реални: през януари 2024 г. фалшиво генерирано от AI автоматизирано обаждане, имитиращо гласа на президента Байдън, каза на демократите от Ню Хемпшир да не гласуват на първичните избори, което доведе до глоба от 6 милиона долара на FCC и обвинение. Generative AI намалява разходите за производство на убедителни фалшиви изображения, аудио и текст в мащаб, така че платформите и стандартите за водни знаци като идентификационни данни за съдържание C2PA се надпреварват да обозначават синтетични медии. Много щати на САЩ са приели закони, изискващи разкриване на AI в политически реклами.
Техническа информация
Гласови клонинги Deepfake могат да бъдат изградени от по-малко от минута аудио, като се използват модели текст към говор, обучени върху речта на целта. Откриването работи в обратна посока: класификаторите търсят спектрални артефакти, неестествени паузи или звуци на липсващо дишане, докато системите за произход като C2PA криптографски подписват медиите при заснемане, така че всяка по-късна редакция нарушава подписа. Съпоставянето на подписите за бюлетини по пощата използва резултати за сходство на компютърно зрение, но проверката от човек остава задължителна, тъй като фалшивите откази могат да лишат избирателите от гласуване.
Стратегическо въздействие
Context and rules
Индустриалният контекст определя дали идеите за ИИ оцеляват при контакт с реалността.
Quality control
Ограниченията на домейна влияят на приемливите нива на грешки и моделите за надзор.
Build choices
Успешното внедряване съгласува техническите възможности с работните потоци на първа линия.
Бъдещето на AI в изборите и гражданските технологии
Очаквайте задължителните етикети за разкриване на AI в политическите реклами да се разпространят и стандартите за произход (C2PA) да бъдат вградени в камери и телефони, така че автентичните медии да могат да бъдат проверени при източника. Избирателните служби ще разчитат на AI за многоезични чатботове, отговарящи на въпроси „къде да гласувам“ и за наблюдение на дезинформация в реално време. Напрежението между използването на AI за мащабиране на почтеността на изборите и предпазването от манипулация, управлявана от AI, грешки в избирателните списъци и автоматизирано потискане ще определя политиката на гражданските технологии през десетилетието.
Внедряване в реалния свят
Автоматизиран софтуер за проверка на подписи, сравняващ подписите на бюлетината по пощата със записите за регистрация на гласоподаватели, с маркирани несъответствия, изпратени до проверяващи хора
Инструменти за откриване на дълбоки фалшиви, използвани от проверяващи факти и платформи за идентифициране на генерирани от AI кандидат видеоклипове, преди да станат вирусни
Многоезични чат ботове с изкуствен интелект на уебсайтове за държавни избори, които отговарят на въпроси на гласоподавателите относно избирателни места, крайни срокове за регистрация и изисквания за самоличност
Задвижвани от AI инструменти за анализ на пренасочване, които симулират хиляди карти на области, за да открият партизанско манипулиране
Рискове и предпазни огради
Регулаторните изисквания могат да обезсилят иначе силните прототипи.
Историческите данни могат да кодират пристрастие, което вреди на определени общности.
Наследените системи могат да създадат затруднения при интеграцията и скрити разходи.
Пътна карта за изпълнение
Включете експерти в областта от рамкирането на проблема до оценката.
Проектирайте одитни пътеки и документация преди стартиране.
Ранно потвърдете задълженията за съответствие и безопасност.
Пускане на етапи с ясни критерии за спиране и връщане назад.
Продължете да изследвате
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Elections and Civic Tech quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
ИИ в мореплаването и корабоплаването
Frequently asked questions
What is AI in Elections and Civic Tech?
AI променя начина, по който изборите се провеждат, наблюдават и оспорват – от автоматизиране на поддържането на избирателни списъци и превод на бюлетини до откриване на дълбоки фалшификати и заливане на гласоподаватели със синтетични автоматични разговори. Същата технология, която рационализира демокрацията, може също да бъде използвана като оръжие, за да я подкопае.
Какво се случи на първичните избори в Ню Хемпшир през януари 2024 г., които подчертаха изборните рискове от ИИ?
Фалшиво автоматично повикване използва AI гласов клонинг на президента Байдън, за да обезсърчи демократите да гласуват на първичните избори, което доведе до глоба от 6 милиона долара на FCC и обвинителен акт.
За какво е предназначен стандартът C2PA?
C2PA (Коалиция за произход и автентичност на съдържанието) прикрепя криптографски подпис към медиите, така че всяка по-късна манипулация прекъсва веригата и може да бъде открита.
Защо все още се изисква проверка от човек, когато изкуственият интелект съвпада с подписите в бюлетините по пощата?
Резултатите за сходство с изкуствен интелект могат да маркират погрешно валидни подписи, така че проверяващите хора трябва да потвърдят, преди дадена бюлетина да бъде отхвърлена, за да се избегне лишаването от избирателни права на реални гласоподаватели.
Колко аудио може да бъде достатъчно, за да се клонира нечий глас с модерни модели за синтез на реч?
Съвременните модели за клониране на глас могат да произведат убедителна реч от по-малко от минута записано аудио на целта.
Как може AI да се използва за откриване на партизански манипулации?
Алгоритмите генерират огромни съвкупности от легални карти на райони, така че анализаторите да могат да видят дали въведената карта е статистически отклонение в полза на една страна.