Sztuczna inteligencja w wyborach i technologiach obywatelskich
Sztuczna inteligencja zmienia sposób przeprowadzania, monitorowania i rozstrzygania wyborów — od automatyzacji obsługi spisu wyborców i tłumaczenia kart do głosowania po wykrywanie fałszywych fałszywych informacji i zalewanie wyborców syntetycznymi automatycznymi połączeniami telefonicznymi.
Przegląd
The same technology that streamlines democracy can also be weaponized to undermine it.
Głębokie nurkowanie
Urzędnicy wyborczy wykorzystują sztuczną inteligencję do czyszczenia spisów wyborców, dopasowywania podpisów na kartach do głosowania korespondencyjnych, kierowania pracowników komisji wyborczych i tłumaczenia materiałów wyborczych na dziesiątki języków. Grupy zajmujące się technologią obywatelską wdrażają uczenie maszynowe, aby wykrywać skoordynowaną dezinformację, zgłaszać fałszywe filmy kandydatów i pozbawiać praw do map. Jednak zagrożenia są realne: w styczniu 2024 r. fałszywy automatyczny telefon generowany przez sztuczną inteligencję naśladujący głos prezydenta Bidena powiedział Demokratom z New Hampshire, aby nie głosowali w prawyborach, co doprowadziło do kary FCC w wysokości 6 milionów dolarów i aktu oskarżenia. Generacyjna sztuczna inteligencja obniża koszty tworzenia przekonujących fałszywych obrazów, dźwięku i tekstu na dużą skalę, dlatego platformy i standardy znakowania wodnego, takie jak dane uwierzytelniające treści C2PA, ścigają się w oznaczaniu mediów syntetycznych. Wiele stanów USA przyjęło przepisy wymagające ujawniania sztucznej inteligencji w reklamach politycznych.
Wgląd techniczny
Klony głosu Deepfake można zbudować z mniej niż minuty dźwięku, korzystając z modeli zamiany tekstu na mowę wytrenowanych na mowie celu. Wykrywanie działa odwrotnie: klasyfikatory polują na artefakty widmowe, nienaturalne przerwy lub brakujące dźwięki oddechu, podczas gdy systemy pochodzenia, takie jak C2PA, podpisują kryptograficznie multimedia podczas przechwytywania, więc każda późniejsza edycja łamie podpis. Dopasowywanie podpisów w przypadku kart do głosowania korespondencyjnego wykorzystuje wyniki podobieństwa obrazu komputerowego, ale weryfikacja ręczna pozostaje obowiązkowa, ponieważ fałszywe odrzucenia mogą pozbawić praw wyborczych prawowitych wyborców.
Wpływ strategiczny
Kontekst i zasady
Kontekst branżowy decyduje o tym, czy pomysły AI przetrwają kontakt z rzeczywistością.
Kontrola jakości
Ograniczenia domeny wpływają na akceptowalne poziomy błędów i modele nadzoru.
Buduj wybory
Pomyślne wdrożenia łączą możliwości techniczne z przepływami pracy na pierwszej linii frontu.
Przyszłość sztucznej inteligencji w wyborach i technologiach obywatelskich
Można się spodziewać rozpowszechnienia się obowiązkowych etykiet ujawniających sztuczną inteligencję w reklamach politycznych, a standardy pochodzenia (C2PA) zostaną wszczepione w aparaty i telefony, aby można było zweryfikować autentyczne media u źródła. Urzędy wyborcze będą opierać się na sztucznej inteligencji w przypadku wielojęzycznych chatbotów odpowiadających na pytania „Gdzie głosuję” oraz do monitorowania dezinformacji w czasie rzeczywistym. Napięcie między wykorzystaniem sztucznej inteligencji do zwiększania uczciwości wyborów a ochroną przed manipulacjami opartymi na sztucznej inteligencji, błędami w spisie wyborców i automatycznym tłumieniem będzie definiować politykę technologii obywatelskich przez całą dekadę.
Implementacja w świecie rzeczywistym
Zautomatyzowane oprogramowanie do weryfikacji podpisów porównujące podpisy na kartach do głosowania korespondencyjnego z zapisami rejestracji wyborców, a oznaczone niezgodności wysyłane są do weryfikatorów
Narzędzia do głębokiego wykrywania fałszywych informacji wykorzystywane przez weryfikatorów faktów i platformy do identyfikowania kandydatów do filmów wygenerowanych przez sztuczną inteligencję, zanim staną się wirusowe
Wielojęzyczne chatboty AI na stanowych stronach wyborczych odpowiadające na pytania wyborców dotyczące lokali wyborczych, terminów rejestracji i wymogów dotyczących dokumentów tożsamości
Narzędzia do analizy redystrybucji oparte na sztucznej inteligencji, które symulują tysiące map dzielnic w celu wykrywania partyzanckich manipulacji terenami
Zagrożenia i poręcze
Wymogi prawne mogą unieważnić mocne prototypy.
Dane historyczne mogą kodować uprzedzenia, które szkodzą konkretnym społecznościom.
Starsze systemy mogą powodować wąskie gardła w integracji i ukryte koszty.
Plan wdrożenia
Zaangażuj ekspertów dziedzinowych od sformułowania problemu po ocenę.
Zaprojektuj ścieżki audytu i dokumentację przed uruchomieniem.
Wcześnie zweryfikuj wymogi dotyczące zgodności i bezpieczeństwa.
Wdrażaj etapami z jasnymi kryteriami zatrzymania i wycofywania.
Odkrywaj dalej
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Elections and Civic Tech quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Następny poradnik
Sztuczna inteligencja w transporcie morskim i żegludze
Często zadawane pytania
What is AI in Elections and Civic Tech?
Sztuczna inteligencja zmienia sposób przeprowadzania, monitorowania i rozstrzygania wyborów — od automatyzacji obsługi spisu wyborców i tłumaczenia kart do głosowania po wykrywanie fałszywych fałszywych informacji i zalewanie wyborców syntetycznymi automatycznymi połączeniami telefonicznymi. Tę samą technologię, która usprawnia demokrację, można również wykorzystać do jej osłabienia.
Co wydarzyło się w prawyborach w New Hampshire w styczniu 2024 r., co uwypukliło ryzyko związane z wyborami opartymi na sztucznej inteligencji?
W sfałszowanym automatycznym połączeniu wykorzystano klon głosu AI prezydenta Bidena, aby zniechęcić Demokratów do głosowania w prawyborach, co skutkowało grzywną w wysokości 6 milionów dolarów FCC i aktem oskarżenia.
Do czego służy standard C2PA?
C2PA (Koalicja na rzecz pochodzenia i autentyczności treści) dołącza podpis kryptograficzny do mediów, dzięki czemu wszelkie późniejsze manipulacje przerywają łańcuch i mogą zostać wykryte.
Dlaczego weryfikacja manualna jest nadal wymagana, gdy sztuczna inteligencja dopasowuje podpisy na kartach do głosowania korespondencyjnego?
Wyniki podobieństwa sztucznej inteligencji mogą błędnie oznaczać prawidłowe podpisy, dlatego weryfikatorzy muszą to potwierdzić przed odrzuceniem karty do głosowania, aby uniknąć pozbawienia praw wyborczych prawdziwych wyborców.
Ile dźwięku może wystarczyć do sklonowania czyjegoś głosu za pomocą nowoczesnych modeli zamiany tekstu na mowę?
Nowoczesne modele klonowania głosu mogą wygenerować przekonującą mowę z mniej niż minuty nagranego dźwięku celu.
Jak można wykorzystać sztuczną inteligencję do wykrywania partyzanckich manipulacji gerry?
Algorytmy generują ogromne zbiory map okręgów prawnych, dzięki czemu analitycy mogą sprawdzić, czy uchwalona mapa jest statystyczną wartością odstającą faworyzującą jedną ze stron.