概述
美國20多個州已經採用了一些版本。這些法律很重要,因為在投票前幾天發布的令人信服的虛假自動電話或影片可能會在任何人揭穿之前誤導選民。他們也遇到了美國法律賦予政治言論的強而有力的第一修正案保護。
深入探討
Texas passed the first deepfake election law in 2019, making it a crime to create and publish a deceptive deepfake video within 30 days of an election with intent to injure a candidate. California followed the same year with a law that includes a safe harbor for content that carries a disclosure. After generative AI tools spread in 2023, many more states acted, including Minnesota, Michigan and Washington. The laws follow two broad models. Prohibition laws ban distributing materially deceptive synthetic media of a candidate within a set window before an election. Disclosure laws allow the content if it carries a clear label. Windows vary by state, commonly from about 30 to 120 days, and most laws exempt satire, parody and news reporting. Federal action has been narrower. After the Biden robocall, the FCC ruled in February 2024 that AI-generated voices count as "artificial" under the Telephone Consumer Protection Act, which made such robocalls illegal without prior consent. The FCC fined consultant Steve Kramer $6 million; a New Hampshire jury later acquitted him of related state criminal charges in 2025. The FCC also proposed AI disclosure rules for broadcast political ads, but did not finalize them. The Federal Election Commission declined to write new rules and said instead that its existing ban on fraudulent misrepresentation applies whatever technology is used. Courts have been skeptical of broad bans. In Kohls v. Bonta a federal judge blocked California's 2024 law against deceptive election content, finding it swept in protected speech such as parody. A companion law requiring large platforms to remove such content was later also struck down. Minnesota's law was challenged as well. A common misconception is that false political speech is unprotected. In United States v. Alvarez (2012), the Supreme Court declined to treat lies as a category of speech outside First Amendment protection.
現實世界的實施
在 2024 年 1 月新罕布夏州初選之前,一個機器人電話使用了拜登總統聲音的人工智慧克隆來告訴民主黨人不要投票。 FCC 隨後對其背後的政治顧問處以 600 萬美元的罰款,而傳輸電話的電信業者同意支付 100 萬美元的和解金。
在一個有資訊揭露法的州,一場競選活動投放了一則廣告,展示人工智慧產生的對手場景。它添加了一個明確的標籤,表明內容是透過人工智慧產生或操縱的,這將其置於法律的安全港之內。
一段改變卡瑪拉哈里斯聲音的模仿影片在 2024 年廣泛傳播。加州一項針對此類內容的新法律在法庭上受到質疑,並於當年 10 月被聯邦法官否決。
在 Google 或 Meta 上購買選舉廣告的廣告主必須揭露廣告何時包含真實的合成內容,然後平台向觀眾顯示標籤。
Deepfake 選舉法和政治廣告人工智慧揭露的未來
更多的州可能會通過或修改這些法律,轉向披露要求,而法院對披露要求的處理比徹底禁止更有利。訴訟將在欺騙監管結束和模仿審查開始的地方繼續進行測試。聯邦立法已多次提出但尚未獲得通過。平台政策和 FCC 的自動電話裁決仍然是主要的國家工具。 C2PA 等出處標準可能更容易證明內容的真實性,但無法證明未標記的內容是假的。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
什麼是 Deepfake 選舉法和政治廣告人工智慧揭露?
Deepfake 選舉法是州法規,禁止或要求在選舉前幾週對候選人的人工智慧產生的欺騙性音訊、圖像或影片進行標籤。美國20多個州已經採用了一些版本。這些法律很重要,因為在投票前幾天發布的令人信服的虛假自動電話或影片可能會在任何人揭穿之前誤導選民。他們也遇到了美國法律賦予政治言論的強而有力的第一修正案保護。
2019 年哪個州通過了第一部深度造假選舉法?
德州 2019 年法律規定,在選舉後 30 天內製作和發布欺騙性深度造假影片、意圖傷害候選人的行為屬於犯罪行為。同年晚些時候,加州通過了自己的法律。
拜登機器人電話後,FCC 在 2024 年 2 月做出了哪些規定?
根據 TCPA,將人工智慧語音歸類為“人工”,使得未經事先同意的人工智慧語音自動呼叫非法。
禁止法和披露法之間的主要區別是什麼?
禁止法禁止在選舉前的一段時間內使用欺騙性合成媒體。資訊揭露法允許其帶有明確的人工智慧標籤。
科爾斯訴邦塔案中發生了什麼事?
法院認為法律對模仿等受保護的表達負有責任,並將其屏蔽。配套平台法後來也被廢除。
聯邦選舉委員會如何回應人工智慧規則的呼籲?
FEC 選擇將現有法律解釋為涵蓋人工智慧欺詐,而不是製定新的針對人工智慧的規則。