社團指南

人工智慧語音克隆騙局以及如何保護自己

人工智慧語音克隆詐騙使用某人聲音的合成副本(通常是根據在線發布的短片構建的)來給親戚或員工打電話並索取緊急資金,例如監獄中的假孫子或要求電彙的假高管。

聆聽此指南AI 語音敘述 · ~3 min

本頁4 分鐘閱讀
  1. 概述
  2. 深入探討
  3. 現實世界的實施
  4. 人工智慧語音克隆詐騙的未來以及如何保護自己
  5. 付諸實踐
  6. 不斷探索
  7. 常見問題

概述

最好的防禦措施是養成驗證習慣:掛斷電話,然後用您已經知道的號碼給對方回電,或詢問預先商定的家庭安全詞。這很重要,因為熟悉的聲音不再能證明是誰在打電話。

深入探討

語音複製工具現在可以從社交媒體視訊、語音郵件問候語、播客或先前的電話中獲取的少量錄製語音(有時不到一分鐘)生成令人信服的人聲模仿。詐騙者將克隆聲音與舊腳本結合:緊急情況、保密和立即付款的壓力。兩種模式占主導地位。家庭緊急詐騙模仿兒童或孫子聲稱被捕、發生事故或綁架,並要求透過電匯、加密貨幣、禮品卡或收現金的快遞公司付款。商業版本通常被稱為執行長欺詐,模仿高階主管將員工緊急調動。 2019 年廣為報導的一起案件涉及一家英國能源公司,該公司執行長在模仿其母公司老闆的電話後轉移了約 22 萬歐元。 2024 年初,香港警方報告稱,工程公司 Arup 的一名員工在與 Deepfake 同事進行視訊通話後支付了約 2500 萬美元,這表明同樣的策略也延伸到了視訊領域。 2023 年,美國聯邦貿易委員會特別向消費者發出關於使用複製聲音的家庭緊急詐騙的警告,2024 年,聯邦通訊委員會裁定,自動電話中人工智慧產生的聲音屬於美國現有的自動電話限制範圍。主要的誤解是您會認出假貨。在壓力下,人們會填補空白,詐騙者會透過簡短、吵鬧或情緒化的方式來掩蓋缺陷。保護依賴程序,而不是耳朵:家庭安全詞、回撥已知號碼、拒絕使用禮品卡或加密貨幣支付、以及在匯款之前涉及另一個人。美國的受害者可以向 FTC 舉報(ReportFraud.ftc.gov)和 FBI 網路犯罪投訴中心(ic3.gov);在其他地方,請立即聯繫當地警方和您的銀行。

現實世界的實施

一位祖母接到聽起來像是她孫子的電話,說他出了車禍,需要用禮品卡支付保釋金;她要求家庭安全詞,他不能給,她掛斷電話,直接給她的孫子打電話。

財務員工接到電話,聽起來像是公司財務長要求進行緊急保密轉賬,並遵循公司規則,在匯款之前透過第二管道進行確認。

一位家長聽到女兒在哭泣,一名男子要求贖金;另一位家庭成員同時給女兒發短信,確認她在學校很安全。

一個在網路上發布大量影片的人在閱讀了有關克隆聲音的消費者警告後,將自己的帳戶設定為私人帳戶,並與父母同意安全詞。

人工智慧語音克隆詐騙的未來以及如何保護自己

語音克隆可能會變得越來越便宜、越來越現實,因此防禦措施將進一步轉向驗證程序和經過身份驗證的通訊。電信呼叫身份驗證、銀行延遲和異常轉帳警告以及語音克隆提供商的同意規則可能會有所幫助,但無法彌補所有差距。企業越來越多採用多人審批付款方式。對於個人來說,持久的步驟很簡單:同意一個安全詞,透過第二個管道進行驗證,在可行的情況下限制公共錄音,並報告嘗試,以便當局可以追蹤模式。

付諸實踐

為什麼這很重要

  • 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
  • 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
  • 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。

留意

  • 將存在風險視為科幻小說,同時能力複合。
  • 混淆了表面產品安全與高度自治下的對準。
  • 只給非英語和非專業觀眾留下低品質的資源。

後續步驟

  1. 單獨的產品危害、誤用和失控/失調風險。
  2. 詢問哪些證據會改變您對時間表和嚴重性的看法。
  3. 比起行銷主張,更喜歡主要來源和具體評估。
  4. 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。

不斷探索

免費電子報

獲取每日 AI 簡報

每個工作日上午提供三則經過驗證的 AI 新聞,以淺顯易懂的英文撰寫。永久免費,無廣告。

每個工作日一封電子郵件。一鍵取消訂閱。我們絕不出售或分享您的地址。

測試一下自己

參加「AI 語音複製詐騙與如何保護自己」測驗

每個答案皆有即時回饋,通過課程後可獲得具備可驗證 ID 的可分享證書。

開始測驗

支持免費的 AI 教育。AI Understanding 是一個 501(c)(3) 非營利組織——絕無廣告,絕無付費牆。 捐款

常見問題

什麼是人工智慧語音克隆詐騙以及如何保護自己?

人工智慧語音克隆詐騙使用某人聲音的合成副本(通常是根據在線發布的短片構建的)來給親戚或員工打電話並索取緊急資金,例如監獄中的假孫子或要求電彙的假高管。最好的防禦措施是養成驗證習慣:掛斷電話,然後用您已經知道的號碼給對方回電,或詢問預先商定的家庭安全詞。這很重要,因為熟悉的聲音不再能證明是誰在打電話。

詐騙者通常從哪裡獲取克隆聲音所需的音訊?

公共視訊、播客或語音郵件問候語的短片足以滿足現代克隆工具的需要。

對於親戚要錢的緊急電話,最可靠的回應是什麼?

帶外驗證完全繞過詐騙者的管道,並且不依賴檢測假貨。

家庭安全詞有什麼用?

克隆聲音不知道的預先商定的秘密有助於在緊急呼叫期間確認身份。

為什麼熟悉的來電顯示號碼不能證明來電真實性?

欺騙是一種單獨的技術,可以偽造顯示的號碼,因此語音和號碼都可能會產生誤導。

2024年香港奧雅納案說明了什麼?

據報道,一名員工在與深造同事進行視訊通話後支付了約 2500 萬美元。