Tiếp theoHướng dẫn tiếp theo
Nhân bản giọng nói
AI âm thanh
HƯỚNG DẪN xã hội
Lừa đảo nhân bản giọng nói AI và cách tự bảo vệ mình
Lừa đảo nhân bản giọng nói AI sử dụng bản sao tổng hợp giọng nói của ai đó, thường được tạo từ các đoạn clip ngắn đăng trực tuyến, để gọi cho người thân hoặc nhân viên và đòi tiền khẩn cấp, chẳng hạn như một đứa cháu giả đang ngồi tù hoặc một giám đốc điều hành giả yêu cầu chuyển khoản.
Trên trang nàyđọc 4 phút
Tổng quan
Cách bảo vệ tốt nhất là thói quen xác minh: gác máy và gọi lại cho người đó theo số bạn đã biết hoặc yêu cầu một từ an toàn đã được gia đình thống nhất trước. Nó quan trọng vì giọng nói quen thuộc không còn là bằng chứng cho thấy ai đang gọi.
Lặn sâu
Các công cụ nhân bản giọng nói giờ đây có thể tạo ra sự bắt chước giọng nói của một người một cách thuyết phục từ một lượng nhỏ lời nói được ghi âm, đôi khi chưa đầy một phút, lấy từ các video trên mạng xã hội, lời chào thư thoại, podcast hoặc các cuộc gọi điện thoại trước đó. Những kẻ lừa đảo kết hợp giọng nói nhân bản với một kịch bản cũ: trường hợp khẩn cấp, bí mật và áp lực phải thanh toán ngay lập tức. Hai mô hình chiếm ưu thế. Lừa đảo khẩn cấp trong gia đình bắt chước một đứa trẻ hoặc đứa cháu tuyên bố bị bắt, một tai nạn hoặc một vụ bắt cóc và yêu cầu thanh toán thông qua chuyển khoản ngân hàng, tiền điện tử, thẻ quà tặng hoặc người chuyển phát nhanh thu tiền mặt. Phiên bản kinh doanh, thường được gọi là gian lận của CEO, bắt chước một giám đốc điều hành để đẩy nhân viên vào tình trạng thuyên chuyển khẩn cấp. Một trường hợp được báo cáo rộng rãi vào năm 2019 liên quan đến một công ty năng lượng của Vương quốc Anh có giám đốc điều hành đã chuyển khoảng 220.000 euro sau một cuộc gọi bắt chước ông chủ công ty mẹ của ông. Đầu năm 2024, cảnh sát Hồng Kông báo cáo rằng một nhân viên của công ty kỹ thuật Arup đã trả khoảng 25 triệu đô la Mỹ sau một cuộc gọi điện video với các đồng nghiệp đã thực hiện deepfake, cho thấy chiến thuật tương tự cũng mở rộng sang video. Vào năm 2023, Ủy ban Thương mại Liên bang Hoa Kỳ đã cảnh báo cụ thể người tiêu dùng về các trò lừa đảo khẩn cấp trong gia đình bằng cách sử dụng giọng nói nhân bản và vào năm 2024, Ủy ban Truyền thông Liên bang đã ra phán quyết rằng giọng nói do AI tạo ra trong các cuộc gọi tự động nằm trong các hạn chế về cuộc gọi tự động hiện có của Hoa Kỳ. Quan niệm sai lầm chính là bạn sẽ nhận ra hàng giả. Khi bị căng thẳng, mọi người sẽ lấp đầy những khoảng trống và những kẻ lừa đảo sẽ gọi điện ngắn gọn, ồn ào hoặc xúc động để che giấu khuyết điểm. Việc bảo vệ dựa vào các thủ tục, không phải vào đôi tai: một từ an toàn cho gia đình, gọi lại theo số đã biết, từ chối thanh toán bằng thẻ quà tặng hoặc tiền điện tử và liên quan đến người khác trước khi gửi tiền. Nạn nhân ở Hoa Kỳ có thể báo cáo với FTC tại ReportFraud.ftc.gov và Trung tâm Khiếu nại Tội phạm Internet của FBI tại ic3.gov; ở nơi khác, hãy liên hệ ngay với cảnh sát địa phương và ngân hàng của bạn.
Tác động chiến lược
Rủi ro và an toàn
Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
Quyết định rõ ràng hơn
Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
Phá vỡ sự thổi phồng
Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.
Tương lai của các trò lừa đảo nhân bản giọng nói AI và cách tự bảo vệ mình
Nhân bản giọng nói có thể sẽ ngày càng rẻ hơn và thực tế hơn, do đó, các biện pháp phòng vệ sẽ chuyển sang các thủ tục xác minh và liên lạc được xác thực. Xác thực cuộc gọi viễn thông, sự chậm trễ của ngân hàng và cảnh báo về các giao dịch chuyển tiền bất thường cũng như các quy tắc chấp thuận tại các nhà cung cấp nhân bản giọng nói có thể hữu ích nhưng sẽ không thu hẹp mọi khoảng cách. Các doanh nghiệp đang ngày càng áp dụng phê duyệt nhiều người cho các khoản thanh toán. Đối với các cá nhân, các bước bền vững rất đơn giản: đồng ý một từ an toàn, xác minh qua kênh thứ hai, hạn chế ghi âm giọng nói công khai nếu thực tế và báo cáo các nỗ lực để chính quyền có thể theo dõi các mẫu.
Triển khai trong thế giới thực
Một người bà nhận được một cuộc gọi giống như cháu trai của bà nói rằng nó đã bị tai nạn ô tô và cần tiền bảo lãnh bằng thẻ quà tặng; Cô yêu cầu lời an toàn của gia đình, anh ta không thể đưa ra, cô cúp máy và gọi trực tiếp cho cháu trai mình.
Một nhân viên tài chính nhận được một cuộc gọi có vẻ giống như giám đốc tài chính của công ty yêu cầu chuyển khoản bí mật khẩn cấp và tuân theo quy tắc của công ty là xác nhận qua kênh thứ hai trước khi gửi bất kỳ khoản tiền nào.
Một bậc cha mẹ nghe thấy âm thanh như tiếng khóc của con gái họ và tiếng một người đàn ông đòi tiền chuộc; cùng lúc đó một thành viên khác trong gia đình nhắn tin cho con gái và xác nhận rằng cô bé vẫn an toàn ở trường.
Một người đăng nhiều video trực tuyến sẽ đặt tài khoản của họ ở chế độ riêng tư và đồng ý một lời nói an toàn với cha mẹ sau khi đọc cảnh báo của người tiêu dùng về giọng nói nhân bản.
Rủi ro & lan can
Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.
Lộ trình thực hiện
Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI Voice Cloning Scams and How to Protect Yourself quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Câu hỏi thường gặp
Lừa đảo nhân bản giọng nói AI là gì và cách bảo vệ bản thân?
Lừa đảo nhân bản giọng nói AI sử dụng bản sao tổng hợp giọng nói của ai đó, thường được tạo từ các đoạn clip ngắn đăng trực tuyến, để gọi cho người thân hoặc nhân viên và đòi tiền khẩn cấp, chẳng hạn như một đứa cháu giả đang ngồi tù hoặc một giám đốc điều hành giả yêu cầu chuyển khoản. Cách bảo vệ tốt nhất là thói quen xác minh: gác máy và gọi lại cho người đó theo số bạn đã biết hoặc yêu cầu một từ an toàn đã được gia đình thống nhất trước. Nó quan trọng vì giọng nói quen thuộc không còn là bằng chứng cho thấy ai đang gọi.
Những kẻ lừa đảo thường lấy âm thanh cần thiết để sao chép giọng nói ở đâu?
Các đoạn clip ngắn từ video công khai, podcast hoặc lời chào thư thoại có thể đủ cho các công cụ nhân bản hiện đại.
Câu trả lời đáng tin cậy nhất cho cuộc gọi khẩn cấp từ người thân xin tiền là gì?
Xác minh ngoài băng tần hoàn toàn bỏ qua kênh của kẻ lừa đảo và không phụ thuộc vào việc phát hiện hàng giả.
Từ an toàn cho gia đình được dùng để làm gì?
Một bí mật đã được thỏa thuận trước mà giọng nói nhân bản sẽ không biết sẽ giúp xác nhận danh tính trong cuộc gọi khẩn cấp.
Tại sao số ID người gọi quen thuộc không phải là bằng chứng cuộc gọi là thật?
Giả mạo là một kỹ thuật riêng biệt nhằm làm giả số được hiển thị, do đó cả giọng nói và số đều có thể gây hiểu nhầm.
Vụ án Arup 2024 ở Hồng Kông cho thấy điều gì?
Một nhân viên được cho là đã trả khoảng 25 triệu đô la Mỹ sau cuộc gọi điện video với các đồng nghiệp bị deepfake.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này