РУКОВОДСТВО ПО ОБЩЕСТВУ

Мошенничество с клонированием голоса с помощью искусственного интеллекта и как защитить себя

AI voice cloning scams use a synthetic copy of someone's voice, often built from short clips posted online, to call a relative or employee and demand urgent money, for example a fake grandchild in jail or a fake executive requesting a wire transfer.

Прослушайте это руководствоОзвучено ИИ · ~3 min

На этой странице4 минуты чтения
  1. Обзор
  2. Глубокое погружение
  3. Реальная реализация
  4. The Future of AI Voice Cloning Scams and How to Protect Yourself
  5. Применение на практике
  6. Продолжайте исследовать
  7. Часто задаваемые вопросы

Обзор

The best defense is a verification habit: hang up and call the person back on a number you already know, or ask for a pre-agreed family safe word. It matters because a familiar voice is no longer proof of who is calling.

Глубокое погружение

Voice cloning tools can now produce a convincing imitation of a person's voice from a small amount of recorded speech, sometimes less than a minute, taken from social media videos, voicemail greetings, podcasts or earlier phone calls. Scammers combine the cloned voice with an old script: an emergency, secrecy and pressure to pay immediately. Two patterns dominate. The family emergency scam imitates a child or grandchild claiming arrest, an accident or a kidnapping, and asks for payment through wire transfer, cryptocurrency, gift cards or a courier who collects cash. The business version, often called CEO fraud, imitates an executive to push an employee into an urgent transfer. A widely reported 2019 case involved a UK energy firm whose chief executive transferred about 220,000 euros after a call imitating his parent company's boss. In early 2024, police in Hong Kong reported that an employee of the engineering firm Arup paid out roughly 25 million US dollars after a video call with deepfaked colleagues, showing the same tactic extending to video. In 2023 the US Federal Trade Commission warned consumers specifically about family emergency scams using cloned voices, and in 2024 the Federal Communications Commission ruled that AI-generated voices in robocalls fall under existing US robocall restrictions. The main misconception is that you would recognize a fake. Under stress, people fill in gaps, and scammers keep calls short, noisy or emotional to hide flaws. Protection relies on procedures, not ears: a family safe word, calling back on a known number, refusing to pay by gift card or crypto, and involving another person before sending money. Victims in the US can report to the FTC at ReportFraud.ftc.gov and to the FBI's Internet Crime Complaint Center at ic3.gov; elsewhere, contact local police and your bank immediately.

Реальная реализация

A grandmother receives a call from what sounds like her grandson saying he crashed a car and needs bail money in gift cards; she asks for the family safe word, he cannot give it, and she hangs up and calls her grandson directly.

A finance employee gets a call that sounds like the company's CFO asking for an urgent confidential transfer, and follows the company rule of confirming through a second channel before sending any money.

A parent hears what sounds like their daughter crying and a man demanding ransom; another family member texts the daughter at the same time and confirms she is safe at school.

A person who posts many videos online sets their accounts to private and agrees a safe word with their parents after reading a consumer warning about cloned voices.

The Future of AI Voice Cloning Scams and How to Protect Yourself

Voice cloning will likely keep getting cheaper and more realistic, so defenses will shift further toward verification procedures and authenticated communication. Telecom call authentication, bank delays and warnings on unusual transfers, and consent rules at voice cloning providers may help but will not close every gap. Businesses are increasingly adopting multi-person approval for payments. For individuals, the durable steps are simple: agree a safe word, verify through a second channel, limit public voice recordings where practical, and report attempts so authorities can track patterns.

Применение на практике

Почему это важно

  • Риски и безопасность. Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
  • Более четкие решения. Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
  • Пробивая шумиху. Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.

Следите за

  • Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
  • Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
  • Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.

Следующие шаги

  1. Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
  2. Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
  3. Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
  4. Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.

Продолжайте исследовать

Бесплатная рассылка

Получайте ежедневный AI-обзор

Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.

Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.

Проверьте себя

Take the AI Voice Cloning Scams and How to Protect Yourself quiz

Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.

Начать тест

Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование

Часто задаваемые вопросы

What is AI Voice Cloning Scams and How to Protect Yourself?

AI voice cloning scams use a synthetic copy of someone's voice, often built from short clips posted online, to call a relative or employee and demand urgent money, for example a fake grandchild in jail or a fake executive requesting a wire transfer. The best defense is a verification habit: hang up and call the person back on a number you already know, or ask for a pre-agreed family safe word. It matters because a familiar voice is no longer proof of who is calling.

Откуда мошенники часто берут аудио, необходимое для клонирования голоса?

Коротких отрывков из общедоступных видеороликов, подкастов или приветствий голосовой почты может быть достаточно для современных инструментов клонирования.

Каков самый надежный ответ на срочный звонок родственника с просьбой о деньгах?

Внеполосная проверка полностью обходит канал мошенника и не зависит от обнаружения фейка.

Для чего используется семейное безопасное слово?

Заранее согласованный секрет, который не будет известен клонированному голосу, помогает подтвердить личность во время вызова службы экстренной помощи.

Почему знакомый идентификационный номер вызывающего абонента не является доказательством подлинности вызова?

Спуфинг — это отдельный метод, который подделывает отображаемый номер, поэтому и голос, и номер могут вводить в заблуждение.

Что показывает случай с Arup в Гонконге в 2024 году?

Сообщается, что сотрудник заплатил примерно 25 миллионов долларов США после видеозвонка с поддельными коллегами.

Продолжайте учиться

Связанные руководства

Другие руководства, выбранные по этой теме

Получите бесплатный AI-сертификатКороткий бесплатный курс и экзамен. Без стоимости, без карты. Около 2,5 часов.Начать бесплатно →