РУКОВОДСТВО ПО ОБЩЕСТВУ

Мошенничество с клонированием голоса с помощью искусственного интеллекта и как защитить себя

AI voice cloning scams use a synthetic copy of someone's voice, often built from short clips posted online, to call a relative or employee and demand urgent money, for example a fake grandchild in jail or a fake executive requesting a wire transfer.

  • 4 минуты чтения
  • Последнее обновление
На этой странице4 минуты чтения
  1. Обзор
  2. Глубокое погружение
  3. Стратегическое воздействие
  4. The Future of AI Voice Cloning Scams and How to Protect Yourself
  5. Реальная реализация
  6. Риски и ограничения
  7. Дорожная карта реализации
  8. Продолжайте исследовать
  9. Часто задаваемые вопросы

Обзор

The best defense is a verification habit: hang up and call the person back on a number you already know, or ask for a pre-agreed family safe word. It matters because a familiar voice is no longer proof of who is calling.

Глубокое погружение

Voice cloning tools can now produce a convincing imitation of a person's voice from a small amount of recorded speech, sometimes less than a minute, taken from social media videos, voicemail greetings, podcasts or earlier phone calls. Scammers combine the cloned voice with an old script: an emergency, secrecy and pressure to pay immediately. Two patterns dominate. The family emergency scam imitates a child or grandchild claiming arrest, an accident or a kidnapping, and asks for payment through wire transfer, cryptocurrency, gift cards or a courier who collects cash. The business version, often called CEO fraud, imitates an executive to push an employee into an urgent transfer. A widely reported 2019 case involved a UK energy firm whose chief executive transferred about 220,000 euros after a call imitating his parent company's boss. In early 2024, police in Hong Kong reported that an employee of the engineering firm Arup paid out roughly 25 million US dollars after a video call with deepfaked colleagues, showing the same tactic extending to video. In 2023 the US Federal Trade Commission warned consumers specifically about family emergency scams using cloned voices, and in 2024 the Federal Communications Commission ruled that AI-generated voices in robocalls fall under existing US robocall restrictions. The main misconception is that you would recognize a fake. Under stress, people fill in gaps, and scammers keep calls short, noisy or emotional to hide flaws. Protection relies on procedures, not ears: a family safe word, calling back on a known number, refusing to pay by gift card or crypto, and involving another person before sending money. Victims in the US can report to the FTC at ReportFraud.ftc.gov and to the FBI's Internet Crime Complaint Center at ic3.gov; elsewhere, contact local police and your bank immediately.

Стратегическое воздействие

Риски и безопасность

Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.

Более четкие решения

Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.

Пробивая шумиху

Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.

The Future of AI Voice Cloning Scams and How to Protect Yourself

Voice cloning will likely keep getting cheaper and more realistic, so defenses will shift further toward verification procedures and authenticated communication. Telecom call authentication, bank delays and warnings on unusual transfers, and consent rules at voice cloning providers may help but will not close every gap. Businesses are increasingly adopting multi-person approval for payments. For individuals, the durable steps are simple: agree a safe word, verify through a second channel, limit public voice recordings where practical, and report attempts so authorities can track patterns.

Реальная реализация

A grandmother receives a call from what sounds like her grandson saying he crashed a car and needs bail money in gift cards; she asks for the family safe word, he cannot give it, and she hangs up and calls her grandson directly.

A finance employee gets a call that sounds like the company's CFO asking for an urgent confidential transfer, and follows the company rule of confirming through a second channel before sending any money.

A parent hears what sounds like their daughter crying and a man demanding ransom; another family member texts the daughter at the same time and confirms she is safe at school.

A person who posts many videos online sets their accounts to private and agrees a safe word with their parents after reading a consumer warning about cloned voices.

Риски и ограничения

  • Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.

  • Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.

  • Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.

Дорожная карта реализации

  1. Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.

  2. Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.

  3. Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.

  4. Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.

Продолжайте исследовать

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the AI Voice Cloning Scams and How to Protect Yourself quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Начать тест

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Часто задаваемые вопросы

What is AI Voice Cloning Scams and How to Protect Yourself?

AI voice cloning scams use a synthetic copy of someone's voice, often built from short clips posted online, to call a relative or employee and demand urgent money, for example a fake grandchild in jail or a fake executive requesting a wire transfer. The best defense is a verification habit: hang up and call the person back on a number you already know, or ask for a pre-agreed family safe word. It matters because a familiar voice is no longer proof of who is calling.

Откуда мошенники часто берут аудио, необходимое для клонирования голоса?

Коротких отрывков из общедоступных видеороликов, подкастов или приветствий голосовой почты может быть достаточно для современных инструментов клонирования.

Каков самый надежный ответ на срочный звонок родственника с просьбой о деньгах?

Внеполосная проверка полностью обходит канал мошенника и не зависит от обнаружения фейка.

Для чего используется семейное безопасное слово?

Заранее согласованный секрет, который не будет известен клонированному голосу, помогает подтвердить личность во время вызова службы экстренной помощи.

Почему знакомый идентификационный номер вызывающего абонента не является доказательством подлинности вызова?

Спуфинг — это отдельный метод, который подделывает отображаемый номер, поэтому и голос, и номер могут вводить в заблуждение.

Что показывает случай с Arup в Гонконге в 2024 году?

Сообщается, что сотрудник заплатил примерно 25 миллионов долларов США после видеозвонка с поддельными коллегами.