Дипфейк-атака: что это, как работает и как защитить бизнес

Дипфейк-атака — это вид мошенничества, при котором злоумышленник использует сгенерированный ИИ голос или видео конкретного реального человека, чтобы в реальном времени убедить жертву совершить действие: перевести деньги, сменить платёжные реквизиты, выдать доступ к системе или раскрыть конфиденциальные данные. Название образовано слиянием «deep learning» (глубокое обучение — техника, лежащая в основе генерации) и «fake» (подделка).

В отличие от классического мошенничества с подделкой документа или сайта, дипфейк подделывает не объект, а личность — точнее, узнаваемые сигналы личности: тембр голоса, интонацию, черты лица, мимику. Жертва реагирует не на текст, который можно перечитать и проверить, а на то, что она восприняла как живое подтверждение личности собеседника — и это резко снижает естественную настороженность даже у людей, обученных распознавать обычный фишинг.

Современные сервисы синтеза речи и генерации видео способны создать правдоподобную имитацию голоса или лица человека по относительно короткому образцу — публичному выступлению, интервью, записи вебинара или видео в соцсетях. Чем больше и чище исходный материал (без шума, с разной интонацией), тем правдоподобнее результат, но точный порог длительности образца, необходимый для качественного клонирования, зависит от конкретной технологии и постоянно меняется — фиксированной цифры здесь нет.

Дипфейк-атаки на компании чаще всего построены вокруг имитации авторитета — руководителя, финансового директора или крупного контрагента — и требования срочного нестандартного действия.

↔ таблицу можно прокрутить вбок

Общая черта всех сценариев — атака эксплуатирует не техническую уязвимость, а доверие к узнаваемому голосу или лицу в сочетании с искусственно созданным дефицитом времени на проверку. Это делает дипфейк-атаку логическим развитием классической социальной инженерии и, в частности, сценария вишинга — только с существенно более правдоподобной приманкой.

Технология генерации голоса и видео развивается быстро, поэтому визуальные и слуховые признаки подделки — не надёжный самостоятельный барьер, а лишь дополнительный сигнал к общей настороженности.

• Давление срочностью и секретностью — просьба не согласовывать действие с кем-то ещё, действовать «прямо сейчас» и не перезванивать по обычному номеру.
• Нестандартный запрос в обход процедуры — смена платёжных реквизитов, перевод на новый счёт, обход обычного порядка согласования — при том что запрос как будто исходит от человека, который сам эту процедуру утверждал.
• Странности на видео — нарушенная синхронизация губ с речью, неестественные моргания или их отсутствие, artefacts на границе лица и фона, неизменное выражение лица при эмоциональной речи.
• Странности в голосе — монотонность, неестественные паузы или интонационные сбои, лёгкая механичность звучания, особенно при импровизированных вопросах, не входивших в исходный образец.
• Отказ отвечать на неожиданный вопрос — если собеседник уклоняется от простого уточняющего вопроса не по сценарию («а что мы обсуждали на прошлой встрече») или отвечает невпопад, это сильный сигнал тревоги.

Основная защита от дипфейк-мошенничества — организационная, а не техническая: процедура, которая не даёт устному или видео-запросу в одиночку санкционировать финансовую операцию или смену реквизитов, независимо от того, насколько правдоподобно выглядит и звучит собеседник.

Организационные меры

• Правило «второго независимого канала» — любой нестандартный или срочный финансовый запрос подтверждается отдельным звонком по заранее известному номеру или в отдельном канале связи, а не в том же разговоре, откуда пришла просьба.
• Кодовые слова для действительно срочных ситуаций, заранее согласованные вне цифровых каналов и известные только ограниченному кругу — простая мера, которую сложно скомпрометировать дипфейком.
• Запрет на смену платёжных реквизитов по устному распоряжению — только по формализованному письменному процессу с подтверждением от нескольких сторон.
• Обучение сотрудников самому факту существования дипфейк-атак — многие сотрудники ещё не знают, что голос и видео человека можно правдоподобно подделать, и это единственная причина, по которой сценарий вообще срабатывает.

Технические меры

• Антифрод-системы — анализируют поведенческие и транзакционные аномалии (нетипичный получатель, время, сумма, скорость операции) независимо от того, каким способом была получена команда на платёж, и способны приостановить подозрительную операцию до её завершения.
• Многоуровневая верификация платежей и критичных операций, не полагающаяся на один канал подтверждения (только голос или только видео).

Дипфейк-атака — не отдельная категория угроз, а технологическое усиление классической социальной инженерии: манипуляции человеком, а не уязвимостью в программном обеспечении. Она использует тот же психологический механизм, что и обычный фишинг или вишинг — доверие к знакомому источнику плюс искусственно созданная срочность, — но заменяет письмо или обезличенный звонок на несравнимо более правдоподобную приманку: голос или лицо конкретного узнаваемого человека.

Поэтому меры защиты во многом те же, что и против социальной инженерии в целом — независимая проверка запроса важнее попытки распознать подделку «на слух».