Мошенники в России комбинируют нейросети и социальную инженерию

В России фиксируется рост сложных мошеннических схем, в которых применяются возможности нейросетей вместе с приёмами социальной инженерии. Примеры и оценку ситуации привёл заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев.

Злоумышленники используют несколько повторяющихся подходов: фишинг через поддельные службы доставки, подмена телефонных номеров с элементами фальсификации и атаки с применением синтезированных голосов.

Описываемая схема заключается в рассылке сообщений от имени магазинов цветов, подарков или служб доставки с информацией о проблемах с заказом и требованием перейти по ссылке для уточнения данных.

Переход по такой ссылке приводит на фишинговую страницу, которая похищает платёжные реквизиты или устанавливает вредоносное программное обеспечение. Иногда злоумышленники просят жертву назвать код из SMS для "подтверждения доставки", что фактически даёт им доступ к личным данным и платёжным операциям.

Часто подобные сообщения оформляются на английском языке и содержат указания вводить или не передавать код, что используется для введения в заблуждение менее подкованных пользователей.

Мошенники прибегают к подмене исходящего номера и другим технологиям, которые заставляют на экране телефона выглядеть так, будто звонок или сообщение поступили от реальных номеров силовых органов или судов. Эти номера получают из открытых источников.

В совокупности с юридически насыщенными формулировками и психологическим давлением подобные приёмы повышают вероятность того, что жертва выполнит требуемые действия.

В арсенале злоумышленников появляются голосовые клоны, сгенерированные нейросетями. Такие синтезированные голоса могут имитировать начальников или других авторитетных лиц и подтверждать легитимность требований, что усиливает доверие и снижает психологический барьер у жертвы.

Отдельный вид атак — имитация голосов близких людей. Нейросети, обученные на публичных записях из социальных сетей или на украденных голосовых сообщениях, воспроизводят эмоции, интонации и тембр, приближая копию к реальному голосу родственника.