ИИ против мошенников: как антифрод-системы учатся распознавать угрозы

Фото: Shutterstock
Фото: Shutterstock
Из-за IT-мошенничества россияне потеряли ₽168 млрд за неполный 2024 год — на 14,3% больше, чем в 2023-м. Рассказываем, как антифрод-системы борются с мошенничеством и какие данные используются, чтобы их обучать

Об эксперте: Алексей Хахунов, сооснователь Dbrain.

Что такое антифрод-решения

Фрод (от англ. fraud — «мошенничество») — это любые действия, направленные на обман пользователей и незаконное получение выгоды. Сегодня они почти всегда связаны с использованием технологий. Термин охватывает широкий спектр преступлений: от кражи личных данных и подделки документов до манипуляций с финансовыми транзакциями и создания фальшивых аккаунтов.

Бороться с мошенничеством помогают антифрод-системы. Они работают на основе заданных правил и алгоритмов, которые помогают выявлять подозрительные операции в режиме реального времени. Для этого используются различные фильтры: валидаторы для проверки корректности данных, географические ограничения, стоп-листы и другие инструменты. Кроме того, применяются методы анализа, такие как расчет статистических параметров, текстовая аналитика и gap-анализ, который находит лишние или недостающие компоненты в данных. Правила в антифрод-системах регулярно обновляются, чтобы отвечать актуальным угрозам.

Антифрод-решения применяют в самых разных индустриях

  • Финансовый сектор. Системы анализируют транзакции и блокируют те, которые имеют признаки мошенничества, будь то аномальные суммы, необычные географические регионы или подозрительная последовательность операций.
  • Рекламная индустрия. Антифрод-системы помогают определять, какие клики и переходы совершаются реальными пользователями, а какие генерируются ботами. Это защищает рекламные бюджеты от бессмысленных расходов.
  • E-commerce. Решения отслеживают мошеннические схемы, включая использование украденных данных клиентов или массовое создание фиктивных аккаунтов. Это особенно важно для защиты программ лояльности и предотвращения фальшивых возвратов.
  • Партнерские программы. Антифрод позволяет пресекать генерацию поддельного трафика, который создается исключительно ради получения комиссионных от рекламодателей.

Современные антифрод-системы используют искусственный интеллект, чтобы анализировать огромные массивы данных. Так они выявляют подозрительную активность и помогают блокировать фрод еще до того, как мошенники нанесут ущерб. Исследования показывают: ИИ сильно повышает эффективность обнаружения фрода в режиме реального времени.

<p>Кадр из фильма &laquo;Терминатор: Генезис&raquo;</p>
Индустрия 4.0 Как ИИ помогает кибермошенникам и противостоит им

А еще нейросети могут бороться с себе подобными: определять поддельные, сгенерированные документы и распознавать синтезированные фото, аудио и видео. Например, такие технологии уже могут предотвращать попытки входа в онлайн-кабинеты банков, если мошенники используют дипфейки для обхода биометрической аутентификации. Это новый уровень защиты, который просто невозможен без технологий ИИ.

Однако, чтобы антифрод-система оставалась эффективной, она должна постоянно адаптироваться к новым типам угроз. Мошенники не стоят на месте, придумывая все более изощренные сценарии. Поэтому так важно выделять ресурсы на регулярное обучение системы: обновление алгоритмов, добавление новых данных о фроде и анализ свежих примеров мошенничества. Это помогает системе не просто догонять мошенников, а опережать их на шаг.

Как обучают антифрод

Антифрод-системы обучаются на широком спектре данных, чтобы эффективно выявлять мошенническую активность. Это информация о поведении пользователей: как, когда и с каких устройств они совершают транзакции, где находятся, какие платежные инструменты используют и какие временные паттерны для них характерны. Размеченные исторические данные с реальными случаями фрода тоже играют важную роль. Они формируют основу для обучения системы и помогают ей распознавать уже знакомые схемы мошенничества.

Кроме того, активно используются синтетические данные. Это модельные сценарии, имитирующие редкие или новые методы злоумышленников, — например, массовую регистрацию фейковых аккаунтов или аномальные цепочки транзакций. Такие случаи для обычной выборки встречаются слишком редко. Благодаря этим данным антифрод-системы способны распознавать угрозы, которые еще не появились в реальном мире.

Для анализа применяются алгоритмы машинного обучения. Нейросети выявляют подозрительные паттерны, прогнозируют вероятность фрода и адаптируются под новые сценарии. Важным инструментом повышения эффективности является обратная связь: если пользователь или эксперт подтверждают мошенническую активность, система использует эту информацию для дальнейшей корректировки моделей, становясь еще точнее.

Алгоритмы анализируют сотни параметров. В финансовом секторе это, например, необычные время и место операции, странная сумма перевода или активность в нетипичных для пользователя временных зонах. Допустим, человек, который обычно делает переводы днем, вдруг пытается отправить деньги в три часа ночи или за короткий промежуток времени использует несколько разных устройств. Другой пример — всплеск регистраций с разных IP-адресов, но с одинаковыми контактными данными. Нейросети особенно эффективны в анализе сложных, нелинейных зависимостей и способны выявлять новые методы преступников, которые человек мог бы упустить.

Фото:Shutterstock
Индустрия 4.0 Технологии против угроз: 7 трендов кибербезопасности в 2025 году

От ложных транзакций до дипфейков: с чем борются системы

Финансовое мошенничество

Только в третьем квартале 2024 года объем мошеннических операций по счетам россиян достиг рекордных ₽9,2 млрд. Эти цифры наглядно показывают, насколько сложной становится задача защиты клиентов. Банки активно внедряют антифрод-системы, и один из примеров — «Сбер».

Компания использует ИИ и модельный скоринг для анализа транзакций. Система рассчитывает специальные фичи — показатели вроде общей суммы переводов между пользователями за определенный период. Эти данные затем анализируются нейросетью, которая принимает решение: разрешить операцию, заблокировать ее или отправить на дополнительную проверку.

Ключевую роль в работе антифрода играет Platform V DataGrid, система управления базами данных от «СберТеха». Она также служит кэшем для хранения исторических транзакций и обеспечивает высокую скорость обработки. В августе 2024 года «Сбер» писал, что количество запросов в Platform V DataGrid составляет около 150 тыс. транзакций в секунду, а время ответа на запрос — до 10 миллисекунд. Это впечатляющий показатель, особенно учитывая масштабы операций.

Т-банк не отстает в борьбе с фродом. Из последних нововведений — фрод-рулетка «Ловушка для мошенников». Это сервис, в котором звонки мошенников перехватываются в режиме реального времени и переадресуются другим пользователям. Последние заранее знают, что будут говорить со злоумышленником. Это позволяет клиентам, с одной стороны, потренироваться в общении с мошенниками, с другой — дольше удерживать их на линии, чтобы они в это время не обманывали других.

Фото:Dalle-3
Индустрия 4.0 Просто украли все деньги: как мошенники получают доступ к вашим счетам

Сервис построен на базе платформы «Т-Защита», использующей антифрод-технологии Т-банка и «Т-Мобайла». В частности, у «Т-Мобайта» есть «Нейрощит» — он позволяет выявлять мошенников через анализ технической информации в звуковой волне. Прямо во время разговора ИИ преобразует звук в набор данных и сравнивает его с эталонными записями звонков злоумышленников. Если совпадений слишком много, система маркирует разговор как потенциально опасный и завершает его. Причем ИИ постоянно обучается, чтобы распознавать новые схемы.

Антифрод-решения разрабатываются и государственными структурами. Например, Научно-образовательный центр ФНС России и МГТУ им. Н.Э. Баумана создали систему, способную выявлять недостоверные сведения о юридических лицах. Она анализирует данные ЕГРЮЛ (Единый государственный реестр юридических лиц) и проверяет такие параметры, как адрес регистрации, руководитель и учредитель. Система способна обрабатывать данные о сотнях тысяч компаний в час, выявляя подозрительные ИНН и другие признаки нарушений.

Поддельные документы

Согласно 2025 Identity Fraud Report, 2024 год стал поворотным: мошенники впервые чаще подделывали цифровые документы, чем физические. На цифровые подделки пришлось 57% всех случаев фрода — это на 244% больше, чем в 2023 году, и на ошеломляющие 1600% больше, чем в 2021-м. Для России таких актуальных данных пока нет, но статистика за период с 2019 по 2022 год показывает рост дел с поддельными документами на 43%.

Современные мошенники уже давно не ограничиваются заменой фото или пары цифр в паспорте. С помощью нейросетей они создают полностью синтезированные документы, которые выглядят как настоящие. Классические подходы борьбы с этим, такие как запрет на загрузку ранее сделанных кадров в пользу фотографий в моменте, ручная доверификация или анализ метаданных, уже не справляются. Ручная проверка требует слишком много времени и ресурсов, а решения на основе базовых правил просто не успевают за сложностью схем.

Компании вынуждены отвечать на новые вызовы более технологично. Так, в IT-компании Dbrain при участии банков, МФО и страховых компаний разработали «Антифрод 2.0». Решение способно распознавать цифровые подделки, анализируя изображения паспорта и селфи человека: их качество, текстуру, структуру и живость человека. Продукт помогает определять сложный фрод за секунды, повышая точность выявления до 95% по сравнению с 60% в первой версии.

Фото:Pexels
Индустрия 4.0 Как устроен антифрод и почему с мошенниками так сложно бороться

Решение построено на современных моделях компьютерного зрения. Когда пользователь загружает документ для оформления кредита, страхового полиса или другого финансового продукта, система мгновенно анализирует его подлинность. Она ищет аномалии: засветки, неестественно ровные текстуры, следы цифрового вмешательства или подозрительно «идеальные» метаданные, которые указывают на возможную фальсификацию. Если документ вызывает сомнения, система сигнализирует о риске и объясняет, какие именно аспекты документа считаются подозрительными.

«Антифрод 2.0» обучается на данных реальных организаций, но с жестким соблюдением приватности. Используются только данные, обработанные в контуре клиентов, и анонимизированные изображения. В компании уже получили более 10 тыс. анонимизированных документов от заказчиков. К тому же эксперты-разметчики Dbrain создали около 50 тыс. синтетических образцов, моделирующих разные виды фрода, чтобы опережать новые схемы обмана.

Накрутка трафика

В рекламной индустрии 96% рекламных групп и агентств сталкиваются с фродом. Основная проблема — это бот-трафик, когда сайт посещают не реальные пользователи, а автоматизированные программы. В контексте партнерских программ боты часто переходят по ссылкам, чтобы искусственно увеличивать количество кликов. Также они могут заполнять заявки украденными данными ради выплат.

Раньше борьба с фродовым трафиком велась вручную: специалисты оценивали такие показатели, как отток пользователей, уровень отказов или возвраты платежей. Однако этот подход был медленным и трудозатратным. Сегодня рынок предлагает антифрод-системы, которые не только экономят время, но и делают борьбу с мошенничеством значительно эффективнее.

Одно из таких решений разработали в «Яндекс Директе». Для обучения компания использует несколько тысяч факторов из разных источников. Это, например, агрегированная статистика о взаимодействии пользователей с рекламой на сайтах «Яндекса» и в рекламной сети, данные об их поведении на сервисах компании, информация о целевых действиях и трафике, которыми делятся с «Яндексом» рекламодатели и внешние партнеры, и многое другое.

Фото:Shutterstock
Индустрия 4.0 Что такое боты и как они работают: объясняем простыми словами

В «Яндексе» подчеркивают, что большая часть бот-трафика и случайных кликов фильтруется автоматически в реальном времени. После этого данные проходят этап офлайн-фильтрации, где система анализирует трафик еще глубже. На этой стадии она выявляет новые или ранее не обнаруженные случаи мошенничества. Такой подход позволяет минимизировать влияние фрода на рекламные кампании и сохранить доверие рекламодателей.

Дипфейки

Развитие генеративного ИИ приводит к тому, что дипфейки становятся массовым явлением: попытка мошенничества с ними в 2024 году происходила каждые пять минут. В России число таких атак увеличилось более чем на 10% за год, а в финансовом секторе рост составил 13%, достигнув 5,7 тыс. случаев. Успешными оказываются от 15 до 20% таких инцидентов — это серьезный вызов для бизнеса.

Чтобы противостоять угрозе, компании обучают свои антифрод-системы распознавать дипфейки. Один из таких сервисов разработали в MTS AI и VisionLabs. Система использует нейросети для анализа аудио, видео и изображений, замечая несоответствия, которые не видны человеческому глазу. Например, неправильные тени, неестественные движения лицевых мышц, особенности тембра голоса или наличие шумов. По данным MTS AI, точность их решения достигает впечатляющих 97,5%.

У МТС есть и другие технологичные решения, например система антиспуфинга, которая распознает синтезированную речь с точностью свыше 98%. Она работает на базе собственной нейросети-трансформера — обычно такой метод используется для генерации контента. Для обучения системы использовали 5 тыс. часов сгенерированной речи на русском, английском и испанском языках. Алгоритм анализирует миллионы параметров, чтобы определить подлинность голоса. Среди них — громкость, частота, тональность и мелодичность. При этом конкретные аспекты, влияющие на решение нейросети, остаются скрытыми из-за особенностей ее работы.

Вместе против фрода

Фрод усложняется, поэтому игроки частного и госсектора заключают партнерства для защиты своего бизнеса и конечных пользователей. Еще в 2020 году банки и операторы начали создавать совместные сервисы для борьбы с телефонным мошенничеством. Такие решения работают на основе обмена данными в режиме реального времени. Это позволяет оперативно выявлять подозрительные звонки и предотвращать атаки.

В 2022 году Роскомнадзор запустил систему «Антифрод», которая собирает единую базу данных о всех голосовых вызовах. Операторы связи, подключившиеся к системе (а это уже более 95%), автоматически получают информацию о подозрительной активности номеров. А звонки от абонентов вне подключенных телеком-компаний просто блокируются, снижая риски для пользователей.

В ближайшие годы планируется запуск Единой национальной платформы для противодействия мошенникам в интернете. Оператором платформы выступит Минцифры, участниками станут банки, операторы связи и другие ключевые игроки. В перспективе платформа позволит оперативно выявлять и блокировать фишинговые сайты, номера телефонов мошенников, их счета и карты, похищенные учетные записи и подозрительные транзакции. Такой масштабный подход обещает значительно повысить уровень защиты пользователей в цифровом пространстве.

➤ Подписывайтесь на телеграм-канал «РБК Трендов» — будьте в курсе последних тенденций в науке, бизнесе, обществе и технологиях.

Обновлено 03.02.2025
Главная Лента Подписаться Поделиться
Закрыть