Как ИИ помогает кибермошенникам и противостоит им

Технологии искусственного интеллекта не только развивают цифровые решения, но и дают импульс разработчикам вредоносных схем. Хакеры активно используют сгенерированные голос, видео и фото для обмана и вымогательства. Согласно результату опроса международной компании по кибербезопасности McAfee, в 2023-м 25% опрошенных лично сталкивались с голосовым ИИ-мошенничеством. Причем 77% из этой группы лишились средств из-за сгенерированного голоса.

ИИ активно используют и в сфере обеспечения информационной безопасности. Например, разработчики применяют эти технологии для защиты от вредоносного кода, в решениях против утечки данных и системах обнаружения нетипичной активности на конечных хостах.

ИИ: новый инструмент в арсенале киберпреступников

Фишинг — метод киберпреступления, при котором злоумышленники пытаются получить личные данные пользователей. Благодаря ИИ он выходит на новый уровень. По оценке центра по кибербезопасности «Газинформсервис», ежегодный рост числа атак составляет 20-25%, но ИИ способен многократно ускорить этот процесс. Если мошенник, работая самостоятельно, может совершить до 300 фишинговых звонков в день, то с помощью ИИ это число возрастает до 40-50 тыс.

Киберпреступники делегируют ИИ целый спектр задач. С помощью него можно:

• создать реалистичные дипфейки или имитировать голос. Это значительно повышает убедительность атак;
• собрать информацию о компании перед взломом. Например, чтобы проанализировать безопасность, найти уязвимости, данные о ключевых сотрудниках и событиях внутри компании;
• воздействовать на ИИ бизнеса, чтобы спровоцировать ошибки и некорректные действия в системах;
• разрабатывать вредоносное ПО и взламывать веб-сайты, — по опыту экспертов, ИИ-боты успешно вскрывают более половины тестируемых площадок;
• создавать вирусы и вредоносный код без доступа к интернету, опираясь на огромную базу данных.

Чаще всего мошенники используют ИИ для персонализированных фишинговых атак. Они анализируют открытые данные в социальных сетях, изучают манеру общения и интересы потенциальных жертв. Затем с помощью алгоритмов обработки естественного языка (NLP) ИИ генерирует фишинговые сообщения, стилистически неотличимые от переписки с друзьями, коллегами, руководством и даже с госструктурами. Это делает такие сообщения невероятно убедительными и опасными.

Например, злоумышленники рассылают письма на почту пользователям под видом Федеральной налоговой службы России и предлагают оплатить налоги онлайн. Люди думают, что отправляют личные данные и деньги государству, а на самом деле — мошенникам.

Индустрия 4.0 Автоматическая обработка текстов: что такое Natural Language Processing

С помощью ИИ злоумышленники корректируют стратегию атаки в реальном времени, убеждая жертву в подлинности писем, а также генерируют тысячи персонализированных текстов одновременно. Это значительно повышает эффективность атак и позволяет обходить традиционные системы обнаружения в более чем 15% случаев. Для сравнения, стандартные фишинговые атаки успешны лишь в 0,3%.

Однако угроза выходит далеко за рамки текстовых сообщений. Сегодня ИИ создает весьма реалистичные дипфейки — поддельные видео и аудиозаписи, где голос и лицо знакомого человека убеждают жертву выполнить опасные действия: перевести деньги, раскрыть пароли или другую конфиденциальную информацию. Различить такие подделки крайне сложно, и мошенники прибегают к все более изощренным, а порой и абсурдным методам. Вплоть до имитации звонков от умерших родственников с просьбами о финансовой помощи. Например, в начале 2024 года сотрудник финансовой международной компании со штаб-квартирой в Китае (название остается неизвестным) стал целью ИИ-дипфейка. На видеоконференции злоумышленники успешно изобразили финансового директора компании и других руководителей, после чего сотрудник перевел «секретную транзакцию» на сумму $25 млн. Несмотря на то, что письмо изначально его смутило, последующая видеоконференция убедила, что все в порядке.

Технологии совершенствуются стремительно: если несколько лет назад для подделки голоса требовались часы аудиозаписи, то сегодня достаточно нескольких секунд. Например, Microsoft еще в 2023 году представила технологию, которая может создать аудиозапись на основе голосового сообщения длительностью три секунды. Эта скорость и простота создания дипфейков представляют серьезную угрозу для безопасности пользователей. Часто преступники взламывают аккаунты в мессенджерах, получают доступ к голосовым и затем голосом хозяина аккаунта просят родственников и друзей одолжить деньги.

Реакция человека не всегда оказывается достаточно быстрой и адекватной, чтобы предотвратить киберугрозы и последующие финансовые потери. Иногда атаки и вовсе не обнаруживают. Согласно опросу компании Fugue, которая специализируется на облачной безопасности, 84% IT-специалистов действительно опасаются незамеченных взломов своих облачных систем. В связи с этим важно переходить к проактивной защите и применять те же технологии, что и у злоумышленников.

Индустрия 4.0 Что такое дипфейки, для чего их используют и чем они опасны

ИИ в кибербезопасности

Человек даже при высоком уровне квалификации не способен обработать столько данных, чтобы вовремя предотвращать атаки. Ведь в крупных компаниях каждую минуту меняются сотни миллиардов показателей. Анализировать их все для человека невозможно, зато ИИ это по силам.

ИИ оценивает огромные объемы данных из разных источников: журналов входа в систему, объемов трафика, различных устройств и приложений компании. На основе этой информации выявляет закономерности нормальной активности организации, и видит, когда что-то выходит за рамки привычного. Это позволяет обнаруживать аномалии, указывающие на киберугрозу, еще до того, как произошла атака. Например, так работает Ankey ASAP — платформа, которая обеспечивает безопасное управление правами пользователей, мониторинг доступа и защиту конфиденциальной информации. Аналогичные платформы также есть на зарубежном рынке: Okta, Azure Active Directory, JumpCloud, OneLogin.

Активно развиваются и технологии обнаружения дипфейков — как аудио, так и видео. Существуют перспективные методы, например, анализ частоты электрической сети (ENF), встроенной в аудио- и видеозаписи. Каждое устройство записывает звук с определенной частотой, которая может служить своеобразным «отпечатком пальца». Если запись содержит частоты, которые не соответствуют реальному источнику, это может быть индикатором подделки. Такое происходит, если видео смонтировали в среде, где нет соответствующей частоты.

Также для распознавания используют системы на основе ИИ, такие как Forensically, Image Edited и Ghiro, способные с высокой точностью определять подделку. Российские компании, в том числе «Сбер», активно участвуют в разработках таких программ.

Индустрия 4.0 Безопасность в интернете: как защитить себя и своего ребенка в Сети

Появляются инструменты для распознавания аудио-дипфейков, например Resemble AI, который анализирует голосовые параметры по 265 метрикам. В том числе оценивают тембр, темп, интонацию и силу голоса. Появились решения для интеграции ИИ в корпоративные мессенджеры (например, платформа InfoWatch) для анализа и расшифровки голосовых вызовов. Все эти разработки перспективны для защиты от все более опасных киберугроз будущего.

Базовые принципы защиты от кибератак

Современный ИИ — мощный инструмент, но пока лишь вспомогательный в кибербезопасности. Проблема в том, что любые новые защитные технологии быстро становятся доступными злоумышленникам, которые используют те же алгоритмы и модели ИИ для атаки. Например, технологии машинного обучения, предназначенные для обнаружения вредоносных программ, могут перепрофилировать для более изощренных фишинговых схем.

Прежде чем ИИ сможет эффективно решать проблемы безопасности, алгоритмы машинного обучения должны научиться отличать преднамеренную атаку от случайных аномалий. Даже несмотря на множество достоинств ИИ, его недостатки и ограничения не позволяют полагаться на него полностью. Машинное обучение может выдавать ошибки, особенно когда данные не являются полными или актуальными.

Индустрия 4.0 10 самых громких кибератак XXI века

Именно поэтому базовые методы защиты остаются важными в кибербезопасности, и чтобы эффективно защитить компанию от современных кибератак, необходимы комплексные меры.

• Повышать уровень киберграмотности сотрудников. Регулярно проводить тренинги по распознаванию фишинговых схем, обучать проверке отправителей, уточнению информации по альтернативным каналам связи и недоверию к срочным просьбам о денежных переводах. Важно также отработать план действий на случай кибератаки.
• Осторожно использовать открытые сети Wi-Fi. Сотрудники должны быть осведомлены о рисках кражи данных и соблюдать базовые правила информационной безопасности.
• Использовать многофакторную аутентификацию (MFA). MFA усложняет доступ злоумышленников к учетным записям, даже если известен пароль.
• Ограничивать информацию в социальных сетях. Чем меньше личных данных сотрудников в открытых источниках, тем сложнее персонализировать фишинговые атаки.
• Использовать антифишинговое программное обеспечение. Несмотря на недостаточную распространенность на массовом уровне, такие инструменты могут быстро обнаружить и заблокировать подозрительные сообщения.
• Регулярно применять резервное копирование данных. Это гарантия того, что получится быстро восстановить информацию в случае успешной атаки.
• Регулярно обновлять программное обеспечение и операционные системы. Это поможет своевременно устранять уязвимости, которые известны злоумышленникам.
• Использовать антивирусное и антишпионское ПО. Они защищают от вредоносного программного обеспечения, включая программы-шифровальщики, которые способны взломать систему за 30 минут.
• Применять детекторы дипфейков. В настоящий момент они по большей части находятся в разработке, однако действующие программы уже существуют и помогают отличить мошенников от реальных людей.
• Использовать услуги информационной безопасности по сервисной модели. Некоторые сторонние сервисы предоставляют специальные услуги по кибербезопасности. Например, могут найти уязвимости и оценить защищенность бизнеса. Один из таких сервисов — Bug Bounty.

Искусственный интеллект становится ключевым игроком в гонке вооружений между хакерами и специалистами по кибербезопасности. С одной стороны, злоумышленники используют ИИ, чтобы обойти традиционные защитные механизмы. С другой, кибербезопасность тоже извлекает выгоду из достижений искусственного интеллекта. В таких условиях бизнесу необходимо активно вкладываться в инновационные инструменты и технологии, чтобы оставаться на шаг впереди и защищать цифровые активы.