Агентство Reuters опубликовало результаты совместного эксперимента с Гарвардом, в ходе которого популярные чат-боты на основе искусственного интеллекта, такие как Grok, ChatGPT, DeepSeek и другие, попросили создать «идеальное фишинговое письмо». Сгенерированные письма затем были отправлены 108 добровольцам, из которых 11% перешли по вредоносным ссылкам. ИИ смог сгенерировать крайне убедительные сообщения, способные обмануть реальных людей. Таким образом, ИИ смог дать уже известной и понятной сетевой угрозе новую жизнь.
Об угрозе фишинга на основе искусственного интеллекта рассказывает доцент кафедры искусственного интеллекта Финансового университета при Правительстве Российской Федерации Емельянова Наталия Юрьевна:
Инструменты генеративного ИИ позволяют злоумышленникам создавать убедительные и персонализированные фишинговые письма за считанные секунды. Эти письма не являются обычным спамом. Собирая данные из LinkedIn, веб-сайтов и данных о прошлых взломах, инструменты ИИ создают сообщения, отражающие реальный бизнес-контекст, побуждая самых внимательных сотрудников кликнуть по ним. Эта технология также способствует росту фишинга с использованием аудио- и видеоподдельных материалов. За последнее десятилетие число атак с использованием дипфейков увеличилось в разы. Преступники обычно выдают себя за генеральных директоров, членов их семей и доверенных коллег, используя такие каналы связи, как Zoom, WhatsApp и Teams.
В настоящее время для борьбы с фишингом на основе искусственного интеллекта недостаточно механизмов обнаружения фишинговых писем на основе сигнатур, используемого традиционными фильтрами электронной почты. Злоумышленники могут легко менять свою инфраструктуру, включая домены, темы писем и др. Как только фишинговое письмо попадает в почтовый ящик, сотрудник сам решает, доверять ли ему. К сожалению, учитывая убедительность современных фишинговых писем, созданных на основе искусственного интеллекта, даже хорошо обученный сотрудник рано или поздно совершит ошибку. Более того, сложность фишинговых атак может быть не главной угрозой. Наибольшую тревогу вызывает масштаб атак. Теперь преступники могут создавать тысячи новых доменов и клонированных сайтов всего за несколько часов. Даже если одна волна атак будет остановлена, на смену ей быстро придет другая, обеспечивая постоянный поток новых угроз. Это настоящий фишинговый шторм на основе искусственного интеллекта, требующий более стратегического подхода к борьбе с ним. То, что сработало против вчерашних грубых фишинговых атак, не идёт ни в какое сравнение с масштабом и сложностью современных кампаний.
О ключевых стратегиях обнаружения фишинга, созданного на основе ИИ, рассказывает Коротеев Михаил Викторович, заведующий кафедрой искусственного интеллекта Финансового университета при Правительстве Российской Федерации:
Первой линией защиты от такого фишинга является более точный анализ угроз. Вместо статических фильтров, опирающихся на потенциально устаревшую информацию об угрозах, модели обработки естественного языка, обученные на реальных коммуникационных шаблонах, способны улавливать едва заметные отклонения в тоне, фразах или структуре, которые обученный человек может пропустить.
Но никакая автоматизация не заменит организационных мер информационной безопасности, направленных на повышение осведомлённости сотрудников в этой сфере. Весьма вероятно, что некоторые фишинговые письма, созданные с помощью ИИ, в конечном итоге попадут в почтовые ящики сотрудников, поэтому для их обнаружения необходимо иметь хорошо обученных сотрудников.
Существует множество методов обучения по повышению осведомлённости в области информационной безопасности. Обучение на основе симуляций является наиболее эффективным, поскольку оно готовит сотрудников к тому, как на самом деле выглядит фишинг с использованием ИИ. Современные симуляции выходят за рамки простого обучения по типу «найди опечатку». Они воспроизводят реальные атаки, привязанные к роли пользователя, чтобы сотрудники были готовы к именно тем типам атак, с которыми они, скорее всего, столкнутся. Цель состоит не в проверке сотрудников, а в формировании мышечной памяти, чтобы сообщение о подозрительной деятельности было естественным.
Еще одним уровнем защиты является аналитика поведения пользователей и сущностей (UEBA), которая гарантирует, что успешная попытка фишинга не приведёт к полномасштабной атаке. Системы UEBA обнаруживают необычные действия пользователей или системы, предупреждая специалистов по безопасности о потенциальном вторжении. Обычно это происходит в виде оповещения, например, о входе в систему из неожиданного местоположения или о необычных изменениях в почтовом ящике, не соответствующих ИТ-политике.
Искусственный интеллект совершенствует и масштабирует фишинг до уровня, позволяющего легко преодолеть или обойти традиционные средства защиты. Успех компании в отражении фишинговых атак будет зависеть от эффективного сочетания передовых технологий для киберзащиты и готовности сотрудников участвовать в этом процессе. Те компании, которые смогут найти баланс между технологиями и организационными мерами, окажутся в выгодном положении и смогут противостоять фишинговым атакам, которые продолжают развиваться под воздействием искусственного интеллекта.
