Microsoft обнаружила новые уловки в электронных письмах, рассылаемых с целью мошенничества с поддельными счетами-фактурами.
Недавно исследователи безопасности из Microsoft обнаружили множество мошеннических электронных писем, которые демонстрируют, как злоумышленники все чаще используют искусственный интеллект для обмана компаний.
Кроме того, по данным Microsoft, мошенники используют несколько тактик в одном электронном письме, чтобы придать сообщениям видимость подлинности.
В начале августа исследователи обнаружили кампанию, состоящую из более чем миллиона электронных писем, направленных на пользователей. Используя несколько сторонних сервисов для рассылки писем, злоумышленники выдавали себя за топ-менеджеров компаний, поручая отделам расчетов с поставщиками отправлять мошеннические платежи на сумму около 50 000 долларов.
Злоумышленники придали электронным письмам более правдоподобный вид, включив в них пересланную переписку от вымышленного генерального директора в ServiceNow, облачную корпоративную платформу, автоматизирующую рабочие процессы и бизнес-процессы. (ServiceNow также была подделана.)
Пересланные электронные письма представляли собой сфабрикованную цепочку сообщений, в которой фальшивый генеральный директор отправлял счета, якобы полученные от ServiceNow (компания, название которой также использовалась в качестве образца).
Примерно 88% целевой аудитории кампании — американцы.
«В отличие от традиционных мошеннических схем с поддельными счетами-фактурами, основанных на одном приеме социальной инженерии, эта кампания объединила выдачу себя за другое лицо, брендирование поставщиков, поддельные счета-фактуры и сопутствующую переписку по электронной почте в единый нарратив, призванный снизить скептицизм получателей», — говорится в отчете.
В отчете Microsoft говорится, что компания выявила несколько показателей, «соответствующих разработке шаблонов с помощью ИИ. К ним относятся обширные HTML-комментарии, структурированная маркировка разделов и высокая степень единообразия в построении шаблонов».
Однако, хотя Microsoft предполагает участие генеративного ИИ, в отчете говорится, что компания не может «независимо установить, в какой степени ИИ генерировал контент для избирательных кампаний».
По словам Ника Таузека, ведущего архитектора по автоматизации безопасности в компании Swimlane, занимающейся платформой автоматизации и реагирования на инциденты, злоумышленники используют ИИ для того, чтобы сделать существующие мошеннические схемы «более изощренными и масштабируемыми».
«Меры защиты должны отражать эту реальность, уделяя больше внимания тому, как модели могут использоваться для массового создания вводящего в заблуждение контента», — написал он в электронном письме.
«Разработчикам политики также необходимо учитывать, насколько быстро полезные возможности ИИ могут быть адаптированы после того, как они окажутся в руках злоумышленника».