Google подала в суд на Outsider Enterprise: мошенники использовали ИИ для массового SMS-фишинга

Google подала гражданский иск против киберпреступной сети Outsider Enterprise, которую компания связывает с массовыми SMS-мошенничествами, фейковыми сайтами банков, госорганов, операторов связи, служб доставки и крупных брендов.

Google утверждает, что участники сети злоупотребляли ИИ-инструментами, включая Gemini, чтобы быстрее создавать фишинговые страницы, тексты приманок и шаблоны под разные бренды.

«В ходе операции Gemini использовалась для создания мошеннических фишинговых страниц и проведения массовых SMS-фишинговых атак («смишинг»), часто с помощью текстовых сообщений, имитирующих сообщения от легитимных брендов, предупреждающих получателей о «проблемах с брокерским счетом» или утверждающих, что они имеют право на «вознаграждения через своего оператора мобильной связи», — заявили в Google . 

По данным Google, с сетью Outsider Enterprise связаны 9 тыс. поддельных сайтов и более 1 млн мошеннических URL. За две недели в мае через инфраструктуру группировки Android-пользователям было отправлено 2,5 млн сообщений со ссылками на фейковые страницы. Ещё 55 тыс. SMS за тот же период сами пользователи Android отметили как спам. Google оценивает число финансово пострадавших в сотни тысяч человек, а ущерб — в миллионы долларов.

Пользователь получал SMS: якобы от банка, службы доставки, госоргана, платной дороги, мобильного оператора или известного бренда. В сообщении была срочность: оплатите долг, подтвердите аккаунт, получите бонус, заберите посылку, проверьте карту, иначе услуга будет заблокирована.

Ссылка вела на сайт, который выглядел как настоящая страница компании. Там просили ввести логин, пароль, номер карты, код подтверждения, телефон, адрес или другие данные.

Дальше если сайт работал как обычная фишинговая форма, данные просто уходили мошенникам. Если использовалась более продвинутая схема, оператор мог в реальном времени повторять действия жертвы на настоящем сайте и просить одноразовый код. Пользователь думал, что подтверждает вход на «официальной» странице, а фактически помогал злоумышленнику пройти проверку.

Google утверждает, что участники Outsider Enterprise использовали ИИ для создания и доработки мошеннической инфраструктуры. Речь о генерации кода для фейковых страниц, текстов, интерфейсных элементов и кастомизации шаблонов под разные бренды.

Google описывает Outsider Enterprise как организованную киберпреступную сеть, базирующуюся в Китае и координирующуюся через Telegram. Группировка распространяла фишинг-киты — готовые наборы для запуска мошеннических кампаний.

Фишинг-кит — это не один сайт, а набор инструментов: шаблоны страниц, панели управления, сборщик данных, инструкции, примеры SMS, интеграции с доменами и иногда механизмы обхода многофакторной аутентификации. Такой набор превращает сложную атаку в почти пользовательский сервис.

Покупателю не нужно разбираться в веб-разработке. Он берет шаблон, выбирает бренд, подставляет домен, запускает рассылку и смотрит, как в панель падают логины, карты, коды и персональные данные.

По сути, Outsider Enterprise продавала инфраструктуру для мошенников, которые сами могли быть технически слабыми. Это и делает схему массовой.

Google подает гражданский иск, чтобы ударить по инфраструктуре группировки: доменам, аккаунтам, сервисам, каналам распространения, платёжным связкам и цифровым следам.

Компания также координируется с ФБР и крупными операторами связи AT&T, T-Mobile и Verizon. Цель — блокировать сообщения до того, как они доходят до пользователей, и помогать правоохранителям разбирать сеть.

Так Google пытается закрепить новую линию: злоупотребление генеративным ИИ для масштабного мошенничества должно иметь юридические последствия. То есть модель могут использовать преступники, но поставщик модели будет отвечать не только фильтрами и банами аккаунтов, а ещё и судами, инфраструктурными блокировками и работой с операторами.

Google пишет, что использует ИИ-защиту против ИИ-мошенничества. В Android работают механизмы выявления подозрительных разговоров и сообщений, а встроенные защиты перехватывают миллиарды вредоносных сообщений в месяц.

Отдельная роль у операторов связи. AT&T, T-Mobile и Verizon могут блокировать или маркировать подозрительные SMS ещё на сетевом уровне. Это не даёт стопроцентной защиты, но снижает объём мусора, который доходит до человека.

ФБР подключается уже к криминальной части: расследование операторов сети, инфраструктуры, платежей, доменов, аккаунтов и людей, которые стоят за схемой.