Цифровая тень: как крадут наши деньги? / Точка отсчета / @MINAEVLIVE

Коротко

Выпуск «Точки отсчета» Минаева прослеживает эволюцию кибермошенничества от телефонного фрикинга и заражённых дискет 80-х до дипфейков и фишинга, сгенерированного нейросетями. Только за прошлый год киберпреступники заработали на россиянах 16 миллиардов рублей, с мошенничеством столкнулись более 130 миллионов человек (91% населения), а типичная жертва — не пенсионер, а человек 25–44 лет. Вторая половина выпуска — разбор кухни антиспама Яндекс.Почты: за январь–сентябрь через серверы прошло 66 миллиардов писем, из которых более 16 миллиардов помечены как спам, а решения на 90% принимают модели машинного обучения. Ключевой механизм любой схемы — не технология, а человеческий фактор: скорость, страх перед госорганами и когнитивное убеждение «меня-то точно не обманут». Современный спам — это война двух искусственных интеллектов: один генерирует миллионы уникальных по тексту, но одинаковых по смыслу писем, другой матчит их в семантическом пространстве и банит.

Главный тезис

Технологии атак и защиты эволюционируют параллельно, но уязвимым звеном всегда остаётся человек — ни одна система безопасности не спасёт того, кто сам отдаёт преступникам «ключи от дома», поэтому единственная универсальная защита — остановиться и дать себе время подумать.

Ключевые идеи

• 1:17 — масштаб проблемы: 16 миллиардов рублей украдено за год, 130+ миллионов пострадавших, 700 тысяч IT-преступлений по данным МВД за 2023 год; средний возраст жертвы — 25–44 года, а не пенсионеры.
• 3:26 — у истоков взлома стояли Стив Джобс и Стив Возняк: до Apple они продавали Blue Box — устройство для бесплатного пользования телефонными сетями.
• 3:42 — «нигерийские письма» появились до электронной почты и работают до сих пор: потери от них и аналогичных схем в 2023 году — более 3 миллиардов долларов.
• 5:05 — хакер Гэри Маккиннон взламывал сети НАСА и Пентагона ради информации об НЛО; в экстрадиции в США отказала Тереза Мэй.
• 6:06 — червь «I love you» в мае 2000-го заразил 55 миллионов компьютеров и нанёс ущерб в 15 миллиардов долларов; автор Онел де Гузман не понёс наказания — на Филиппинах тогда не было подходящей статьи.
• 7:24 — в 2010-х вымогатели-шифровальщики переключились на корпоративный сегмент: парализуют работу компании и требуют выкуп, причём большинство программ даже не предусматривали возможность дешифровки.
• 8:28 — кейс Ларисы Долиной: «сотрудники спецслужб» убедили продать квартиру и перевести деньги на «безопасные счета» — потеря порядка 180 миллионов рублей.
• 10:49 — главный инструмент мошенника — дефицит времени: жертву лишают возможности подумать, и ей проще ввести «те самые цифры», чем сопротивляться давлению.
• 11:35 — второй рычаг — страх перед государством: быстро произнесённые имя и звание «капитана полиции» включают выученное с детства доверие к силовым структурам.
• 12:49 — почта не умерла: по исследованию Яндекс.360 ей пользуются 99% россиян 20–55 лет — на 10% больше, чем мессенджерами, и именно туда приходят билеты, документы и верификации.
• 14:32 — продвинутая схема фишинга — поддельный ответ на ваше же письмо: иллюзия существующей переписки резко повышает доверие к вредоносной ссылке.
• 16:08 — злоумышленники освоили ИИ: чат-боты пишут фишинговые шаблоны, а аудио- и видеодипфейки имитируют голос и внешность знакомых.
• 20:33 — базовая цель почти любой схемы — вывести жертву за пределы защищённого сервиса: пока вы внутри почты, фильтры защищают, после скачивания файла или перехода по ссылке — нет.
• 23:10 — крупнейшая атака на Яндекс.Почту случилась под Новый год — 30 миллионов писем за раз; парадоксально, масштаб помог быстро её обнаружить и устранить.
• 35:11 — антиспам сегодня — это на 90% искусственный интеллект: модели принимают решения самостоятельно, а оставшиеся 10% — эвристики, «здравый смысл, описанный правилами», удерживающий модель в узде.

Почему это важно

Кибермошенничество стало индустрией национального масштаба: 91% населения России так или иначе столкнулись с ним, а генеративный ИИ обнулил старые методы детекции — один клик в ChatGPT даёт десятки тысяч уникальных по тексту, но одинаковых по смыслу писем. Выигрывают платформы с большими данными и ML-инфраструктурой (в выпуске это Яндекс со своей «Спам-обороной», существующей ~25 лет с заказа Ильи Сегаловича): для них безопасность — конкурентное преимущество и причина удерживать пользователя внутри экосистемы. Проигрывает тот, кто полагается только на технику: государственная статистика (МВД), кейсы знаменитостей вроде Долиной и психологи сходятся в одном — атака идёт не на протокол, а на когнитивные искажения человека, и этот слой никакой фильтр не закрывает.

Идеи

• Самоуверенность — топливо мошенничества: убеждение «я не лох, со мной не произойдёт» статистически характерно именно для тех, кто становится жертвой.
• Портрет жертвы контринтуитивен: не бабушка, а молодой человек 34 лет (данные 2019 года) — активный пользователь, у которого больше цифровых поверхностей атаки.
• Создатели Apple начинали с инструмента телефонного взлома — граница между хакером и «поборником безопасности» исторически проницаема.
• «I love you» был не атакой, а побочным эффектом: де Гузман якобы просто хотел бесплатный интернет в своём регионе, отправил вирус в Сингапур и «пошёл выпивать с другом».
• Юрисдикционные дыры долго были щитом киберпреступников: автор самого разрушительного вируса в мире избежал наказания из-за отсутствия статьи в законе Филиппин.
• Оплата выкупа вымогателям часто бессмысленна технически: у большинства известных программ-вымогателей дешифровка вообще не была предусмотрена.
• Следственный эксперимент полиции: задержанный мошенник по случайному номеру убеждает незнакомку перевести деньги — жертва сама отдаёт всю нужную информацию, просто отвечая на вопросы.
• Мошенники работают «в тренде»: рассылки подстраиваются под повестку — от «подтвердите, что сидите дома» до благотворительных сборов.
• Спамеры целенаправленно прячут ссылки внутрь PDF-вложений, чтобы обмануть фильтры: документ выглядит обычным, но первое, что видит открывший, — ссылка.
• Защита от дипфейка пока физическая: попросить собеседника повернуть голову или отпить кофе — «маска может спасть».
• Дипфейк-технология пока дорогая — это временный экономический барьер массового применения.
• Базы для рассылок собираются из открытых источников: контакты на форумах, сопоставление аккаунтов между сервисами; базы часто неактуальны, но рассылают по ним всё равно.
• Телефон из фишингового письма «100% принадлежит мошенникам» — перезванивать в банк нужно только по номеру из поисковика.
• Зелёный/жёлтый/красный «замочек» в интерфейсе почты — это видимый пользователю результат SPF/DKIM-проверки подлинности отправителя.
• Кнопку «это спам» нажимают доли процента пользователей — и именно этого сигнала антиспаму остро не хватает для моментальной реакции на новые атаки.
• Злоумышленники традиционно «отдыхают» в новогодние праздники — поэтому атака в конце года стала для команды Яндекса сюрпризом.
• Антиспам работает на опережение: после каждого пробития фильтра команда закрывает не только текущий способ, но и прогнозирует следующие ходы спамеров.
• Соотношение мусорной рекламы и криминального фишинга в спаме — примерно 50/50 (оценка «навскидку»): окупаются оба.
• Семантический матчинг текстов: нейросети строят векторные представления, и письма с одинаковой идеей, но полностью разными словами, математически распознаются как близкие.
• Под каждый тип спама — своя модель: текстовые нейросети, computer vision для картиночного спама, OCR для текста на изображениях.
• Письмо разбирается «на атомы»: из него извлекается около 10 тысяч признаков, которые бустинговые модели сводят в единый скор «спам/не спам».
• Дежурный по антиспаму есть всегда — «каждый день, каждый час, в праздники, выходные, перед Новым годом».
• Команда реагирования масштабируется под проблему: узкую уязвимость дежурный закрывает один, на новую механику собирается штурм из 2–4 программистов.
• Опасный спам не доносят даже до папки «Спам» — потому что люди всё ещё «доводят карточку своему дяде в Нигерии».
• Обычный почтовый ящик сегодня охраняется лучше, чем банковские системы недавнего прошлого, — но это не отменяет личной бдительности.

Инсайты

• Технологический прогресс в мошенничестве не создаёт новых уязвимостей — он масштабирует эксплуатацию вечных: любопытства, страха, жадности и желания помочь.
• Когнитивная иллюзия неуязвимости сама по себе является уязвимостью: уверенность «меня не обманут» отключает проверочное поведение.
• Социальная инженерия инвертирует роли: жертва не «взламывается», а добровольно выполняет работу атакующего, отвечая на правильно заданные вопросы.
• Дефицит времени — универсальный отключатель критического мышления; любая легитимная структура может позволить себе подождать, мошенник — нет.
• Выученное доверие к институтам (полиция, банк, госуслуги) — это социальный капитал, который преступность арбитражит: чем сильнее доверие, тем эффективнее его подделка.
• Гонка атаки и защиты симметрична по инструментам: обе стороны используют одни и те же технологии (ИИ, генерация, анализ), и преимущество определяется скоростью адаптации, а не самой технологией.
• Безопасность периметра порождает стратегию выманивания: когда защищённую систему нельзя пробить, атакующий стремится вывести человека за её границы.
• Автоматизация защиты упирается в потолок новизны: ML закрывает известные паттерны, но принципиально новая механика всегда требует людей — автоматизируется реакция, не изобретение.
• Полностью автономному ИИ не доверяют даже его создатели: поверх моделей всегда лежит слой правил-«здравого смысла», ограничивающий цену ошибки.
• Обратная связь пользователей — критический ресурс ML-систем безопасности; её дефицит (доли процента нажатий «это спам») замедляет адаптацию сильнее, чем изощрённость атак.
• Эффективность фильтров создаёт ложное чувство стерильности среды — и тем самым переносит ответственность за последний рубеж обороны обратно на человека.

Фреймворки

Пять признаков фишингового письма (по выпуску):

1. Адрес отправителя — подделка с заменой одной-двух букв в домене.
2. Тема и содержание — провокационные заголовки («Вы выиграли миллион», «Ваш аккаунт заблокирован») для моментальной эмоциональной реакции.
3. Ошибки — грамматика, странные формулировки, кривые переводы; настоящие компании следят за качеством переписки.
4. Ссылки и вложения — навести курсор не нажимая и сверить адрес с реальным сайтом.
5. Запрос личных данных — настоящие компании никогда не просят пароли и финансовые данные по почте.

Конвейер антиспам-системы Яндекса: SPF/DKIM-проверки (электронная подпись письма + список доверенных IP) → парсинг письма «на атомы» → извлечение ~10 000 признаков → текстовые, картиночные и бустинговые ML-модели → итоговый скор «спам/не спам» → поверх моделей слой эвристик-правил на случай непредвиденного.

Цитаты

«Практически любая схема мошенников – это человеческий фактор. Они используют наши слабые стороны – это любопытство, интерес, помощь друзьям, близким и страх» — 2:54

«конечно, мы киваем головами и улыбаемся там, типа, ну, лох. Ну, со мной такого же не произойдет, я-то не лох, я не поведусь» — 0:54

«дорогой сэр, у вас умерла бабушка в Нигерии, я представляю ваши интересы» — 3:45

«Мы доверчивы, нам хочется быть хорошими, нам хочется верить в чудеса» — 9:55

«У нас есть некое когнитивное убеждение, что меня точно не обманут» — 10:02

«У жертвы не остается времени на подумать, на принять решение» — 11:16

«Мы начинаем доверять, потому что нас с детства учили, что милиции, теперь полиции, необходимо доверять. И они точно не обманут» — 11:46

«Если тема письма выглядит как ловушка, скорее всего, это и есть спам» — 18:30

«не берите телефон из того же письма, воспользуйтесь поисковиком, потому что в письме тоже указан телефон мошенников 100%» — 19:41

«иногда шутят, что почта старше некоторых ее текущих разработчиков» — 22:37

«То есть у спамеров тоже свой институт работает? Естественно. Они тоже эволюционируют, так же, как и мы. Иногда мы в роли догоняющих выступаем, иногда мы играем на опережение» — 28:57

«То есть это сцена из фантастического романа. Условно, с одной стороны, искусственный интеллект, и чат GPT, и с другой стороны, тоже искусственный интеллект. Один на стороне мошенников, другой на стороне защиты» — 31:03

«каждое четвертое письмо могло попасть вам в ящик, но оно попало в спам» — 28:04

«Модели практически всегда принимают решения самостоятельно» — 35:34

«здравый смысл описан правилами, чтобы модель все-таки держала себя в рамках здравого смысла какой-то узды» — 35:49

«сейчас обычный электронный почтовый ящик охраняется лучше, чем банковские системы в недавнем прошлом» — 36:31

«Помните, ни одна система безопасности не поможет, если вы сами даете преступникам ключи от своего дома» — 36:55

Факты

• За прошлый год киберпреступники заработали на россиянах 16 миллиардов рублей; с мошенничеством столкнулись более 130 миллионов человек — 91% населения.
• По данным МВД, в 2023 году совершено около 700 тысяч IT-преступлений; средний возраст жертв — 25–44 года, среднестатистический портрет жертвы по данным 2019 года — молодой человек 34 лет.
• Стив Джобс и Стив Возняк до Apple продавали Blue Box — прибор для взлома телефонных систем.
• По оценкам международных аналитиков, потери от «нигерийских писем» и аналогичных схем в 2023 году — более 3 миллиардов долларов.
• Гэри Маккиннон из Шотландии в начале 2000-х взламывал сети НАСА и Пентагона в поисках данных об НЛО; по версии выпуска, в экстрадиции в США отказала Тереза Мэй (названа премьер-министром Великобритании).
• Червь «I love you» (май 2000) заразил более 55 миллионов компьютеров, ущерб — 15 миллиардов долларов, занесён в Книгу рекордов Гиннеса; создателя Онела де Гузмана нашли только спустя 20 лет.
• Лариса Долина потеряла порядка 180 миллионов рублей, продав квартиру по указке мошенников, представившихся сотрудниками спецслужб.
• По исследованию Яндекс.360, электронной почтой пользуются 99% россиян 20–55 лет — на 10% больше, чем мессенджерами.
• Через серверы Яндекс.Почты с января по сентябрь текущего года прошло порядка 66 миллиардов писем, более 16 миллиардов помечены как спам или заблокированы.
• За первую половину 2024 года — 48 миллиардов писем, из них 12 миллиардов спам: каждое четвёртое.
• Крупнейшая атака — около 30 миллионов писем за раз, под Новый год.
• Антиспам Яндекса существует около 25 лет; первую систему сделали по заказу сооснователя Ильи Сегаловича (в транскрипте — «Сиголович»).
• Соотношение рекламного спама и криминального фишинга — примерно 50/50 (оценка сотрудника «навскидку»).
• Работа антиспама более чем на 90% завязана на модели ИИ; из письма извлекается порядка 10 тысяч признаков.

Источники

• Яндекс.360, Яндекс.Почта, «Спам-оборона» — сервисы и исследования, на которых построена вторая часть выпуска
• Илья Сегалович — сооснователь Яндекса, заказчик первого антиспама
• Стив Джобс, Стив Возняк, Blue Box — предыстория фрикинга
• Гэри Маккиннон, Тереза Мэй — кейс взлома НАСА/Пентагона
• Онел де Гузман, вирус «I love you» — крупнейшая почтовая эпидемия 2000 года
• Лариса Долина — кейс телефонного мошенничества на 180 млн рублей
• МВД России — статистика IT-преступлений
• SPF (Sender Policy Framework), DKIM (DomainKeys Identified Mail) — протоколы проверки подлинности отправителя
• ChatGPT — упомянут как инструмент генерации спама
• Выпуски канала МИНАЕВ LIVE об НЛО и о тюрьме Алькатрас (второй канал)

Рекомендации

• Останавливаться: дать себе несколько минут на раздумья или спросить совета у близкого — «то вы никогда не будете ловиться на мошеннические уловки».
• При странной голосовой просьбе в мессенджере — перезвонить человеку напрямую и убедиться, что это он.
• При подозрении на дипфейк в видеозвонке — попросить собеседника повернуть голову или отпить кофе.
• Проверять адрес отправителя посимвольно; наводить курсор на ссылку, не нажимая.
• Никогда не сообщать пароли и финансовые данные по почте; при письме «от банка» связаться с банком по номеру из поисковика, а не из письма.
• Не скачивать файлы и не переходить по ссылкам без полной уверенности в отправителе.
• Использовать многофакторную аутентификацию.
• Не уповать на антивирус и антиспам — следить за безопасностью данных самостоятельно.

Итог

Мошенники взламывают не компьютеры, а людей — и пока фильтры двух воюющих искусственных интеллектов отсеивают миллиарды писем, последняя линия обороны остаётся прежней: не спешить, не верить в чудеса и не отдавать преступникам ключи от собственного дома.