Коротко
Нил Деграсс Тайсон (StarTalk) вместе с экспертом по кибербезопасности Алексом разбирает феномен дипфейков: синтетического медиа, которое нейросети генерируют, чтобы заставить человека «сказать или сделать» то, чего он не делал. Тайсон сам угодил в эту историю: его дипфейкнули в научных роликах, где около 15% фактов оказались ложными, и подделка обманула даже близкого друга. Алекс раскладывает техническую базу (перцептрон, затем глубокие нейросети), типологию скам-схем (романтические и инвестиционные, компрометация деловой почты, поддельные «родственники в беде») и инструменты защиты (Scamio, AI-honeypots, детекторы видео и аудио). Финал спорит о главном: правила Sora 2 (согласие на дипфейк обязательно), это решение или иллюзия? Алекс уверен, что иллюзия: нелегальные конкуренты этих правил не соблюдают, и «в кибербезопасности у тебя всегда будет работа».
Главный тезис
Дипфейки уже подрывают доверие: к публичным фигурам, политикам, обычным людям, а платформенные «правила согласия» ничего не спасут, пока guardrails не станут общеотраслевыми. Различать реальность становится всё труднее.
Ключевые идеи
- 0:32 дипфейк = синтетическое или манипулированное медиа (видео, аудио, изображения), сгенерированное ИИ, чтобы показать человека говорящим или делающим то, чего не было.
- 0:51 термин происходит от deep learning: «deep», потому что нейросеть многослойная и обучается на терабайтах данных.
- 1:16 биологический нейрон в ИИ называется перцептрон: множество входов с весами, один выход, срабатывает, если сумма входов×весов превышает порог.
- 2:40 ранние дипфейки безвредны как пародия, если зритель понимает, что это пародия; черта переходится, когда зритель не знает.
- 4:01 в каждом виденном Тайсоном научном дипфейке часть науки была неверной, хотя автор подделывал не со зла, а по незнанию.
- 4:09 дипфейк про цивилизацию III типа обманул близкого друга Тайсона настолько, что тот собирался звонить и поздравлять с «блестящим наблюдением».
- 5:37 в конкретном ролике с его голосом и образом ~15% информации было ложным.
- 6:21 дипфейк политика опаснее научного: он способен ударить по стабильности мира.
- 6:31 в начале войны взломали украинское ТВ с фейком про капитуляцию Зеленского; позже, фейк с Путиным о «наступившем мире», технически слабые, но кого-то обманули.
- 7:48 дипфейки выкидывают в «день тишины» перед выборами, когда политик по закону не может опровергнуть: это реально влияло на голосование.
- 8:51 романтические и инвестиционные скамы: мошенник входит в доверие через «ошибочное» сообщение, потом затягивает в фейковые фонды, «и ты банкрот».
- 9:43 кейс из Гонконга: на видеовстрече все 14 «коллег» были дипфейками, жертву убедили перевести $25 млн.
- 10:35 для клонирования голоса хватает нескольких десятков секунд записи; схема «родственник в беде» строится на срочности.
- 11:06 личная защита Алекса: не отвечать на звонки с незнакомых номеров (за год почти всегда скамеры).
- 11:50 инструмент Scamio на основе AI-honeypots: фейковые «жертвы» занимают время мошенников и собирают данные для улучшения детекции.
- 14:36 у Sora 2 есть правило: дипфейкнуть человека можно только с его аккаунтом и явным разрешением; Алекс считает это недостаточным против нелегальных конкурентов.
- 15:53 пока Тайсон узнаёт свои подделки по паузам (смысловым и драматическим) и интонациям, которые ИИ ещё не освоил.
Почему это важно
Дипфейки переводят старую проблему доверия в новый масштаб. То, что раньше требовало навыка и времени, теперь ИИ делает за секунды, и в руках «немногих злоумышленников» это превращается в оружие против выборов, финансов и репутаций. Проигрывают публичные фигуры (Тайсон, Зеленский, Путин, как объекты подделок), обычные люди (жертвы скамов и «родственников в беде») и сама достоверность медиапространства. Выигрывают мошенники и, как ни странно, индустрия кибербезопасности, которой, по словам Алекса, работа гарантирована «всегда». Платформы вроде OpenAI (Sora 2) пытаются ставить guardrails, но пока они не общеотраслевые и не закреплены регуляторно, защита остаётся гонкой брони и снаряда.
Идеи
- Дипфейк может не генерироваться с нуля, а подменять часть настоящего изображения, так подделку труднее заметить.
- Детектор изображений показывает не только «фейк/не фейк», но и какая именно часть картинки поддельная.
- Аудио-детектор работает через транскрипцию: переводит звук в текст и решает по тексту.
- Самый коварный сценарий не явная ложь, а научный ролик, где почти всё верно, и лишь малая доля переврана.
- Пародийный дипфейк (Тайсон-младенец у Тео Вона) безвреден именно потому, что абсурден и очевиден.
- Слабый дипфейк Зеленского выдала непропорционально большая голова: мелочь, заметная тем, кто знает лицо президента.
- Для людей без доступа к множеству медиаканалов работает логика «показали по ТВ, значит правда».
- «День тишины» перед выборами, идеальное окно атаки: жертва юридически не может ответить.
- Скам начинается с безобидного «ошиблись номером»: это входной крючок доверия.
- Мошенники сначала звонят сыну под видом доставки, чтобы записать его голос для последующего «родственника в беде».
- Подмена знакомого номера возможна, но мошенник не знает, какие номера у тебя в контактах, отсюда защита через «не беру незнакомые».
- Honeypot не просто тратит время скамера, он собирает данные для улучшения детекции и предупреждения других.
- Может наступить день, когда дипфейк будет привлекательнее правды, и человек откажется верить детектору: «нет-нет, это должно быть правдой».
- Тайсон узнаёт фейки себя по паузам и тембру, но признаёт, что это временное преимущество.
- Принцип Тайсона: он никогда ничего не рекламирует, поэтому любая «реклама от него» по определению дипфейк.
- Согласие-как-условие (Sora 2) защищает только тех, кто на платформе; кто не зарегистрирован, тот вне правил, но и не под защитой.
- Скам-индустрия старше интернета, нова лишь роль ИИ как усилителя.
- Даже технически плохой дипфейк выполняет задачу, если опровержение запоздало или невозможно.
Инсайты
- Угроза дипфейков лежит не в качестве подделки, а в асимметрии скорости: создать и распространить ложь дешевле и быстрее, чем верифицировать и опровергнуть.
- Доверие, это атакуемая поверхность; ИИ не изобретает новый обман, а индустриализирует эксплуатацию уже существующего человеческого доверия.
- Самая опасная дезинформация не противоположность правды, а правда с малой примесью лжи, паразитирующая на чужой репутации достоверности.
- Детекция и генерация, гонка вооружений без финишной черты: каждое улучшение защиты обучает атаку, и наоборот.
- В точке, где подделка эмоционально приятнее реальности, технические детекторы теряют силу, проблема смещается из инженерной в психологическую.
- Платформенное саморегулирование структурно неполно: оно связывает добросовестных и бессильно против тех, кто вне юрисдикции платформы.
- Эффективная защита решает проблему не на уровне контента, а на уровне канала и контекста (незнакомые номера, срочность как красный флаг).
- Уязвимость масштабируется обратно доступу к информации: чем меньше у человека медиаканалов, тем дешевле его обмануть.
- Идентичность публичной фигуры становится присваиваемым активом, и единственная устойчивая защита, предсказуемый принцип поведения («я никогда не рекламирую»), а не технический маркер.
Цитаты
«So a deepfake, the shortest definition I can come up with is synthetic or manipulated media», 0:32 Дипфейк, самое короткое определение, какое могу дать,, это синтетическое или манипулированное медиа
«I didn't think much about deep fakes until I got deep faked», 2:37 Я особо не думал о дипфейках, пока меня самого не дипфейкнули
«But when you do this and the viewer does not know its parody, then you're crossing a line», 3:09 Но когда зритель не понимает, что это пародия, ты переходишь черту
«Well, if you felt bad, I felt worse because I totally believe that was you, Neil», 5:02 Если тебе было неловко, мне было хуже, я полностью поверил, что это был ты, Нил
«I will never trust the Interstellar soundtrack again», 5:13 Я больше никогда не смогу доверять саундтреку «Интерстеллара»
«with AI participating in this exercise in the hands of nefarious few, it's taken to another level», 8:38 С ИИ в этом деле, в руках немногих злоумышленников, всё выходит на другой уровень
«One thing leads to the other and then you're bankrupt», 9:35 Одно тянет за собой другое, и вот ты банкрот
«You need only a few tens of seconds of recording to then be able to replicate the voice as an AI», 10:49 Хватает лишь нескольких десятков секунд записи, чтобы ИИ воспроизвёл голос
«It's always based on urgency, so you have to act fast», 10:43 Всё всегда строится на срочности, ты должен действовать быстро
«I stopped answering phone calls from unknown numbers», 11:06 Я перестал отвечать на звонки с незнакомых номеров
«no, no, no, no, no. This has to be true. You're wrong», 14:19 Нет-нет-нет, это должно быть правдой, ты ошибаешься
«In cybersecurity, you'll always have a job», 15:40 В кибербезопасности у тебя всегда будет работа
«It just has my words and my voice, and it just rattles it off», 16:12 У него есть мои слова и мой голос, и он просто их тараторит
«You will not see me hawking products. Not soft drinks, not sneakers, I don't care», 16:34 Вы не увидите, как я впариваю товары, ни газировку, ни кроссовки, без разницы
«Don't listen to him. He's not the real Neil. I am», 17:01 Не слушайте его, это не настоящий Нил. Настоящий, я
«There is something I do tell you to do every single day... It's keep looking up», 17:32 Есть одна вещь, к которой я призываю каждый день,, продолжайте смотреть вверх
Факты
- Спикеры: Нил Деграсс Тайсон (ведущий StarTalk) и эксперт по кибербезопасности по имени Алекс.
- В конкретном дипфейк-ролике с образом Тайсона ~15% информации было ложным (по его оценке, без злого умысла автора).
- Дипфейк, обманувший друга Тайсона, был про цивилизацию III типа и найден в ленте TikTok.
- В начале войны взломали украинское ТВ с фейком о капитуляции Зеленского; позже появился фейк с Путиным о «наступившем мире» (на YouTube/Facebook).
- Фейк Зеленского выдала непропорционально большая голова; Зеленский лично опроверг его.
- Кейс из Гонконга (несколько лет назад): на видеозвонке 14 «участников» были дипфейками, жертву убедили перевести $25 млн.
- Для клонирования голоса достаточно нескольких десятков секунд записи.
- Упомянут инструмент Scamio на базе AI-honeypots, фейковых «уязвимых» собеседников.
- Готовятся к публичному релизу два детектора: один для видео/изображений (с указанием поддельной области), второй для аудио (через транскрипцию в текст).
- Sora 2 (выпущена «дни назад» относительно записи) требует, чтобы дипфейкаемый человек имел аккаунт и дал явное разрешение.
- Babyfied-пародия Тайсона возникла из его реального разговора с Тео Воном на подкасте.
Источники
- StarTalk, канал/подкаст Нила Деграсса Тайсона
- Sora 2 (OpenAI), генеративная видеоплатформа с правилами согласия
- Scamio, коммерческий антискам-инструмент на AI-honeypots
- Подкаст Theo Von, источник пародийного клипа
- TikTok, YouTube, Facebook, площадки распространения упомянутых дипфейков
- Саундтрек фильма «Интерстеллар» (Interstellar), упомянут другом Тайсона
Итог
Различать реальное от синтетического становится всё труднее, и пока guardrails не станут общеотраслевыми, единственная надёжная защита, это контекст, скепсис к срочности и предсказуемые принципы поведения, а не вера глазам и ушам.
