Коротко
Нил Деграсс Тайсон (StarTalk) вместе с экспертом по кибербезопасности Алексом разбирает феномен дипфейков — синтетического медиа, сгенерированного нейросетями, чтобы заставить человека «сказать или сделать» то, чего он не делал. Тайсон рассказывает, как сам стал жертвой: его дипфейкнули в научных роликах, где ~15% фактов были ложными, и подделка обманула даже его близкого друга. Алекс объясняет техническую базу (перцептрон → глубокие нейросети), типологию скам-схем (романтические/инвестиционные, компрометация деловой почты, поддельные «родственники в беде») и инструменты защиты (Scamio, AI-honeypots, детекторы видео и аудио). Ключевой спор финала: правила Sora 2 (требование согласия для дипфейка) — это решение или иллюзия? Алекс: нет, потому что нелегальные конкуренты эти правила не соблюдают, и «в кибербезопасности у тебя всегда будет работа».
Главный тезис
Дипфейки уже достаточно хороши, чтобы подрывать доверие — к публичным фигурам, политикам и между обычными людьми — и платформенные «правила согласия» не спасут, пока guardrails не станут общеотраслевыми; различать реальность становится всё труднее.
Ключевые идеи
- 0:32 — дипфейк = синтетическое или манипулированное медиа (видео, аудио, изображения), сгенерированное ИИ, чтобы показать человека говорящим/делающим то, чего не было.
- 0:51 — термин происходит от deep learning: «deep» — потому что нейросеть многослойная и обучается на терабайтах данных.
- 1:16 — биологический нейрон в ИИ называется перцептрон: множество входов с весами, один выход; срабатывает, если сумма входов×весов превышает порог.
- 2:40 — ранние дипфейки безвредны как пародия, если зритель понимает, что это пародия; черта переходится, когда зритель не знает.
- 4:01 — в каждом виденном Тайсоном научном дипфейке часть науки была неверной, хотя автор подделывал не со зла, а по незнанию.
- 4:09 — дипфейк про цивилизацию III типа обманул близкого друга Тайсона настолько, что тот собирался звонить и поздравлять с «блестящим наблюдением».
- 5:37 — в конкретном ролике с его голосом и образом ~15% информации было ложным.
- 6:21 — дипфейк политика опаснее научного: он может ударить по стабильности мира.
- 6:31 — в начале войны взломали украинское ТВ с фейком про капитуляцию Зеленского; позже — фейк с Путиным о «наступившем мире», технически слабые, но кого-то обманули.
- 7:48 — дипфейки выкидывают в «день тишины» перед выборами, когда политик по закону не может опровергнуть — это реально влияло на голосование.
- 8:51 — романтические/инвестиционные скамы: мошенник входит в доверие через «ошибочное» сообщение, потом затягивает в фейковые фонды, «и ты банкрот».
- 9:43 — кейс из Гонконга: на видеовстрече все 14 «коллег» были дипфейками, жертву убедили перевести $25 млн.
- 10:35 — для клонирования голоса нужны лишь несколько десятков секунд записи; схема «родственник в беде» строится на срочности.
- 11:06 — личная защита Алекса: не отвечать на звонки с незнакомых номеров (за год — почти всегда скамеры).
- 11:50 — инструмент Scamio на основе AI-honeypots: фейковые «жертвы» занимают время мошенников и собирают данные для улучшения детекции.
- 14:36 — у Sora 2 есть правило: дипфейкнуть человека можно только с его аккаунтом и явным разрешением; Алекс считает это недостаточным против нелегальных конкурентов.
- 15:53 — пока Тайсон узнаёт свои подделки по паузам (смысловым и драматическим) и интонациям, которые ИИ ещё не освоил.
Почему это важно
Дипфейки переводят старую проблему доверия в новый масштаб: то, что раньше требовало навыка и времени, теперь делается ИИ за секунды и в руках «немногих злоумышленников» становится оружием против выборов, финансов и репутаций. Проигрывают публичные фигуры (Тайсон, Зеленский, Путин — как объекты подделок), обычные люди (жертвы скамов и «родственников в беде») и сама достоверность медиапространства. Выигрывают мошенники и — парадоксально — индустрия кибербезопасности, которой, по словам Алекса, работа гарантирована «всегда». Платформы вроде OpenAI (Sora 2) пытаются ставить guardrails, но пока они не общеотраслевые и не закреплены регуляторно, защита остаётся гонкой брони и снаряда.
Идеи
- Дипфейк может не генерироваться с нуля, а подменять часть настоящего изображения — так подделку труднее заметить.
- Детектор изображений показывает не только «фейк/не фейк», но и какая именно часть картинки поддельная.
- Аудио-детектор работает через транскрипцию: переводит звук в текст и решает по тексту.
- Самый коварный сценарий — не явная ложь, а научный ролик, где почти всё верно, и лишь малая доля переврана.
- Пародийный дипфейк (Тайсон-младенец у Тео Вона) безвреден именно потому, что абсурден и очевиден.
- Слабый дипфейк Зеленского выдала непропорционально большая голова — мелочь, заметная тем, кто знает лицо президента.
- Для людей без доступа к множеству медиаканалов работает логика «показали по ТВ — значит правда».
- «День тишины» перед выборами — идеальное окно атаки: жертва юридически не может ответить.
- Скам начинается с безобидного «ошиблись номером» — это входной крючок доверия.
- Мошенники сначала звонят сыну под видом доставки, чтобы записать его голос для последующего «родственника в беде».
- Подмена знакомого номера возможна, но мошенник не знает, какие номера у тебя в контактах — отсюда защита через «не беру незнакомые».
- Honeypot не просто тратит время скамера — он собирает данные для улучшения детекции и предупреждения других.
- Может наступить день, когда дипфейк будет привлекательнее правды, и человек откажется верить детектору: «нет-нет, это должно быть правдой».
- Тайсон узнаёт фейки себя по паузам и тембру — но признаёт, что это временное преимущество.
- Принцип Тайсона: он никогда ничего не рекламирует — поэтому любая «реклама от него» по определению дипфейк.
- Согласие-как-условие (Sora 2) защищает только тех, кто на платформе; кто не зарегистрирован — тот вне правил, но и не под защитой.
- Скам-индустрия старше интернета — нова лишь роль ИИ как усилителя.
- Даже технически плохой дипфейк выполняет задачу, если опровержение запоздало или невозможно.
Инсайты
- Угроза дипфейков лежит не в качестве подделки, а в асимметрии скорости: создать и распространить ложь дешевле и быстрее, чем верифицировать и опровергнуть.
- Доверие — это атакуемая поверхность; ИИ не изобретает новый обман, а индустриализирует эксплуатацию уже существующего человеческого доверия.
- Самая опасная дезинформация — не противоположность правды, а правда с малой примесью лжи, паразитирующая на чужой репутации достоверности.
- Детекция и генерация — гонка вооружений без финишной черты: каждое улучшение защиты обучает атаку, и наоборот.
- В точке, где подделка эмоционально приятнее реальности, технические детекторы теряют силу — проблема смещается из инженерной в психологическую.
- Платформенное саморегулирование структурно неполно: оно связывает добросовестных и бессильно против тех, кто вне юрисдикции платформы.
- Эффективная защита решает проблему не на уровне контента, а на уровне канала и контекста (незнакомые номера, срочность как красный флаг).
- Уязвимость масштабируется обратно доступу к информации: чем меньше у человека медиаканалов, тем дешевле его обмануть.
- Идентичность публичной фигуры становится присваиваемым активом — и единственная устойчивая защита — предсказуемый принцип поведения («я никогда не рекламирую»), а не технический маркер.
Цитаты
«So a deepfake, the shortest definition I can come up with is synthetic or manipulated media» — 0:32 Дипфейк, самое короткое определение, какое могу дать, — это синтетическое или манипулированное медиа
«I didn't think much about deep fakes until I got deep faked» — 2:37 Я особо не думал о дипфейках, пока меня самого не дипфейкнули
«But when you do this and the viewer does not know its parody, then you're crossing a line» — 3:09 Но когда зритель не понимает, что это пародия, ты переходишь черту
«Well, if you felt bad, I felt worse because I totally believe that was you, Neil» — 5:02 Если тебе было неловко, мне было хуже — я полностью поверил, что это был ты, Нил
«I will never trust the Interstellar soundtrack again» — 5:13 Я больше никогда не смогу доверять саундтреку «Интерстеллара»
«with AI participating in this exercise in the hands of nefarious few, it's taken to another level» — 8:38 С ИИ в этом деле, в руках немногих злоумышленников, всё выходит на другой уровень
«One thing leads to the other and then you're bankrupt» — 9:35 Одно тянет за собой другое — и вот ты банкрот
«You need only a few tens of seconds of recording to then be able to replicate the voice as an AI» — 10:49 Хватает лишь нескольких десятков секунд записи, чтобы ИИ воспроизвёл голос
«It's always based on urgency, so you have to act fast» — 10:43 Всё всегда строится на срочности — ты должен действовать быстро
«I stopped answering phone calls from unknown numbers» — 11:06 Я перестал отвечать на звонки с незнакомых номеров
«no, no, no, no, no. This has to be true. You're wrong» — 14:19 Нет-нет-нет, это должно быть правдой, ты ошибаешься
«In cybersecurity, you'll always have a job» — 15:40 В кибербезопасности у тебя всегда будет работа
«It just has my words and my voice, and it just rattles it off» — 16:12 У него есть мои слова и мой голос — и он просто их тараторит
«You will not see me hawking products. Not soft drinks, not sneakers, I don't care» — 16:34 Вы не увидите, как я впариваю товары — ни газировку, ни кроссовки, без разницы
«Don't listen to him. He's not the real Neil. I am» — 17:01 Не слушайте его, это не настоящий Нил. Настоящий — я
«There is something I do tell you to do every single day... It's keep looking up» — 17:32 Есть одна вещь, к которой я призываю каждый день, — продолжайте смотреть вверх
Факты
- Спикеры: Нил Деграсс Тайсон (ведущий StarTalk) и эксперт по кибербезопасности по имени Алекс.
- В конкретном дипфейк-ролике с образом Тайсона ~15% информации было ложным (по его оценке — без злого умысла автора).
- Дипфейк, обманувший друга Тайсона, был про цивилизацию III типа и найден в ленте TikTok.
- В начале войны взломали украинское ТВ с фейком о капитуляции Зеленского; позже появился фейк с Путиным о «наступившем мире» (на YouTube/Facebook).
- Фейк Зеленского выдала непропорционально большая голова; Зеленский лично опроверг его.
- Кейс из Гонконга (несколько лет назад): на видеозвонке 14 «участников» были дипфейками, жертву убедили перевести $25 млн.
- Для клонирования голоса достаточно нескольких десятков секунд записи.
- Упомянут инструмент Scamio на базе AI-honeypots — фейковых «уязвимых» собеседников.
- Готовятся к публичному релизу два детектора: один для видео/изображений (с указанием поддельной области), второй для аудио (через транскрипцию в текст).
- Sora 2 (выпущена «дни назад» относительно записи) требует, чтобы дипфейкаемый человек имел аккаунт и дал явное разрешение.
- Babyfied-пародия Тайсона возникла из его реального разговора с Тео Воном на подкасте.
Источники
- StarTalk — канал/подкаст Нила Деграсса Тайсона
- Sora 2 (OpenAI) — генеративная видеоплатформа с правилами согласия
- Scamio — коммерческий антискам-инструмент на AI-honeypots
- Подкаст Theo Von — источник пародийного клипа
- TikTok, YouTube, Facebook — площадки распространения упомянутых дипфейков
- Саундтрек фильма «Интерстеллар» (Interstellar) — упомянут другом Тайсона
Итог
Различать реальное от синтетического становится всё труднее, и пока guardrails не станут общеотраслевыми, единственная надёжная защита — это контекст, скепсис к срочности и предсказуемые принципы поведения, а не вера глазам и ушам.
