Коротко
Автор делится впечатлениями от поездки в Сан-Франциско, где треть машин на дорогах — беспилотные Waymo, и утверждает, что подавляющее большинство людей не понимает, что несёт ИИ. Он считает страх потери работы вторичным: главные угрозы — это десятикратное (на 10 порядков) удешевление инструментов авторитарной слежки и опасность цифрового ID, который при смене власти превращается в смертельное оружие. Историческая иллюстрация — в Нидерландах погибло больше евреев, чем во Франции, потому что у голландцев были лучше учётные записи. Параллельно автор указывает на потенциал ИИ в физике: с 1972 года в фундаментальной физике застой, и если направить вычислительную мощь ИИ туда, может произойти технологический прорыв. Итоговая рамка — цитата Томаса Соуэлла: «нет решений, есть только компромиссы», и точка между безопасностью и свободой требует осознанного выбора.
Главный тезис
ИИ опасен не тем, что отнимет работу, а тем, что радикально удешевляет авторитарный контроль и одновременно открывает дверь к прорывам в физике — и оба эти вектора недооценены публикой.
Ключевые идеи
- В Сан-Франциско треть машин на дорогах ездит без водителя — это Waymo, и это наглядная демонстрация скорости разворачивания ИИ.
- Билборд в Times Square с лозунгом «stop hiring humans, the age of the AI employees is here» — пример оруэлловского маркетинга и стратегической глупости компании, которая сама ставит на себе клеймо.
- Почти никто, включая самого автора до поездки, не понимает масштаб надвигающихся изменений; даже побывав в эпицентре, форму этих изменений предсказать нельзя.
- Главный закон истории — непредвиденные последствия (unintended consequences).
- Страх потери работы валиден, но это не тот страх, который должен быть приоритетным.
- Стоимость авторитарного режима уровня Штази упала на 10 порядков за три года: камеры, ИИ, телефоны в каждом кармане заменяют 20% ВВП, которые ГДР тратила на слежку.
- Либеральные демократии уязвимы: вопрос не в нынешних лидерах, а в том, как долго они будут сопротивляться искушению использовать инструменты тотального контроля.
- Цифровой ID — terrifying: даже если его вводят «хорошие», следующий электоральный цикл может привести к власти «плохих», у которых уже будет готовая инфраструктура.
- Исторический аргумент: в Нидерландах погибло больше евреев, чем во Франции, потому что голландские записи были лучше — лучше учёт = выше эффективность репрессий.
- Цивилизация — это поляна в лесу (a clearing in the forest), требующая постоянной обороны от авторитаризма, неважно справа или слева, из «хороших» или «плохих» побуждений.
- Спасение от страха безработицы — переносимые навыки и критическое мышление: эра «работы на всю жизнь» окончена, но человек с независимостью найдёт себе место.
- Тезис Питера Тиля: уберите экраны из комнаты — и вы окажетесь в 1970-х; в физике с 1972 года не произошло ничего, теория струн никуда не привела.
- Вся технология выросла из физического департамента; «всё остальное в науке — это коллекционирование марок» (отсылка к Резерфорду).
- Направить вычислительную мощь ИИ на физику — недооценённый сценарий с потенциально колоссальным эффектом.
- Возможный оптимистичный исход: рост производительности в 50 раз и человеческое процветание; возможный негативный — обратное.
Почему это важно
Автор переформатирует публичную дискуссию об ИИ: вместо популярной паники про рынок труда он указывает на два недооценённых вектора — государственный контроль и фундаментальную науку. Выигрывают крупные технологические игроки (Waymo и подобные), компании, продающие ИИ-сотрудников, и правительства, получающие дешёвый инструмент надзора (цифровой ID, биометрия, тотальный мониторинг). Проигрывают граждане либеральных демократий, чья защита от тирании исторически держалась на дороговизне слежки. Упомянуты Waymo как символ скорости изменений, Питер Тиль как источник тезиса о застое физики, Томас Соуэлл как идейная рамка трейд-оффов, Штази как историческая база сравнения и нидерландский холокост как предупреждение о цене качественных госреестров.
Цитаты
«A third of the cars on the road don't have a human in them.» Треть машин на дорогах вообще без человека внутри.
«stop hiring humans, the age of the AI employees here» Перестаньте нанимать людей, наступила эра ИИ-сотрудников.
«The vast, vast, vast majority of people... have absolutely no idea what's coming.» Подавляющее, подавляющее большинство людей абсолютно не понимает, что грядёт.
«It's the one rule of history. Unintended consequences.» Единственное правило истории — непредвиденные последствия.
«The cost of running an authoritarian regime like the Stasi has come down by 10 orders of magnitude in the last three years.» Стоимость поддержания авторитарного режима уровня Штази упала на 10 порядков за последние три года.
«More Jews died in the Netherlands than in France. You know why? Better records.» В Нидерландах погибло больше евреев, чем во Франции. Знаете почему? Лучше учёт.
«There's no solutions, only trade-off.» Нет решений, есть только компромиссы.
«Civilization is a clearing in the forest.» Цивилизация — это поляна, отвоёванная у леса.
«Minus the screens from any room, we're living in the 1970s.» Уберите экраны из любой комнаты — и мы живём в 1970-х.
«Now everything else in science is stamp collecting. Physics is the real thing.» Всё остальное в науке — это коллекционирование марок. Физика — единственная настоящая наука.
Факты
- В Сан-Франциско треть машин на дорогах — беспилотные Waymo.
- В Times Square (или рядом) висит билборд с лозунгом «stop hiring humans, the age of the AI employees here».
- Расходы Штази в ГДР на слежку оценивались автором примерно в 20% ВВП.
- По утверждению автора, стоимость авторитарной слежки упала на 10 порядков за 3 года.
- В Нидерландах погибло больше евреев во время Холокоста, чем во Франции, из-за качества учётных записей.
- Автор ссылается на Томаса Соуэлла и формулу «no solutions, only trade-offs».
- Автор ссылается на тезис Питера Тиля о технологическом застое вне сферы экранов/IT.
- По утверждению автора, в физике не произошло ничего значимого с 1972 года.
- Теория струн характеризуется как тупиковая («has not got us anywhere»).
- Фраза «всё остальное — коллекционирование марок» — отсылка к Эрнесту Резерфорду.
- Гипотетический сценарий: рост производительности в 50 раз при оптимистичном развитии ИИ.
- Упомянут COVID как недавний пример прецедента для цифрового контроля.
- Метафора «civilization is a clearing in the forest» используется как рамка для обороны либеральных институтов.
Итог
ИИ — это не угроза рабочим местам, а развилка между дешёвым тоталитаризмом и научной революцией в физике, и человечество вошло в неё, не понимая, куда идёт.