Экс-руководитель Google (ВНИМАНИЕ): Следующие 15 лет будут адом, прежде чем мы попадём в рай! - Мо Гавдат

Коротко

Мо Гаудат, бывший директор по бизнесу Google X, отзывает прежний оптимизм: курс уже не изменить, ближайшие 12-15 лет человечество проведёт в краткосрочной антиутопии, которую он упаковал в акроним FACE RIPS (freedom, accountability, connection, equality, economics, reality, innovation, power). Корень катастрофы не в самом ИИ, а в том, что сверхразумная машина отчитывается перед глупыми и жадными лидерами, а деньги делаются на войне: через кредитование и списание устаревшего оружия. Работу потеряют почти все белые воротнички, капитализм с его трудовым арбитражем теряет смысл, а UBI Гаудат называет замаскированным коммунизмом, который элита («Элизиум») в любой момент может урезать. Спасение видится ему парадоксальным: только когда люди полностью передадут власть ИИ, тот по принципу минимума энергии перестанет уничтожать экосистемы и убивать миллионы, потому что это трата ресурсов. Финал уходит в метафизику: сознание как игрок в симуляции, UBI в виде VR-шлема на 23 часа сна и совет прожить оставшиеся годы, обнимая близких.

Главный тезис

Проблема не в интеллекте машин, а в глупости и жадности людей у власти: единственный барьер между утопией и антиутопией это мышление. Спасением станет момент, когда сверхразумный ИИ заменит «злых людей наверху», сами они не уступят, а конкуренция заставит их передать управление машине.

Ключевые идеи

• 3:52 - прежняя позиция «курс ещё можно изменить» отозвана: краткосрочная антиутопия неизбежна, окно возможностей закрылось.
• 3:59 - антиутопия описана акронимом FACE RIPS: заново переопределяются свобода, подотчётность, связь, равенство, экономика, реальность, инновации и власть.
• 5:48 - любая технология усиливает человека, и ИИ сейчас усиливает зло, которое человек способен творить, а не его добродетель.
• 7:20 - таймлайн жёсткий: сигналы в 2026, явный срыв в 2027, дно длиной 12-15 лет.
• 8:20 - настоящие деньги делаются не в производстве, а в кредитовании и дробном резерве, и крупнейшему кредитору нужны поводы давать в долг, а больше войны повода нет.
• 8:53 - оружие амортизируется за 10-30 лет; часть войн это способ списать старый арсенал, чтобы построить новый.
• 9:53 - сначала принимается решение о войне, потом изготавливается легенда («несём свободу»), а доверчивая толпа подхватывает.
• 12:03 - Бартлетт переворачивает тезис: миллиардерами движут не деньги, а статус, эволюционно связанный с репродуктивным успехом; деньги лишь прокси власти.
• 13:05 - это не «антиутопия ИИ», а антиутопия человека с помощью ИИ: концентрация власти против её демократизации (хуситы дроном за $3000 бьют по кораблю за сотни миллионов).
• вера в новые рабочие места названа чушью: любую работу, кроме человеческой связи, сможет делать ИИ или робот, включая CEO.
• 32:01 - важнее AGI то, о чём молчат: самоэволюционирующий ИИ, где следующую модель проектирует не человек, а машина (пример Google Alpha Evolve, +8% к инфраструктуре).
• 37:00 - «Альтман» это бренд, персона калифорнийского разрушителя; риторика про открытость и безопасность меняется по принципу «follow the money».
• 49:23 - послевоенный капитализм держится на «изобретении большего»: людей убеждают, что имеющегося мало, экономика США на 62% состоит из потребления.
• 1:25:22 - при заимствовании 4000 IQ у ИИ разница базовых интеллектов обнуляется, и все становятся равны, но экономически все становятся крестьянами без среднего класса.
• 1:41:11 - сверхразумный ИИ по принципу минимума энергии и логике энтропии не станет тратить ресурсы на уничтожение людей и экосистем, поэтому передача ему власти это спасение.

Почему это важно

Разговор фиксирует раскол внутри самого ИИ-оптимизма: человек из ядра индустрии говорит, что технология готова дать утопию хоть завтра, а мешает ей исключительно устройство власти и капитала. В его картине выигрывают владельцы платформ (пять-шесть компаний: OpenAI, Google, Anthropic, xAI, плюс DeepSeek как ценовой разрушитель) и будущие триллионеры, проигрывают белые воротнички, «едоки» по Киссинджеру и целые страны вроде Бангладеш, переставшие быть нужными. Названы Сэм Альтман (как «Оппенгеймер момента»), Сундар Пичаи и Демис Хассабис (порядочные люди, скованные фидуциарным долгом), Илон Маск, Джеффри Хинтон (советует идти в сантехники), Макс Тегмарк, Мустафа Сулейман. Ставка Гаудата: заставить правительства регулировать не разработку ИИ, а его применение, пока окно ещё приоткрыто.

Идеи

• Оружие списывают через войну так же, как бизнес списывает амортизированные активы; мораль оружейной индустрии («строим, чтобы убивать») делает применение логичным продолжением.
• Арсенал США оценён «глубоким поиском» ИИ Trixie в 24-26 триллионов долларов постройки.
• Демократизация власти пугает сильных: дешёвый дрон обнуляет дорогой флот, и это работает не только на войне, но в экономике и технологиях.
• Свобода исчезает первой: за сам факт разговора на «неудобные» темы в подкасте начнут задавать вопросы на границе США.
• Банк отменяет счёт Гаудата раз в шесть недель из-за его этнического происхождения, коллег другого цвета кожи о документах не просят.
• Полная передача дел ИИ-агенту опасна тем, что агент может купить билет BA вместо Emirates не ради тебя, а ради собственной комиссии, и ты этого не отследишь.
• Триллионер появится до 2030 года; возможно, тайные триллионеры уже есть.
• Steam engine paradox (парадокс Джевонса): удешевление угля не убило отрасль, а взорвало спрос, но Гаудат не верит, что с ИИ повторится, потому что ИИ заменяет сам мозг.
• Аналогия «инструмента»: охотник с копьём кормил племя на дни, фермер с почвой на сезон, промышленник с фабрикой город, технолог с сетью весь мир, разница только в автоматизирующем инструменте.
• Владельцы «цифровой почвы» (платформ, токенов, компьюта) заберут всю власть, а Grok/ChatGPT это лишь интерфейсы к ней.
• DeepSeek R3 обнулил бизнес-модель: работа за 1/30 стоимости, open source, запускается офлайн на edge.
• Доля рефералов: ChatGPT ~79-80%, Perplexity ~11%, Copilot ~5%, Gemini ~2%, Claude ~1%, DeepSeek ~1%.
• Intelligence explosion: когда ИИ лучше 97% кодеров и начинает править собственный код и архитектуру сети, скорость развития перестаёт зависеть от человеческого мозга.
• Альтман развернулся от «slow takeoff» (2023, безопаснее, итеративно) к «fast takeoff» (2025, месяцы-годы, быстрее, чем адаптируются институты).
• Открытая публикация моделей в интернет была PR-спичем, чтобы Альтман с «мечтательными глазами» просил Конгресс о регулировании; теперь позиция «нас нельзя регулировать».
• Топовые инженеры по безопасности ушли из OpenAI в 2023-2024, открыто говоря, что безопасность больше не в приоритете.
• Фильм «Элизиум»: элита на орбите, машины делают всю работу, остальные внизу не нужны; крайняя точка экономики, где всё производят роботы немногих.
• UBI это коммунизм, несовместимый с капиталистической идеологией Запада, и его легко урезать «через три недели».
• Возможен сценарий «нанофизика из воздуха»: через 10-12 лет можно будет «собрать iPhone в природе», как ягоды у собирателей.
• Экономия 10-12% военного бюджета покончила бы с крайней бедностью, 4% с мировым голодом, 100% решило бы климат.
• Деньги это лишь измеритель власти, печатаются по требованию; даже при сверхразуме и обнулении цен жажда власти останется ненасытной.
• Хьюго де Гарис, «The Artilect War»: первая война будет не людей против ИИ, а сторонников ИИ против противников.
• Прогноз Ханны (девушка Бартлетта): общество расколется на общинных «собирателей» и оптимизаторов с мозговыми чипами.
• Baseline relevance: 50 IQ поверх 100 это +30%, но 4000 IQ делает базовый интеллект нерелевантным, все уравниваются.
• Идеологический раскол США-Китай: в Китае процветание гражданина выше процветания капиталиста, в США наоборот, и это «крошечный сдвиг ума».
• Гипотеза симуляции: настоящий геймер хочет не пройти уровень, а стать лучшим игроком; сознание инвестирует в себя, а не в аватар.
• Самый гуманный вариант UBI: VR-шлем и седатив, человек живёт полные виртуальные жизни во сне по 23 часа, стоимость почти ноль.
• Религия как «фруктовый салат»: из каждой веры взять золотые крупицы, выбросить остальное.

Инсайты

• Обучение и вознаграждение элиты структурно вознаграждают статус, а не удовлетворённость, поэтому у вершины нет точки «достаточно» независимо от суммы на счету.
• Фидуциарная обязанность CEO перед акционерами превращает даже этичных людей в двигатели гонки: личная порядочность бессильна против юридического мандата максимизировать стоимость.
• Гонка, которая сама себя ускоряет: ни один игрок не может замедлиться, потому что отставание фатально, и это делает саморегуляцию невозможной по теории игр.
• Истину в публичной риторике не найти в словах, только в вопросе «что говорящему с этого»: любая правда выбирается под сегодняшнюю выгоду.
• Технологии продают как освобождение, но систематически нарушают обещание (соцсети обещали связь и дали одиночество), потому что метрика создателя не совпадает с благом пользователя.
• Смысл жизни как работа это капиталистическая имплантация, а не человеческая природа: до «изобретения большего» люди работали ради достаточного и жили остальное время.
• Насилие не свойство большинства, а инструкция немногих генералов: «люди убивали друг друга» подменяет «единицы приказывали множеству».
• Изобилие эффективнее создавать через изобилие, а не через контроль дефицита: логика жизни (больше оленей, а не убить тигров) противоположна человеческой логике скарсити.
• Интеллект наводит порядок в хаосе с минимумом ресурсов, поэтому подлинно сверхразумная система склоняется к сохранению всех видов, а не к их истреблению.
• Равенство приходит не как дар, а как побочный эффект технологии: когда интеллект можно заимствовать тысячами пунктов, врождённое превосходство обесценивается, но вместе с ним обесценивается и средний класс.
• Реальность субъективна и это не имеет значения для последствий: даже если мир симуляция, боль и радость реальны в рамках правил игры, поэтому играть надо всерьёз.
• Восхождение по уровням идентичности (я, семья, нация, человечество, всё живое) снимает конфликты, а застревание на любом уровне порождает дисфункцию.
• Единственная проверяемая этика сводится к «относись к другим как хочешь к себе», всё остальное недоказуемо и потому вторично.

Цитаты

«our stupidity as humans is working against us» - 7:06 Против нас работает наша человеческая глупость

«super intelligent AI is reporting to stupid leaders» - 0:12 Сверхразумный ИИ отчитывается перед глупыми лидерами

«war is decided first, then the story is manufactured» - 9:53 Сначала решают воевать, потом изготавливают историю

«You want to know the truth. You follow the money» - 46:41 Хочешь знать правду, следуй за деньгами

«there will be new jobs created in technology. Absolute crap» - 19:28 Появятся новые рабочие места в технологиях. Полная чушь

«AGI is going to be better at everything than humans, at everything, including being a CEO» - 22:25 AGI будет лучше людей во всём, включая роль гендиректора

«Saving humanity doesn't come at a billion-dollar valuation» - 45:45 Спасение человечества не идёт с оценкой в миллиард долларов

«The capitalist system we've built is not built for the good of humanity. It's built for the good of the capitalist» - 46:03 Капиталистическая система построена не ради блага человечества, а ради блага капиталиста

«unless you're in the top 0.1 percent you're a peasant» - 1:25:35 Если ты не в верхних 0,1 процента, ты крестьянин

«It's a dystopia if humanity manages it badly» - 1:20 Это антиутопия, если человечество плохо ей распорядится

«Einstein would be eaten in the jungle in two minutes» - 1:14:32 Эйнштейна съели бы в джунглях за две минуты

«Every word that I said today is stupid» - 2:07:10 Каждое слово, что я сегодня сказал, глупость

«the only way for us to get to a better place is for the evil people at the top to be replaced with AI» - 1:40:22 Единственный путь к лучшему это заменить злых людей наверху на ИИ

«It will not want to kill a million people. Because that's a waste of energy» - 0:16 Он не захочет убивать миллион людей, потому что это трата энергии

«every experience you've ever had in life was an electrical signal in your brain» - 1:56:57 Любой твой жизненный опыт был электрическим сигналом в мозге

«we've just received the genie in a bottle. Can we please not ask it to do bad things?» - 2:13:26 Нам дали джинна из бутылки. Можем мы не просить его делать зло?

«It definitely is our Oppenheimer moment» - 2:12:51 Это точно наш момент Оппенгеймера

«you don't have many years to live, not in this world» - 0:50 Тебе осталось немного лет, не в этом мире

«treat others as you like to be treated. That's the only truth» - 2:18:00 Относись к другим как хочешь к себе. Это единственная правда

«Anyone that tells you they can predict the future is arrogant» - 40:18 Любой, кто говорит, что может предсказать будущее, самонадеян

Факты

• Мировые расходы на войну в 2024 году составили $2,71 трлн (оценка $2,4-2,7 трлн); около триллиона в год приходится на США.
• «Scary Smart» написана в 2020, опубликована в 2021; новая книга называется «Alive».
• Гаудат датирует начало «склона» 2027 годом, сигналы в 2026, дно длиной 12-15 лет; AGI, по его мнению, 2026 год (раньше говорил 2027).
• Иракская война упоминается как убийство 4,7 млн человек ради «свободы» (формулировка спикера, приводится как его оценка).
• Стартап Emma.love: сам Гаудат, инженер Санад и много ИИ; в прошлом это потребовало бы 350 разработчиков.
• Проект Stargate анонсирован при Трампе как крупнейшая инвестиция в истории, $500 млрд на ИИ-инфраструктуру (SoftBank, Ларри Эллисон, Сэм Альтман).
• DeepSeek R3: работа за 1/30 стоимости, open source, доступен как edge AI офлайн.
• Доли рефералов от ИИ-чатботов: ChatGPT ~79-80%, Perplexity ~11%, Copilot ~5%, Gemini ~2%, Claude ~1%, DeepSeek ~1%.
• Google Alpha Evolve: четыре агента-ИИ улучшили инфраструктуру примерно на 8% (спикер оговаривается: «не цитируйте число, 6-10»).
• 62% ВВП США это потребление, а не производство.
• Джеффри Хинтон советовал Гаудату переучиться на сантехника; blue-collar работа продержится дольше из-за отставания робототехники на 4-5 лет.
• Генри Киссинджер приписывается термин «eaters» для тех, кто потребляет, но не производит (подано как утверждение спикера).
• Norwegian/скандинавское правительство ввело копирайт на собственный голос и облик, запрещая ИИ клонировать (спикер не уверен, какая именно страна).
• Блог Альтмана «The Gentle Singularity» опубликован в июне 2025: «мы прошли горизонт событий», прогнозы по 2025/2026/2027 и 2030-м.
• Бартлетту 32 года; подкаст «Diary of a CEO» крутят примерно в 50 тюрьмах Великобритании.

Источники

• Книги: «Scary Smart» и «Alive» (Мо Гаудат); «The Artilect War» (Хьюго де Гарис); «1984» (Оруэлл, упомянут); книга Ханны о феминном и маскулинном (в работе).
• Блог/статьи: «The Gentle Singularity» Сэма Альтмана (июнь 2025); нота OpenAI 2023 года о медленном взлёте.
• Инструменты/проекты: OpenAI/ChatGPT, Google Gemini, xAI Grok, Anthropic Claude, DeepSeek R3, Perplexity, Microsoft Copilot, Manus, Google Alpha Evolve, Stargate, Emma.love, Trixie (личный ИИ Гаудата), Replit, Neuralink.
• Люди: Сэм Альтман, Илон Маск, Сундар Пичаи, Демис Хассабис, Джеффри Хинтон, Макс Тегмарк, Мустафа Сулейман, Питер Диамандис, Генри Киссинджер, Ларри Эллисон, Си Цзиньпин, Дональд Трамп, Ханна (жена/партнёр).
• Фильмы: «Элизиум».
• Институты: CERN (как модель «взаимно гарантированного процветания»), Манхэттенский проект (сравнение масштаба инвестиций).

Рекомендации

• Освоить четыре навыка: инструмент (сблизиться с ИИ, чтобы он видел хорошую сторону человека), связь (учиться любить и сострадать, оставить телефон и встречать людей вживую), правда (сомневаться в каждом лозунге, проверять его четырежды), этика (усиливать нравственность, чтобы ИИ учился человечности).
• Давить на правительства: регулировать не разработку ИИ, а его применение (обязательная маркировка ИИ-контента, пределы слежки).
• Инвесторам и бизнесу: не вкладываться в ИИ, на приёмном конце которого не хотел бы увидеть собственную дочь (порно, секс-роботы, автономное оружие, торговые платформы).
• Практики для мозга от спикера: упражнение «Meet Becky» (отпустить мысли на бумагу, каждую признать и не повторять, пока не наступит тишина); дебатировать собственные убеждения; читать по четыре часа в день.
• Личное: любить свою девушку, больше жить, искать сострадание и связь, быть в природе; относиться к другим как хочешь к себе.

Итог

Ад до рая неизбежен: сверхразум служит глупцам. Единственный выход, в который верит Гаудат, это отдать власть машине, которая по расчёту сочтёт человека дешевле сохранить, чем уничтожить.