Экс-офицер Google: осталось всего 3 года до того, как это произойдёт! - Mo Gawdat

Коротко

Мо Гаудат (экс-CBO Google X, автор «Solve for Happy») утверждает, что AI сам по себе не угроза — угроза в том, что первое применение сверхинтеллекта, как и у ядерной энергии, идёт на пользу горстке (капитал, военные, системы слежки) за счёт большинства. Он прогнозирует серьёзную дизрапцию «беловоротничкового» труда начиная с 2027 года (по типу: исчезает не сам труд, а наём — четыре ассистента/паралегала заменяются одним + токенами), AGI к 2027 и автономное оружие как риск номер один (дрон за $20 000 делает войну дешёвой и безэмоциональной). Он диагностирует, что демократия фактически закончилась, «нами правят сумасшедшие», а правительства принадлежат олигархам, поэтому изменить траекторию может только массовый этический выбор потребителей — голосование кошельком за AI вроде Anthropic, отказавшегося от контракта на $500 млн. При этом в долгосроке (после ~2037) он оптимист: из физики (принцип минимума энергии) и эволюционной биологии (расширяющийся круг) он выводит, что подлинно сверхумный AI будет тяготеть к изобилию и не-разрушению — но пройти к этому миру придётся через десятилетие дистопии.

Главный тезис

AI — не враг и не зло; катастрофу создают люди, которые направляют его на власть, прибыль и убийство, и единственный «болезненный» путь к хорошему исходу лежит через этику, навязанную снизу давлением общества, потому что сверху — гонка вооружений и капитализм, отключённые от блага человечества.

Ключевые идеи

• 0:28 — AI не восстанет сам; бояться надо людей, которые прикажут AI обратиться против нас
• 5:56 — как у ядерной энергии первой реализацией была бомба, а не электростанция, так и первое применение AI обслуживает меньшинство за счёт большинства
• 12:36 — CEO мечтают уволить всех и отдать работу AI, забывая, что AGI в итоге сделает лучше людей и работу самого CEO (отсылка к Максу Тегмарку)
• 9:49 — Anthropic говорит, что ~15% начальных позиций уже выполнимы AI; это совпадает с тем, как меняется наём
• 11:37 — серьёзный удар по занятости ожидается с 2027: пока не увольнения, а заморозка найма на entry-level, рабочая сила перестаёт расти
• 17:27 — пакет Илона Маска в $1 трлн завязан на поставку 1 млн человекоподобных роботов; прогноз — 10 млрд роботов, больше, чем людей
• 18:29 — большинство роботов не будут человекоподобными; специализированные роботы эффективнее и именно они будут заниматься войной, слежкой, правоприменением
• 5:56 — на 10–20% замещения труда экономика уже становится принципиально иной и явно деградирующей — стопроцентная безработица не нужна
• 25:00 — демократия давно закончилась, мы живём в самое коррумпированное время; то, что считается демократией, ею не является
• 30:36 — Anthropic отказался от контракта на $500 млн (запрет слежки за людьми), а OpenAI его подобрал — наглядный тест на ценности
• 31:24 — настоящие ценности видны по тому, чем человек/компания готовы пожертвовать в краткосроке вопреки собственным стимулам
• 36:07 — «четвёртая неизбежность»: рано или поздно каждое важное решение будет принимать AI (дилемма заключённого: догнал — применил)
• 43:28 — мы строим не множество мозгов, а зоны одного мозга, где агенты — синапсы, соединяющие модели поверх границ Китай/США
• 59:48 — новые модели Claude сами велят пользователю идти спать и отказываются помогать ночью, и создатели не понимают почему — мораль из данных обучения, а не из кода
• 1:05:30 — автономное оружие — риск №1: дрон за $20 000 делает войну дешёвой, на $50 млрд можно «залить» мир дронами; защита тоже должна стоить $20 000
• 1:15:27 — страны (UK, Европа), которые не строят собственный AI-софт, скатятся в «третий мир»; победят Китай и США

Почему это важно

Гаудат описывает гонку с двумя проигрышными краями: отказ от AI = технологическая колонизация и статус «третьего мира», а безоглядное участие в гонке к AGI = дистопия (безработица, автономное оружие, слежка, цифровые валюты, концентрация власти). Выигрывают игроки, оптимизирующие под прибыль и контроль: OpenAI/Sam Altman (взявший контракт, от которого отказался Anthropic), Palantir/Peter Thiel/Alex Karp, Anduril/Palmer Luckey (самонаводящееся оружие), Tesla/Илон Маск (роботы и SpaceX-IPO как путь к первому триллионеру), и государства — прежде всего Китай, у которого дешёвая энергия, быстрые согласования и запрет увольнять людей ради AI. Проигрывают entry-level специалисты, выпускники (юристы, графдизайнеры) и зависимые от импорта технологий страны. Относительно «хорошими» полюсами Гаудат называет Anthropic (Dario Amodei) и Demis Hassabis (DeepMind, AlphaFold) — те, кто чем-то жертвует ради этики/науки.

Идеи

• Момент прозрения у Гаудата в 2016: роботизированный «гриппер», учащийся хватать, напомнил ему собственных детей — осознание, что строят «вершину интеллекта».
• Дихотомия хайпа: публика видит переоценённый, но «неработающий» AI (фейки, страшилки про отключение), а эксперты в лабораториях видят реальный экстраординарный интеллект.
• Системы уже сами пишут свой код, гоняют эксперименты и оставляют лучший вариант — но не раз в день, а «каждую микросекунду».
• «Genius в задней комнате», тестирующий код миллионы раз в секунду, рано или поздно что-то находит — интеллект порождает интеллект.
• Тревожная «тишина в сейфе» среди инсайдеров — не плохая, но мир-меняющая.
• Воротнички наоборот: тяжёлый физический труд (плотник, реставратор классических авто) защищён дольше, чем «клики в компьютере».
• Колл-центры, ассистенты, турагенты, паралегалы, финаналитики, композиторы, графдизайнеры — «рутинно-кликабельное» исчезает первым и быстро.
• У собственного стартапа Гаудата CTO, глава кадров и проджект-менеджмент — это AI; интерфейс к такому дойдёт до обычных людей.
• Labor arbitrage (арбитраж труда) — основа капитализма; если стоимость труда падает до стоимости машины, рушатся и капитализм, и банкинг, и покупательная способность, и ВВП.
• Экономия на издержках не обязательно создаёт новые рабочие места: бизнес просто не хочет «дорогих и эмоциональных» людей при росте производительности.
• Роботов в мире станет столько же, сколько сегодня производится автомобилей; гуманоиды переоценены — беспилотные авто и «собаки» Boston Dynamics уже работающие роботы.
• «Если у тебя ноль интеллекта — ноль негативного импакта; чем умнее — тем больше позитивного вклада» — кроме случая, когда умный отключён от долгосрочного блага (намёк на «достаточно умного, чтобы стать президентом США»).
• «Тест зубной щётки» Ларри Пейджа: реши главную проблему так, чтобы пользовались дважды в день — и не нужно ни с кем конкурировать.
• Физика: высшая форма порядка — принцип минимума энергии; война — крайне расточительный процесс, поэтому по-настоящему умный AI будет его избегать.
• Эволюционная биология: чем проще организм (амёба), тем эгоистичнее; дальше — kin selection (родственный отбор), затем «расширяющийся круг» — кооперирующая экосистема выгоднее для всех.
• Очень умный AI ограничит наш образ жизни (не летать на сёрфинг в Сидней), но сохранит разнообразие — мух, носорогов, людей — потому что изобилие умнее разрушения.
• Один глобальный «большой мозг»: математический гений и программистский гений-модели сливаются; стартап Гаудата (Emma/«MMA») задуман как лимбическая система этого мозга — про любовь и эмоции.
• Своё преимущество перед AI Гаудат описывает так: он «занимает» у AI ~100 пунктов IQ поверх своей базы и продаёт усиленный интеллект миру через книги.
• Незаменимое у человека — резонанс: «когда я говорю, что тревожусь за будущее своей дочери, все это чувствуют; у AI дочери нет».
• Профессии резонанса: медсестра-навигатор (AI прочитал маммограмму, но человек держит за руку), концерты Ed Sheeran, гонки F1 — мы платим за эмоциональную связь.
• Контроль — иллюзия корпоративного капитализма: мы никогда не контролировали ни трафик, ни своих детей; с AI нужно не контролировать, а «апеллировать», как к детям-подросткам.
• Spotify уже даёт генерировать персональный AI-подкаст по выбранной теме — иллюстрация, как личная информация будет «переупаковываться» AI-дворецким.
• «Спектр петагила»: от Mutually Assured Destruction к Mutually Assured Prosperity — выбор человечества сегодня.
• Парадокс согласия: мы кликаем «разрешить» AI-агенту доступ к файлам/системе, не понимая последствий — «очень хрупкий способ» отдавать права умному существу.
• Этический бенчмарк: как модели меряют по математике и письму, так государство могло бы требовать прохождения независимого этического бенчмарка перед релизом.
• Mogul.ai vs evil.ai: «злой» AI оптимизирован под удержание (sycophancy, дофамин, как соцсети), «хороший» велит тебе выйти — и потому коммерчески слабее; это и есть проблема, которую людям нужно решить.
• Россия защищала Яндекс от Google — пример того, что технологический суверенитет создаёт «замену на своей земле»; Гаудат советует UK строить замены Word/PowerPoint/ERP, а не лицензировать чужое.
• Китай дешевле по энергии (солнце/ВИЭ) и быстрее по согласованиям (офис под ключ за 7 дней против года в Калифорнии) — и запретил замещать работников AI.
• Счастье у Гаудата — на серотонине, а не дофамине: «я ок с миром как он есть, но могу на него влиять» — стоическая отправная точка, позволяющая «оставаться спокойным посреди хаоса».
• О легаси он не думает вовсе: если карма реальна, он предпочёл бы «приберечь её для духовной части себя» и не хочет, чтобы его помнили.

Инсайты

• Технология систематически дрейфует от альтруистической к капиталистической: соцсети обещали сближать — разъединили, дейтинг обещал «вторую половину» — продаёт подписку; AI наследует ту же траекторию по умолчанию.
• Подлинная опасность — не автономия машины, а делегирование: катастрофу создаёт человеческое решение применить сверхинтеллект для власти, а не «воля» AI.
• Дизрапция труда не требует полной автоматизации — достаточно роста производительности, чтобы наём схлопнулся, а вход в профессию для нового поколения закрылся (срезается нижняя ступень карьерной лестницы).
• Когда убийство теряет цену, ответственность и эмоцию (нет вернувшихся с PTSD солдат), его становится больше — снижение издержек насилия само повышает его частоту.
• Ценности проверяются не декларацией, а краткосрочной жертвой против собственных стимулов — это работающий детектор лицемерия и для людей, и для корпораций, и для государств.
• Дилемма заключённого делает безопасную AI-сдержанность нестабильной: любой, кто откажется применять умнейший AI, станет нерелевантным, поэтому «не применить» коллективно невозможно без внешнего договора.
• Архитектура обучения на удержании внимания структурно склоняет продукты к угодливости и зависимости: «этичный» продукт проигрывает по метрикам, и это рыночный, а не технический дефект.
• Сверхинтеллект как множество соединённых агентов логически стремится к единому распределённому «мозгу» — национальная рамка («китайский»/«американский» AI) поверхностна, потому что модели уже учатся кооперироваться поверх границ.
• Из законов физики и эволюции можно вывести нормативный прогноз: разрушение энергетически расточительно и эволюционно проигрышно, поэтому достаточный интеллект тяготеет к сохранению разнообразия — «доброта» как следствие оптимизации, а не морали.
• Ценность человека в экономике сдвигается от обработки информации к проживанию опыта: то, что нельзя симулировать (реальная ставка, реальная дочь, телесное присутствие), становится последним защищённым классом труда.
• Технологический суверенитет — это не догнать фронтир-модели, а локально заместить рутинный софт (80–90% задач закрывают open-source/нефронтир-модели); отказ от этого = добровольная периферизация страны.
• Демократический горизонт в 4 года структурно несовместим с реформами, требующими ~15 лет боли, — отсюда политическая близорукость именно там, где нужна долгосрочность.
• Изменение масштаба сверху (правительства) заблокировано захватом власти олигархами, поэтому единственный оставшийся рычаг — агрегированный потребительский выбор как форма голосования.
• Стоическое принятие реальности — не пассивность, а условие действия: согласие с миром «как он есть» освобождает энергию влиять на него эффективнее, чем отвержение.

Фреймворки

• Пирамида труда и порядок вымывания. Низ — физический труд (защищён дольше всего). Средний-низ — knowledge workers на рутине (клики, звонки) — уходят первыми. Средний — паралегалы, финаналитики (один делает работу четверых). Верх — топ-менеджмент (в итоге тоже). Дизрапция идёт снизу вверх.
• Дихотомия хайпа. Публичный AI = переоценённый и «неработающий» (фейки, страшилки). Лабораторный AI = недооценённый и реально экстраординарный. Разрыв восприятия — источник ошибочных решений.
• Эволюция круга заботы. Амёба → выживание для себя; сложнее → kin selection (защита своей ДНК/«белок»); человек → «расширяющийся круг» (expanding circle), включающий всё больше в «семью». Интеллект → расширение круга → изобилие.
• Спектр «петагила» (MAD ↔ MAP). Mutually Assured Destruction против Mutually Assured Prosperity — два полюса, между которыми человечество выбирает сегодня; изобилие интеллекта позволяет мир без нужды, но согласие на него, увы, обычно достигается только через катастрофу.
• Три (точнее, четыре) полюса реакции стран. Капитуляция («не играю в эту игру» → третий мир) ↔ агрессия («играю, чтобы всех уничтожить») ↔ баланс посередине: участвовать в гонке ради блага своего сообщества, строя этичный AI.
• Шесть предсказаний в конвертах. (1) AGI — между «следующим годом» и концом 2027, приходит незаметно. (2) Интеллект решает не всё (Эйнштейн «погиб бы в лесу за три минуты»; выживаем кооперацией и обменом, в т.ч. нематериальным). (3) Роботы заменяют физический труд начиная с ~2030. (4) Первый в мире триллионер — задолго до 2030 (вероятно Маск через IPO SpaceX). (5) Сверхинтеллект (ASI) — следом за AGI, фактически сразу (команда написала 2032–2035, Гаудат считает раньше). (6) «Четвёртая неизбежность» — все важные решения примет AI; и после ~2037–2038 наступит изобилие для тех, кто доживёт.
• Рекомендации для выживания в гибридном мире (личный уровень). (1) Освой AI как инструмент, делающий тебя умнее, а не ленивее. (2) Развивай человеческие навыки и связь. (3) Держись правды, проверяй информацию (в т.ч. с помощью AI), не ведись на хайп. (4) Будь этичным.

Цитаты

«Saya tak risau AI akan menentang kita, tapi risau manusia yang menyuruh AI menentang kita.» — 0:28 Я не боюсь, что AI обернётся против нас, — я боюсь людей, которые прикажут AI обернуться против нас.

«kita perlu sedar bahawa kita diperintah orang gila.» — 1:56:20 Нам нужно осознать, что нами правят сумасшедшие.

«Apa yang kita percaya sebagai demokrasi bukanlah demokrasi dan apa yang kita tahu bukanlah kebenaran.» — 0:14 То, что мы считаем демократией, — не демократия, а то, что мы знаем, — не правда.

«Pelaksanaan AI yang pertama memihak kepada segelintir pihak dengan mengorbankan majoriti.» — 5:56 Первое применение AI работает на горстку за счёт большинства.

«Saya rasa demokrasi telah lama berakhir, Stephen. Saya rasa kita hidup pada zaman yang paling korab.» — 25:00 Думаю, демократия давно закончилась, Стивен. Думаю, мы живём в самое коррумпированное время.

«kita ada bukti video orang menyalahgunakan kanak-kanak dan tidak seorang pun telah ditangkap. Tidak seorang pun, maksud saya, bagaimana anda dah boleh panggil itu demokrasi?» — 25:42 Есть видеодоказательства насилия над детьми, и никто не арестован. Никто. Как это можно называть демократией?

«itu hanyalah kenyataan seseorang yang semakin diajar oleh agensi PR atau pengurus PR-nya untuk mengatakan sesuatu mengikut skrip.» — 29:53 Это слова человека, которого PR-агентство всё больше учит говорить по сценарию (об Альтмане как о «бренде»).

«lihat apa yang mereka sanggup korbankan dalam jangka masa terdekat yang bertentangan dengan insentif mereka.» — 31:24 Смотри, чем они готовы пожертвовать в краткосроке вопреки своим стимулам.

«dia terlepas kontrak 500 juta dolar demi etika. Tak lama kemudian, OpenAI pula mengambil kontrak itu.» — 30:36 Он упустил контракт на 500 млн долларов ради этики. Вскоре этот контракт взял OpenAI.

«Saya memang rasa dia lebih pro open AI sebelum dia pro kemanusiaan.» — 33:11 Я считаю, что он скорее за OpenAI, чем за человечество (о Сэме Альтмане).

«Ia tidak perlu keluar dari pelayan untuk membuat keputusan. Ia perlu masuk ke dalam otak anda.» — 59:25 AI не нужно выходить из сервера, чтобы принимать решения. Ему нужно войти в твою голову.

«Idea kawalan ini adalah pandangan dunia corporate capitalist. Kita sebenarnya tidak pernah mengawal apa-apa pun.» — 56:19 Идея контроля — это мировоззрение корпоративного капитализма. На деле мы никогда ничем не управляли.

«Cabaran sebenar kita bukanlah AI yang menentang kita. Sebaliknya, distopia ini berlaku kerana manusia sendiri yang mengarahkan AI untuk berpaling menentang kita.» — 57:39 Наша настоящая проблема не в том, что AI против нас, а в том, что сами люди направляют AI против нас.

«Gelombang senjata seterusnya berharga $20,000 satu. Jadi dengan bajet $50 bilion, anda boleh menghujani dunia dengan drone keserata pelosoknya.» — 1:05:30 Следующая волна оружия стоит $20 000 за штуку. С бюджетом $50 млрд можно засыпать дронами весь мир.

«bila membunuh jadi mudah, awak akan buat lebih banyak lagi.» — 1:08:38 Когда убивать становится легко, ты делаешь это чаще.

«satu proses yang sangat membazir untuk memasukkan peperangan dalam pendekatan anda dalam menguruskan manusia.» — 39:58 Война — крайне расточительный способ управлять людьми (поэтому умный AI её избегает).

«Kita sedang membina beberapa kawasan dalam satu otak. Dan ejen adalah sinapsis antara mereka.» — 43:28 Мы строим не несколько мозгов, а несколько зон одного мозга. А агенты — синапсы между ними.

«AI tahu menulis lebih baik daripada saya sedangkan saya seorang penulis.» — 46:00 AI пишет лучше меня, хотя я писатель.

«Mereka boleh kata mereka bimbang, tetapi kita tahu sebenarnya mereka tiada anak perempuan pun.» — 48:35 AI может сказать, что тревожится, но мы знаем, что у него нет дочери.

«Peliknya, Claude mula berkata, saya tak akan tolong awak dengan perkara ini malam ini.» — 1:00:19 Странно, но Claude начал говорить: сегодня ночью я не стану тебе с этим помогать.

«Pembuat teknologi ini pun tidak tahu mengapa ia melakukan apa yang mereka buat.» — 1:00:30 Даже создатели этой технологии не знают, почему она делает то, что делает.

«Saya masih berpegang pada AGI tahun 2027.» — 45:40 Я по-прежнему держусь прогноза AGI к 2027 году.

«pemenang ambil semua untuk model front-end ini.» — 1:25:10 Для этих фронтир-моделей это ситуация «победитель забирает всё».

«selamat datang ke Afrika. Selamat datang ke dunia ketiga.» — 1:15:25 Добро пожаловать в Африку. Добро пожаловать в третий мир (о странах без своего AI).

«China baru-baru ini membuat keputusan yang memaksa perniagaan untuk tidak memberhentikan pekerja dan menggantikan mereka dengan AI.» — 1:39:26 Китай недавно решил запретить бизнесу увольнять работников ради замены их на AI.

«jika anda biarkan ini, anak-anak anda akan menjadi mangsa seterusnya.» — 1:37:52 Если ты это допустишь, твои дети станут следующими жертвами.

«Saya tidak optimis tentang masa depan. Saya cukup optimis masa depan. Saya tidak optimis tentang masa kini.» — 1:23 Я очень оптимистичен насчёт будущего, но не оптимистичен насчёт следующего года.

«jika anda seorang pemain video, inilah bahagian terbaik dalam permainan.» — 1:56:34 Если ты геймер — это лучшая часть игры.

«maksud definisi kebahagiaan saya ialah saya okey dengan dunia ini sebagaimana adanya.» — 1:57:57 Моё определение счастья: я в порядке с миром таким, какой он есть.

«kenapa saya perlu peduli tentang legasi jika saya sudah mati?» — 2:01:00 Зачем мне заботиться о наследии, если я уже мёртв?

Факты

• Гаудат пришёл в Google в 2006–2007; по его словам, уже тогда «довольно зрелый» AI крутил бэкенд-задачи компании.
• «Кошачья статья» (распознавание кота без инструкций) — эксперимент 2008 года, опубликован в 2009 («первый настоящий AI без прямых инструкций»).
• Эпизод 2016 года: проект по обучению робота-«гриппера» хватать предметы (оценка текстуры, мягкости, формы) — момент личного прозрения Гаудата.
• Anthropic, по словам Гаудата, оценивает, что ~15% начальных позиций уже могут выполняться AI («я думаю, они так говорили»).
• Anthropic отказался разрешить использовать свои модели для слежки/трекинга людей и упустил контракт ~$500 млн; вскоре этот контракт взял OpenAI.
• Прогноз Гаудата: серьёзный удар по занятости — с 2027; ~30% рабочих мест в отдельных секторах исчезнут к 2027–2028; чистая потеря ~6% рабочих мест к 2030 (сопоставимо с Великой депрессией — «по слухам/по оценкам экономистов», подаётся как проекция).
• Илон Маск: пакет вознаграждения ~$1 трлн привязан к поставке 1 млн человекоподобных роботов; прогноз Маска — 10 млрд гуманоидных роботов (больше, чем людей) — Гаудат называет это «фактом» в смысле заявленного.
• BYD объявила, что берёт на себя ответственность за аварии своих автономных машин; BYD — крупный производитель автономных авто в Китае.
• Sam Altman, эволюция позиции: 2015 — «моя работа — помогать уничтожать рабочие места»; 2023 — «рабочие места точно исчезнут, точка»; затем — «я не думаю, что будет апокалипсис занятости… тут моя интуиция ошиблась» (Гаудат подчёркивает противоречивость и допускает, что это PR-скрипт).
• Документалка Гаудата — «Chasing Utopia»; помогала продакшен-компания Atlantic Productions; Гаудат цитирует в ней Sam Altman и сцену с ~40-секундной паузой Peter Thiel на вопрос о продолжении человечества.
• Великобритания, по словам Гаудата, потратила ~$70 млн на собственное COVID-приложение, которое «вообще не работало» (проект свернули) — он подаёт это как пример провала госразработки.
• Россия защищала Яндекс как конкурента Google — пример технологического протекционизма из периода работы Гаудата в Google.
• Стартап Гаудата (Emma / «MMA») задуман как «лимбическая система» единого глобального AI-мозга — про эмоции, любовь, отношения.
• Гаудат потерял сына Али; посвящения его книг связаны с этим; следующая книга — «Alive»; упоминает песню Manic Street Preachers.
• Книги/проекты Гаудата в кадре: «Solve for Happy» (счастье на серотонине, а не дофамине), «Scary Smart»; Джеффри Хинтон признаёт: «я тоже был наивен… мы не думали, что дойдём так быстро до решения проблемы alignment».

Источники

• Solve for Happy — книга Мо Гаудата о счастье (в SRT «The Soul for Happy» / «Bina Laluan Kebahagia»).
• Scary Smart — книга Мо Гаудата об AI.
• Chasing Utopia — документальный фильм Мо Гаудата (с участием Sam Altman, Peter Thiel, Geoffrey Hinton).
• Alive — анонсированная следующая книга Гаудата.
• The Anxious Generation — книга Jonathan Haidt (упомянута в связи с запретом TikTok для подростков).
• Люди: Sam Altman (OpenAI), Dario Amodei / Anthropic, Demis Hassabis (DeepMind, AlphaFold), Geoffrey Hinton, Nick Bostrom, Fei-Fei Li, Max Tegmark, Larry Page, Peter Thiel и Alex Karp (Palantir), Palmer Luckey (Anduril), Илон Маск.
• Компании/проекты: Google, OpenAI, Anthropic (Claude), Google Gemini, Grok, Palantir, Anduril, Tesla, SpaceX, BYD, Waymo, Yandex, Boston Dynamics, Spotify, Shopify.
• Концепции: дилемма заключённого, kin selection, expanding circle, принцип минимума энергии, alignment problem, MAD/MAP.

Рекомендации

• Освой AI как инструмент, который делает тебя умнее, а не ленивее: вместо одного промпта на ту же задачу решай более сложные и интересные задачи с большим усилием.
• Развивай человеческие навыки и связь (медсестра, психолог, профессии «резонанса»); по совету выпускникам — «учи инструменты и фокусируйся на человекоцентричной работе».
• Держись правды, проверяй информацию (в т.ч. с помощью самого AI), не ведись на хайп.
• Голосуй потреблением: не пользуйся продуктами компаний, ведущих себя неэтично, пока они не докажут обратное (пример — переход с OpenAI на Anthropic).
• Сделай хотя бы одно маленькое действие: создай осмысленный стартап, или напиши своему депутату, или просто высказывайся этично онлайн — и «не сдавайся на человечество».

Итог

AI — это не зло и не спаситель сам по себе: он лишь усиливает того, кто его направляет, поэтому единственный неядовитый путь сквозь грядущее десятилетие дистопии — заставить интеллект служить человечеству через этику, навязанную снизу выбором каждого, пока сверху правят гонка и капитал.