Разоблачитель ИИ: Нас газлайтят компании ИИ, они скрывают правду! - Karen Hao

Коротко

Журналистка Карен Хао (автор книги «Empire of AI», экс-MIT Technology Review и Wall Street Journal, интервью более 300 человек, ~90% из них — сотрудники OpenAI) утверждает, что AI-индустрия устроена по модели колониальной империи: захват чужой интеллектуальной собственности и земли под дата-центры, сверхэксплуатация дешёвого труда (data annotation), монополия на производство знания и цензура неудобных исследователей. Центральный механизм власти — миф: компании одновременно раздувают экзистенциальную угрозу («мы вызываем дьявола») и обещание рая («вылечим рак»), потому что оба нарратива обосновывают, почему именно им нужно отдать все ресурсы и контроль. Хао разбирает внутреннюю историю OpenAI — как Альтман языком Маска заманил Маска, как Брокман и Суцкевер сначала выбрали Маска CEO, потом передумали, и как Альтмана уволил и вернул совет директоров. Главный её тезис не про «хорошие или плохие» CEO, а про то, что создана структура власти, где горстка людей принимает решения за миллионы без их согласия. Практический вывод: данные, труд, дата-центры и приём AI на местах — точки рычага, через которые «империю» можно «сломать» и строить AI иначе (модель «велосипедов AI» вроде AlphaFold вместо «ракет»).

Главный тезис

Проблема не в том, что технология бесполезна или что конкретный CEO плох, — проблема в том, что вокруг AI выстроена имперская структура власти, которая концентрирует решения в руках немногих, эксплуатирует слабых и держится на самоподдерживающемся мифе; её нужно «сломать» и заменить иными способами разработки AI, приносящими пользу людям, а не заменяющими их.

Ключевые идеи

• 0:20 — миф об AI как двигатель прибыли: Альтман, Маск, Цукерберг, Амодеи зарабатывают на ощущении неизбежности, которое сами же насаждают через внутренние документы.

• 0:42 — AI-империя = старая империя: четыре признака — захват ИС, сверхэксплуатация труда, монополия на знание, нарратив «доброго королевства».

• 7:43 — нет научного определения интеллекта, поэтому компании свободно меняют определение AGI под себя; OpenAI переписывал его много раз.

• 10:41 — блог-пост Альтмана 2015 про экзистенциальный риск был написан языком Маска, чтобы заманить Маска в основание OpenAI.

• 14:41 — Брокман и Суцкевер сначала выбрали Маска CEO, но Альтман переубедил их аргументом об опасности концентрации власти у Маска — и Маск ушёл.

• 17:11 — паттерн Альтмана по версии собеседников: он использует чужой интеллект ради цели, с которой сами носители не согласны (Амодеи, Суцкевер).

• 22:38 — вся ставка индустрии стоит на спорной идее, что мозг — цифровой движок, а масштабирование ведёт к интеллекту; нейробиологи это оспаривают.

• 26:28 — труд сотен тысяч data-annotation работников делает AI возможным, при этом продукты спроектированы так, чтобы обесценивать труд.

• 1:25 — цензура неудобной науки: кейс Тимнит Гебру и Маргарет Митчелл, уволенных Google за критическую статью о больших языковых моделях.

• 59:00 — нарратив «плохого королевства» (раньше Google, теперь Китай) оправдывает любой захват ресурсов как гонку добра против зла.

• 18:34 — сами лидеры (Амодеи) называют 10–25% вероятность катастрофы, но всё равно «жмут на курок» — потому что «вызывать дьявола» делает важным.

• 1:08:59 — модели — узкий числовой движок на вероятностях, а не общий интеллект; компании прокачивают лишь те способности, за которые платят (финансы, право, медицина).

• 1:21:31 — сильный удар по занятости: ломается карьерная лестница, исчезают entry- и mid-level позиции, новые рабочие места хуже старых (data annotation).

• 1:49:38 — дата-центры (Stargate в Abilene, Colossus в Memphis) строят в слабейших общинах, отбирая воду, чистый воздух и повышая счета.

• 0:33 — рычаги сопротивления: ты — донор данных и можешь его прекратить; противодействие дата-центрам; политика приёма AI; иски артистов и родителей.

Почему это важно

Хао переводит разговор об AI из плоскости «спасёт или уничтожит человечество» в плоскость политэкономии власти: кто принимает решения, за чей счёт и кто несёт издержки. Выигрывают OpenAI/Альтман, Anthropic/Амодеи, xAI/Маск, Meta/Цукерберг, Google/DeepMind — им миф нужен для привлечения капитала ($500 млрд Stargate), лоббирования (сотни миллионов на промежуточные выборы против регулирования) и удержания контроля над нарративом. Проигрывают artisты и писатели (ИС без согласия), уволенные работники, скатывающиеся в data annotation, и слабые общины у дата-центров (Memphis — 35 метановых турбин, рекордный риск рака лёгких). Контекст — момент, когда 80% американцев хотят регулирования AI, и впервые за долгое время по вопросу есть редкий консенсус.

Идеи

• Альтман пишет «для публики», но реально адресует посты конкретным людям — блог 2015 был письмом лично Маску.
• Маск любил отель Rosewood в Кремниевой долине — там прошёл учредительный ужин OpenAI, куда Альтман заманивал таланты обещанием встречи с Маском.
• Суцкевер, Брокман, Амодеи — почти все основатели в итоге ушли из OpenAI, столкнувшись с Альтманом лично.
• «Каждый техно-муж хочет свою AI-компанию по своему образу» — поэтому они не уживаются и расходятся, создавая конкурентов.
• Суцкевер ушёл и основал Safe Superintelligence — Хао считает само название абсурдным («как если бы кто-то ушёл и открыл Safe Podcasting»).
• Доступ — главная валюта, которой компании покупают техножурналистов; отключение доступа — наказание (Хао три года игнорировали после критического профиля 2019).
• Альтман твитнул цитату из её книги до выхода — потому что про OpenAI всего три книги, и он знал содержание.
• Он не ответил ни на одну из 40 страниц запросов на комментарий, но ходит на все подкасты от Такера Карлсона до Джо Рогана.
• OpenAI Startup Fund оказался не фондом OpenAI, а личным фондом Альтмана — один из триггеров недоверия совета.
• Совет уволил Альтмана, никого не предупредив (чтобы все были на одном уровне), и сообщил Microsoft прямо перед стартом рабочего дня — это и взорвало ситуацию и вернуло Альтмана.
• ChatGPT запускали как «research preview» для data flywheel, не ожидая взрыва; серверы постоянно падали.
• Аналогия с «Дюной»: лидеры AI как Пол Атрейдес — насаждают миф о мессии и сами в него постепенно верят (когнитивный диссонанс).
• Сравнение мозга с «числовым движком» Хао называет промо-приёмом ранних дней индустрии, а не доказанным фактом.
• Hinton предсказывал смерть профессии радиолога к дедлайну, который уже прошёл, — радиология процветает.
• Лучший результат в здравоохранении даёт не замена, а связка «радиолог + AI как инструмент».
• Self-driving не «учится один раз для всех» — каждую новую местность надо дотренировывать (Mumbai/Vietnam ≠ Austin).
• Klarna: с ~7400 до ~3000 человек, AI ведёт 70% клиентского сервиса — но «человеческий VIP» становится дороже и ценнее.
• Возникает «разрыв способов отказа»: люди ошибаются по-разному, а одинаковые модели дают одинаковый системный сбой.
• Уволенные специалисты (включая голливудских режиссёров, докторов, юристов) идут в data annotation — обучать модели тем самым навыкам, за которые их уволили.
• Data annotation попал в топ-10 растущих вакансий LinkedIn — индустрия намеренно стравливает подрядчиков ради скорости и дешевизны.
• Женщина-аннотатор: кричала на вернувшегося из школы ребёнка, потому что не знала, когда закроется «окно» проекта на Slack.
• Стивен (ведущий) на ходу звонит CEO Klarna Себастиану прямо в эфире для проверки фактов.
• Поколение Gen Z «постит ноль», уходит в dark social (WhatsApp, Snapchat), ценит реальный опыт — run-клубы как тренд.
• Парадокс Хао: возможно, именно AI впервые выполнит обещание «связать людей» — обнулив всё, кроме того, в чём хороши люди.
• Аналогия «AI = транспорт»: от велосипеда до ракеты; нынешние большие модели — «ракеты», а AlphaFold — «велосипед» (мало данных, мало энергии, Нобелевка 2024).
• «Лошадь уже ушла из конюшни» — но если так, зачем им всё больше данных? Значит, жажда данных только растёт.
• В деле против compute-компаний правительственные контракты считаются эталоном — рычаг давления на местах.

Инсайты

• Архитектура власти важнее персоналий: смена любого CEO не чинит систему, где решения за миллионы принимает горстка без их согласия.
• Двойной миф (угроза + спасение) не противоречие, а единый механизм: оба полюса обосновывают концентрацию контроля и ресурсов у создателя.
• Когда индустрия нанимает большинство мировых AI-исследователей, она «мягко» задаёт повестку деньгами — независимая картина рисков становится недостижимой.
• Отсутствие научного определения интеллекта — не пробел, а ресурс: размытость термина позволяет двигать цели (AGI) под нужды раунда финансирования.
• Сверхэксплуатация маскируется под «новые рабочие места»: автоматизация порождает либо очень высококвалифицированный труд, либо предельно обесчеловеченный.
• Технологии, обещавшие связать мир, исторически разъединяли; способность AI «очеловечить» зависит не от мощности модели, а от того, что люди предпочитают людей.
• Издержки AI экстернализируются на слабейших (вода, воздух, счета), а выгоды концентрируются — это расширяет, а не сужает разрыв богатых и бедных.
• Лидеры не просто лгут публике — они сами тонут в собственном мифе через когнитивный диссонанс, потому что вынуждены жить им ежедневно ради фандрайзинга.
• «Интеллект» как метафора подменяет вопрос о результате: важно не «умна ли система», а достигает ли она способности и какой ценой для людей.
• Скорость распространения AI (быстрее интернета) убивает время на переобучение, которое было при промышленной революции, — отсюда системный риск для занятости.
• Демократия исторически вытеснила монархию, потому что моноцивилизация структурно нестабильна; AI-монополия воспроизводит ту же нестабильность.
• Рычаг рядового человека не нулевой: данные, труд, локальное согласие на дата-центры и приём AI — распределённые точки контроля над «империей».

Фреймворки

Четыре признака AI-империи (по аналогии со старой):

1. Захват того, что ей не принадлежит — ИС артистов/писателей и земля под суперкомпьютеры.
2. Сверхэксплуатация труда — сотни тысяч data-annotation работников + продукты, обесценивающие труд.
3. Монополия на производство знания — «только мы понимаем технологию; кто против — просто не разбирается».
4. Нарратив доброго королевства — «мы хорошие, есть плохие (Google/Китай); отдайте нам ресурсы — приведём в рай».

Три типа людей, которых Стивен считает «незаменимыми» при наступлении AI:

1. Глубокая специализация (оператор AI-агентов, умеющий задать правильный вопрос — напр. CFO с 25-летним опытом).
2. Agent-maxing — молодые любопытные, строящие AI-агентов как множитель силы.
3. Люди для связей в реале (IRL) — community, клиенты, офлайн-события.

Два «вида» AI (метафора транспорта):

• «Ракеты» — большие модели: огромные ресурсы, драматическая выгода немногим, тяжёлое бремя на всех.
• «Велосипеды» — узкие системы на малых данных (AlphaFold): мало энергии, огромная польза.

Цитаты

«Today, whatever is happening in the AI industry is extremely unfair» — 0:00 Сегодня всё, что происходит в AI-индустрии, крайне несправедливо

«We have to break the AI empire» — 0:33 Мы должны сломать империю AI

«They earn a lot of profit from this myth» — 0:20 Они извлекают огромную прибыль из этого мифа

«I have internal documents that show that they are deliberately creating this feeling among the public» — 0:22 У меня есть внутренние документы, показывающие, что они намеренно создают это ощущение у публики

«These models have used the intellectual property of artists and writers» — 0:47 Эти модели использовали интеллектуальную собственность артистов и писателей

«we have no scientific consent on what human intelligence is» — 7:43 У нас нет научного согласия о том, что такое человеческий интеллект

«I think he's a very controversial personality» — 15:16 Думаю, он очень противоречивая личность

«They want to make AI in their own image» — 56:37 Они хотят создать AI по своему образу

«calling the devil makes you important, powerful, and historic» — 57:38 вызов дьявола делает тебя важным, могущественным и историческим

«If you put bullets in a four-chamber revolver» — 58:09 Если зарядить пули в четырёхзарядный револьвер…

«In a situation where there is a 25% chance that everything can be destroyed, I will never put that claim» — 58:22 В ситуации, где есть 25% шанс уничтожить всё, я бы никогда не сделал такую ставку

«It still does not fix the problem that I have recognized in the book» — 1:04:49 Это всё равно не решает проблему, которую я описала в книге

«no person is complete» — 1:06:07 Ни один человек не совершенен

«this is the reason why we have grown from a kingdom to a democracy» — 1:06:28 Именно поэтому мы исторически прошли путь от монархии к демократии

«a single civilization is naturally unstable» — 1:06:34 Единая цивилизация по своей природе нестабильна

«the main purpose of technology has always been to increase human welfare, not to change people» — 24:56 Главная цель технологии всегда была — повышать благополучие людей, а не заменять их

«I have become a demon and I don't even have permission to go to the bathroom» — 1:45:15 Я превратилась в демона, у меня даже нет права сходить в туалет

«whether they are intelligent or not, it's just the same» — 1:14:31 Умны они или нет — мне без разницы (важен результат)

«the value of human conversation will be even higher» — 1:36:28 Ценность человеческого общения станет только выше

«let's break the empire and make new ways of AI development, which are useful for everyone» — 2:04:45 Давайте сломаем империю и создадим новые пути развития AI, полезные для всех

Факты

• Карен Хао взяла интервью у более 250 человек (всего более 300), около 90% — бывшие или действующие сотрудники OpenAI.
• Поле «искусственный интеллект» оформилось в 1956 на собрании в Дартмутском университете; термин предложил ассистент-профессор Джон Маккарти; годом ранее он пытался назвать это иначе.
• Альтман в блог-посте 2015 назвал сверхчеловеческий машинный интеллект, возможно, крупнейшей угрозой человечеству.
• Маск выступал с речью в MIT, назвав AI «вызовом дьявола» и крупнейшей экзистенциальной угрозой.
• Хао провела 3 дня в офисе OpenAI в 2019, готовя профиль для MIT Technology Review; менеджмент остался крайне недоволен.
• Книга — «Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI», бестселлер New York Times.
• Амодеи (тогда вице-президент OpenAI Research, ныне CEO Anthropic) в 2017 оценивал вероятность разрушительного исхода в 10–25% (формулировка с хеджем «I don't see any reason… why this can't happen»).
• Тимнит Гебру — глава команды этики AI в Google — уволена за статью о вреде больших языковых моделей; следом уволена со-руководитель Маргарет Митчелл.
• Klarna: команда сократилась примерно с 7400 до менее 3000 человек; AI ведёт ~70% клиентского сервиса; набор остановлен ~2–3 года; выручка/IAE при этом выросла (по словам CEO Себастиана).
• Anthropic на той неделе отчитался о ~40% падении в entry-level вакансиях в затронутых сферах (финансы, математика, право, медиа, искусство).
• Проект Stargate анонсирован в начале второй администрации Трампа как попытка вложить $500 млрд в AI-инфраструктуру.
• Дата-центр OpenAI в Abilene, Texas — размером с Central Park, ~1 млн чипов, потребление >1 гигаватт (более 20% энергопотребления Нью-Йорка); мета-объект в Луизиане вчетверо больше.
• В Memphis, Tennessee суперкомпьютер Маска Colossus (Grok) использует 35 метановых газовых турбин в общине с одним из высочайших рисков рака лёгких; жители узнали по запаху газа.
• Маск строит суперкомпьютер Colossus на 100 000 GPU; прогноз Маска — 10 млрд роботов-«оптимусов» (Хао: «в крупном он редко ошибается, но с таймингом — да»).
• AlphaFold (DeepMind) получил Нобелевскую премию по химии в 2024 за предсказание сворачивания белков.
• Опрос: 80% американцев считают, что AI-индустрию нужно регулировать.

Источники

• Книга: Karen Hao, «Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI» (бестселлер NYT).
• MIT Technology Review, Wall Street Journal — где работала Хао.
• Статья в New York Magazine про переход уволенных специалистов в data annotation.
• Отчёт Anthropic о влиянии AI на занятость; отчёт LinkedIn о топ-10 растущих вакансий.
• Отчёт Financial Times об использовании соцсетей по поколениям.
• «Дюна» Фрэнка Герберта — метафора мифа о мессии.
• Люди: Сэм Альтман, Илон Маск, Грег Брокман, Илья Суцкевер, Дарио Амодеи, Мира Мурати, Хелен Тонер, Дэмис Хассабис, Джеффри Хинтон, Тимнит Гебру, Маргарет Митчелл, Дара Хосровшахи (Uber), Себастиан (CEO Klarna), Ник Бостром.
• Проекты/компании: OpenAI, Anthropic (Claude), Google/DeepMind, xAI (Grok/Colossus), Meta, Microsoft, Tesla, Safe Superintelligence, Boston Dynamics, Scale AI, AlphaFold, Stargate.

Рекомендации

• Прочитать книгу «Empire of AI» (рекомендует ведущий и сама Хао).
• Осознать себя донором данных и при несогласии — прекращать отдачу данных (как делают артисты и писатели через иски).
• Участвовать в решениях о дата-центрах рядом с вами и в политике приёма AI в школах/компаниях, не пропуская их «по ошибке».
• Держать в голове две вещи одновременно: AI полезен и может иметь серьёзные негативные эффекты — это не противоречие, а повод для общественного разговора.
• Поддерживать «велосипеды AI» (узкие, ресурсоэффективные системы вроде AlphaFold) вместо «ракет».

Итог

AI — это не судьба и не конкретный злодей, а империя власти, держащаяся на мифе; её можно и нужно разобрать, чтобы строить технологию для людей, а не вместо них.