Разоблачитель ИИ: Нас газлайтят компании ИИ, они скрывают правду! - Karen Hao

Коротко

Журналистка Карен Хао (автор книги «Empire of AI», экс-MIT Technology Review и Wall Street Journal, интервью более 300 человек, ~90% из них, сотрудники OpenAI) говорит прямо: AI-индустрия работает по модели колониальной империи. Захват чужой интеллектуальной собственности, земля под дата-центры, сверхэксплуатация аннотаторов данных, монополия на производство знания, цензура неудобных исследователей. Центральный механизм, миф: компании одновременно раздувают экзистенциальный ужас («мы вызываем дьявола») и обещают рай («вылечим рак»), потому что оба нарратива дают один результат, отдайте нам деньги и контроль. Хао разбирает внутреннюю историю OpenAI: как Альтман заманил Маска его же языком, как Брокман и Суцкевер сначала выбрали Маска CEO, потом передумали, как Альтмана уволил и вернул совет директоров. Её тезис не про «хороших или плохих» CEO, про структуру власти, где горстка людей принимает решения за миллионы без их согласия. Практический вывод: данные, труд, дата-центры и приём AI на местах, точки рычага, через которые «империю» можно сломать и строить AI иначе (модель «велосипедов AI» вроде AlphaFold вместо «ракет»).

Главный тезис

Проблема не в том, что технология бесполезна или что конкретный CEO плох, проблема в том, что вокруг AI выстроена имперская структура власти, которая концентрирует решения в руках немногих, эксплуатирует слабых и держится на самоподдерживающемся мифе. Эту структуру нужно сломать и заменить иными способами разработки AI, приносящими пользу людям, а не заменяющими их.

Ключевые идеи

• 0:20, миф об AI как двигатель прибыли: Альтман, Маск, Цукерберг, Амодеи зарабатывают на ощущении неизбежности, которое сами же насаждают через внутренние документы.

• 0:42, AI-империя = старая империя: четыре признака, захват ИС, сверхэксплуатация труда, монополия на знание, нарратив «доброго королевства».

• 7:43, нет научного определения интеллекта, поэтому компании свободно меняют определение AGI под себя; OpenAI переписывал его много раз.

• 10:41, блог-пост Альтмана 2015 про экзистенциальный риск был написан языком Маска, чтобы заманить Маска в основание OpenAI.

• 14:41, Брокман и Суцкевер сначала выбрали Маска CEO, но Альтман переубедил их аргументом об опасности концентрации власти у Маска, и Маск ушёл.

• 17:11, паттерн Альтмана по версии собеседников: он использует чужой интеллект ради цели, с которой сами носители не согласны (Амодеи, Суцкевер).

• 22:38, вся ставка индустрии стоит на спорной идее, что мозг, цифровой движок, а масштабирование ведёт к интеллекту; нейробиологи это оспаривают.

• 26:28, труд сотен тысяч data-annotation работников делает AI возможным, при этом продукты спроектированы так, чтобы обесценивать труд.

• 1:25, цензура неудобной науки: кейс Тимнит Гебру и Маргарет Митчелл, уволенных Google за критическую статью о больших языковых моделях.

• 59:00, нарратив «плохого королевства» (раньше Google, теперь Китай) оправдывает любой захват ресурсов как гонку добра против зла.

• 18:34, сами лидеры (Амодеи) называют 10–25% вероятность катастрофы, но всё равно «жмут на курок», потому что «вызывать дьявола» делает важным.

• 1:08:59, модели, узкий числовой движок на вероятностях, а не общий интеллект; компании прокачивают лишь те способности, за которые платят (финансы, право, медицина).

• 1:21:31, сильный удар по занятости: ломается карьерная лестница, исчезают entry- и mid-level позиции, новые рабочие места хуже старых (data annotation).

• 1:49:38, дата-центры (Stargate в Abilene, Colossus в Memphis) строят в слабейших общинах, отбирая воду, чистый воздух и повышая счета.

• 0:33, рычаги сопротивления: ты, донор данных и можешь его прекратить; противодействие дата-центрам; политика приёма AI; иски артистов и родителей.

Почему это важно

Хао переводит разговор об AI из плоскости «спасёт или уничтожит человечество» в политэкономию власти: кто принимает решения, за чей счёт и кто несёт издержки. Выигрывают OpenAI/Альтман, Anthropic/Амодеи, xAI/Маск, Meta/Цукерберг, Google/DeepMind, им миф нужен для привлечения капитала ($500 млрд Stargate), лоббирования (сотни миллионов на промежуточные выборы против регулирования) и удержания контроля над нарративом. Проигрывают артисты и писатели (ИС без согласия), уволенные работники, скатывающиеся в data annotation, и слабые общины у дата-центров (Memphis, 35 метановых турбин, рекордный риск рака лёгких). Контекст, момент, когда 80% американцев хотят регулирования AI, и впервые за долгое время по этому вопросу редкий консенсус.

Идеи

• Альтман пишет «для публики», но реально адресует посты конкретным людям, блог 2015 был письмом лично Маску.
• Маск любил отель Rosewood в Кремниевой долине, там прошёл учредительный ужин OpenAI, куда Альтман заманивал таланты обещанием встречи с Маском.
• Суцкевер, Брокман, Амодеи, почти все основатели в итоге ушли из OpenAI, столкнувшись с Альтманом лично.
• «Каждый техно-муж хочет свою AI-компанию по своему образу», поэтому они не уживаются и расходятся, создавая конкурентов.
• Суцкевер ушёл и основал Safe Superintelligence, Хао считает само название абсурдным («как если бы кто-то ушёл и открыл Safe Podcasting»).
• Доступ, главная валюта, которой компании покупают техножурналистов; отключение доступа, наказание (Хао три года игнорировали после критического профиля 2019).
• Альтман твитнул цитату из её книги до выхода, потому что про OpenAI всего три книги, и он знал содержание.
• Он не ответил ни на одну из 40 страниц запросов на комментарий, но ходит на все подкасты от Такера Карлсона до Джо Рогана.
• OpenAI Startup Fund оказался не фондом OpenAI, а личным фондом Альтмана, один из триггеров недоверия совета.
• Совет уволил Альтмана, никого не предупредив (чтобы все были на одном уровне), и сообщил Microsoft прямо перед стартом рабочего дня, это и взорвало ситуацию и вернуло Альтмана.
• ChatGPT запускали как «research preview» для data flywheel, не ожидая взрыва; серверы постоянно падали.
• Аналогия с «Дюной»: лидеры AI как Пол Атрейдес, насаждают миф о мессии и сами в него постепенно верят (когнитивный диссонанс).
• Сравнение мозга с «числовым движком» Хао называет промо-приёмом ранних дней индустрии, а не доказанным фактом.
• Hinton предсказывал смерть профессии радиолога к дедлайну, который уже прошёл,, радиология процветает.
• Лучший результат в здравоохранении даёт не замена, а связка «радиолог + AI как инструмент».
• Self-driving не «учится один раз для всех», каждую новую местность надо дотренировывать (Mumbai/Vietnam ≠ Austin).
• Klarna: с ~7400 до ~3000 человек, AI ведёт 70% клиентского сервиса, но «человеческий VIP» становится дороже и ценнее.
• Возникает «разрыв способов отказа»: люди ошибаются по-разному, а одинаковые модели дают одинаковый системный сбой.
• Уволенные специалисты (включая голливудских режиссёров, докторов, юристов) идут в data annotation, обучать модели тем самым навыкам, за которые их уволили.
• Data annotation попал в топ-10 растущих вакансий LinkedIn, индустрия намеренно стравливает подрядчиков ради скорости и дешевизны.
• Женщина-аннотатор: кричала на вернувшегося из школы ребёнка, потому что не знала, когда закроется «окно» проекта на Slack.
• Стивен (ведущий) на ходу звонит CEO Klarna Себастиану прямо в эфире для проверки фактов.
• Поколение Gen Z «постит ноль», уходит в dark social (WhatsApp, Snapchat), ценит реальный опыт, run-клубы как тренд.
• Парадокс Хао: возможно, именно AI впервые выполнит обещание «связать людей», обнулив всё, кроме того, в чём хороши люди.
• Аналогия «AI = транспорт»: от велосипеда до ракеты; нынешние большие модели, «ракеты», а AlphaFold, «велосипед» (мало данных, мало энергии, Нобелевка 2024).
• «Лошадь уже ушла из конюшни», но если так, зачем им всё больше данных? Значит, жажда данных только растёт.
• В деле против compute-компаний правительственные контракты считаются эталоном, рычаг давления на местах.

Инсайты

• Архитектура власти важнее персоналий: смена любого CEO не чинит систему, где решения за миллионы принимает горстка без их согласия.
• Двойной миф (угроза + спасение) не противоречие, а единый механизм: оба полюса обосновывают концентрацию контроля и ресурсов у создателя.
• Когда индустрия нанимает большинство мировых AI-исследователей, она задаёт повестку деньгами, независимая картина рисков становится недостижимой.
• Отсутствие научного определения интеллекта, не пробел, а ресурс: размытость термина позволяет двигать цели (AGI) под нужды раунда финансирования.
• Сверхэксплуатация маскируется под «новые рабочие места»: автоматизация порождает либо очень высококвалифицированный труд, либо предельно обесчеловеченный.
• Технологии, обещавшие связать мир, исторически разъединяли; способность AI «очеловечить» зависит не от мощности модели, а от того, что люди предпочитают людей.
• Издержки AI экстернализируются на слабейших (вода, воздух, счета), а выгоды концентрируются, это расширяет, а не сужает разрыв богатых и бедных.
• Лидеры не просто лгут публике, они сами тонут в собственном мифе через когнитивный диссонанс, потому что вынуждены жить им ежедневно ради фандрайзинга.
• «Интеллект» как метафора подменяет вопрос о результате: важно не «умна ли система», а каких способностей достигает и какой ценой для людей.
• Скорость распространения AI (быстрее интернета) убивает время на переобучение, которое было при промышленной революции,, отсюда системный риск для занятости.
• Демократия исторически вытеснила монархию, потому что моноцивилизация структурно нестабильна; AI-монополия воспроизводит ту же нестабильность.
• Рычаг рядового человека не нулевой: данные, труд, локальное согласие на дата-центры и приём AI, распределённые точки контроля над «империей».

Фреймворки

Четыре признака AI-империи (по аналогии со старой):

1. Захват того, что ей не принадлежит, ИС артистов/писателей и земля под суперкомпьютеры.
2. Сверхэксплуатация труда, сотни тысяч data-annotation работников + продукты, обесценивающие труд.
3. Монополия на производство знания, «только мы понимаем технологию; кто против, просто не разбирается».
4. Нарратив доброго королевства, «мы хорошие, есть плохие (Google/Китай); отдайте нам ресурсы, приведём в рай».

Три типа людей, которых Стивен считает «незаменимыми» при наступлении AI:

1. Глубокая специализация (оператор AI-агентов, умеющий задать правильный вопрос, напр. CFO с 25-летним опытом).
2. Agent-maxing, молодые любопытные, строящие AI-агентов как множитель силы.
3. Люди для связей в реале (IRL), community, клиенты, офлайн-события.

Два «вида» AI (метафора транспорта):

• «Ракеты», большие модели: огромные ресурсы, драматическая выгода немногим, тяжёлое бремя на всех.
• «Велосипеды», узкие системы на малых данных (AlphaFold): мало энергии, огромная польза.

Цитаты

«Today, whatever is happening in the AI industry is extremely unfair», 0:00 Сегодня всё, что происходит в AI-индустрии, крайне несправедливо

«We have to break the AI empire», 0:33 Мы должны сломать империю AI

«They earn a lot of profit from this myth», 0:20 Они извлекают огромную прибыль из этого мифа

«I have internal documents that show that they are deliberately creating this feeling among the public», 0:22 У меня есть внутренние документы, показывающие, что они намеренно создают это ощущение у публики

«These models have used the intellectual property of artists and writers», 0:47 Эти модели использовали интеллектуальную собственность артистов и писателей

«we have no scientific consent on what human intelligence is», 7:43 У нас нет научного согласия о том, что такое человеческий интеллект

«I think he's a very controversial personality», 15:16 Думаю, он очень противоречивая личность

«They want to make AI in their own image», 56:37 Они хотят создать AI по своему образу

«calling the devil makes you important, powerful, and historic», 57:38 вызов дьявола делает тебя важным, могущественным и историческим

«If you put bullets in a four-chamber revolver», 58:09 Если зарядить пули в четырёхзарядный револьвер…

«In a situation where there is a 25% chance that everything can be destroyed, I will never put that claim», 58:22 В ситуации, где есть 25% шанс уничтожить всё, я бы никогда не сделал такую ставку

«It still does not fix the problem that I have recognized in the book», 1:04:49 Это всё равно не решает проблему, которую я описала в книге

«no person is complete», 1:06:07 Ни один человек не совершенен

«this is the reason why we have grown from a kingdom to a democracy», 1:06:28 Именно поэтому мы исторически прошли путь от монархии к демократии

«a single civilization is naturally unstable», 1:06:34 Единая цивилизация по своей природе нестабильна

«the main purpose of technology has always been to increase human welfare, not to change people», 24:56 Главная цель технологии всегда была, повышать благополучие людей, а не заменять их

«I have become a demon and I don't even have permission to go to the bathroom», 1:45:15 Я превратилась в демона, у меня даже нет права сходить в туалет

«whether they are intelligent or not, it's just the same», 1:14:31 Умны они или нет, мне без разницы (важен результат)

«the value of human conversation will be even higher», 1:36:28 Ценность человеческого общения станет только выше

«let's break the empire and make new ways of AI development, which are useful for everyone», 2:04:45 Давайте сломаем империю и создадим новые пути развития AI, полезные для всех

Факты

• Карен Хао взяла интервью у более 250 человек (всего более 300), около 90%, бывшие или действующие сотрудники OpenAI.
• Поле «искусственный интеллект» оформилось в 1956 на собрании в Дартмутском университете; термин предложил ассистент-профессор Джон Маккарти; годом ранее он пытался назвать это иначе.
• Альтман в блог-посте 2015 назвал сверхчеловеческий машинный интеллект, возможно, крупнейшей угрозой человечеству.
• Маск выступал с речью в MIT, назвав AI «вызовом дьявола» и крупнейшей экзистенциальной угрозой.
• Хао провела 3 дня в офисе OpenAI в 2019, готовя профиль для MIT Technology Review; менеджмент остался крайне недоволен.
• Книга, «Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI», бестселлер New York Times.
• Амодеи (тогда вице-президент OpenAI Research, ныне CEO Anthropic) в 2017 оценивал вероятность разрушительного исхода в 10–25% (формулировка с хеджем «I don't see any reason… why this can't happen»).
• Тимнит Гебру, глава команды этики AI в Google, уволена за статью о вреде больших языковых моделей; следом уволена со-руководитель Маргарет Митчелл.
• Klarna: команда сократилась примерно с 7400 до менее 3000 человек; AI ведёт ~70% клиентского сервиса; набор остановлен ~2–3 года; выручка/IAE при этом выросла (по словам CEO Себастиана).
• Anthropic на той неделе отчитался о ~40% падении в entry-level вакансиях в затронутых сферах (финансы, математика, право, медиа, искусство).
• Проект Stargate анонсирован в начале второй администрации Трампа как попытка вложить $500 млрд в AI-инфраструктуру.
• Дата-центр OpenAI в Abilene, Texas, размером с Central Park, ~1 млн чипов, потребление >1 гигаватт (более 20% энергопотребления Нью-Йорка); мета-объект в Луизиане вчетверо больше.
• В Memphis, Tennessee суперкомпьютер Маска Colossus (Grok) использует 35 метановых газовых турбин в общине с одним из высочайших рисков рака лёгких; жители узнали по запаху газа.
• Маск строит суперкомпьютер Colossus на 100 000 GPU; прогноз Маска, 10 млрд роботов-«оптимусов» (Хао: «в крупном он редко ошибается, но с таймингом, да»).
• AlphaFold (DeepMind) получил Нобелевскую премию по химии в 2024 за предсказание сворачивания белков.
• Опрос: 80% американцев считают, что AI-индустрию нужно регулировать.

Источники

• Книга: Karen Hao, «Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI» (бестселлер NYT).
• MIT Technology Review, Wall Street Journal, где работала Хао.
• Статья в New York Magazine про переход уволенных специалистов в data annotation.
• Отчёт Anthropic о влиянии AI на занятость; отчёт LinkedIn о топ-10 растущих вакансий.
• Отчёт Financial Times об использовании соцсетей по поколениям.
• «Дюна» Фрэнка Герберта, метафора мифа о мессии.
• Люди: Сэм Альтман, Илон Маск, Грег Брокман, Илья Суцкевер, Дарио Амодеи, Мира Мурати, Хелен Тонер, Дэмис Хассабис, Джеффри Хинтон, Тимнит Гебру, Маргарет Митчелл, Дара Хосровшахи (Uber), Себастиан (CEO Klarna), Ник Бостром.
• Проекты/компании: OpenAI, Anthropic (Claude), Google/DeepMind, xAI (Grok/Colossus), Meta, Microsoft, Tesla, Safe Superintelligence, Boston Dynamics, Scale AI, AlphaFold, Stargate.

Рекомендации

• Прочитать книгу «Empire of AI» (рекомендует ведущий и сама Хао).
• Осознать себя донором данных и при несогласии, прекращать отдачу данных (как делают артисты и писатели через иски).
• Участвовать в решениях о дата-центрах рядом с вами и в политике приёма AI в школах/компаниях, не пропуская их «по ошибке».
• Держать в голове две вещи одновременно: AI полезен и может иметь серьёзные негативные эффекты, это не противоречие, а повод для общественного разговора.
• Поддерживать «велосипеды AI» (узкие, ресурсоэффективные системы вроде AlphaFold) вместо «ракет».

Итог

AI, не судьба и не конкретный злодей, а империя власти, держащаяся на мифе. Её можно разобрать и строить технологию для людей, а не вместо них.