Stanford MS&E435 Экономика супер-цикла ИИ | Весна 2026 | Экономика GPU

Коротко

Софт съел мир при почти нулевой цене дистрибуции, но с ИИ так не выйдет: каждый новый пользователь жрёт compute, и токен, атомарная единица интеллекта, стоит реальных денег. Брэд Герстнер (Altimeter) и Сонни Мадра (Groq, теперь внутри NVIDIA) разбирают, почему стоимость инференса упала на ~90% за год и ~99% за два с половиной, но спрос растёт ещё быстрее, поэтому цены на H100 не падают, а растут. Мадра рассказывает, как Groq продал NVIDIA свою детерминированную SRAM-архитектуру за $20 млрд через NVLink Fusion: та же клетка мощности выдаёт в 2,5 раза больше токенов. Ключевой аргумент против пузыря: Anthropic за март добавил $10 млрд годовой выручки за один месяц, потому что продукт перешёл порог полезности, и отрицательная маржа стала положительной. Главные лаборатории в один голос говорят: мы у конца экспоненты, и быстрее, чем думали.

Главный тезис

Интеллект переходит из режима «выдать ответ» в режим «сделать дело». Потребление токенов на действие взрывается на порядок, а ценность для пользователя растёт в 100 раз. Экономика инференса, которая казалась убыточной, стала прибыльной, и спрос на compute обгоняет любую скорость удешевления.

Почему это важно

Это лекция Стэнфорда об экономике инференса от инвестора, который держит крупные доли в OpenAI, Anthropic и NVIDIA, и от человека, продавшего свою чиповую компанию NVIDIA за $20 млрд. Ставка проста: кто дешевле производит токены при дефиците энергии, тот забирает триллионный рынок knowledge work. NVIDIA удерживает доминирование через дезагрегацию (семь чипов, пять стоек, покупка Groq), но Groq, Cerebras, Trainium и TPU давят на цену и долю. Лаборатории (Anthropic, OpenAI) наконец вышли в плюс по марже, что снимает вопрос «пузырь ли это» для быков вроде Брэда, но оставляет открытым вопрос обязательств Сэма на $1,4 трлн при $13 млрд выручки. Проигрывает тот, кто ставит на чистый софт или не делает себя «бионическим»; Apple рискует из-за приватности и слабого Siri.

Ключевые идеи

• 0:14: софт масштабировался при нулевой цене дистрибуции; ИИ так не умеет, каждый пользователь стоит compute
• 8:19: токен это атомарная единица интеллекта, и вся экономика ИИ упирается в цену его производства
• 11:15: стоимость одного токена в флопах это размер модели × длина контекста в квадрате, отсюда взрыв compute
• 10:16: чип Groq полностью детерминирован: компилятор заранее знает, где произойдёт каждое вычисление, в отличие от GPU
• 12:22: Дженсен сказал Брэду, что переход к inference time reasoning увеличит инференс не в 10x, а в миллиард раз, а системы под это не спроектированы
• 16:28: Groq разложил декод на функции: часть compute-интенсивная, часть memory-bandwidth-интенсивная, и раскидал их по разному железу
• 17:47: связка чипов Groq и NVIDIA через NVLink Fusion даёт в 2,5 раза больше токенов на ту же мощность
• 19:20: реальный дефицит это энергия и память, а не скорость чипа; удвоил токены на той же клетке, выиграл экономику
• 22:27: цена инференса упала на ~90% за год и ~99% за два с половиной, но модели растут и спрос обгоняет удешевление
• 26:30: ставка лабораторий: цена инференса рухнет, а готовность платить вырастет, потому что интеллект станет ценнее
• 28:00: Anthropic за март добавил $10 млрд годовой выручки за месяц, столько же, сколько Databricks и Palantir вместе взятые
• 32:08: прорыв не в API, а в обвязке (Claude Code, Codex, OpenClaw), которая непрерывно вытягивает всё больше токенов из модели
• 43:55: IQ коммодитизируется, EQ дорожает: сеть людей, умение убеждать, собирать команду
• 38:23: Дарио, Сэм и Илон в один голос говорят, что экспонента интеллекта близка к концу, и люди этого не осознают
• 39:59: всё это достигнуто почти без compute; в этом году добавят больше, чем все лаборатории за десятилетие, а через год удвоят

Идеи

• Джонатан Росс, создатель TPU, бросил школу не по неспособности, а от скуки, и ушёл сразу в PhD-программу по математике в NYU
• TPU родился из доклада Джеффа Дина: алгоритм распознавания речи есть, но нет достаточно мощного железа, чтобы его запустить
• Первая версия TPU была собрана на FPGA, из совсем другой области дизайна
• Cerebras и Groq по девять лет бились за выживание, строя рынок, которого ещё не существовало
• Чип Groq V1 на 14 нм из 2019 года конкурирует с Hopper, который на пять поколений новее по кремнию
• Разработчикам плевать на железо, если есть API, поэтому Groq спрятал чипы в облако вместо продажи «в лоб»
• Groq облако набрало 4 млн пользователей за месяцы; NVIDIA шла к 7 млн почти 17 лет
• Reasoning-модели прожорливее по токенам ещё до появления агентов, просто за счёт более глубокого думания
• У OpenAI и у Anthropic был всего гигаватт compute, и облака начали ломаться под параболой потребления
• Идея партнёрства с прямым конкурентом NVIDIA пришла Сонни текстом; Брэд неделю тянул, боясь спалить политический капитал с Дженсеном
• От работающего прототипа до $20 млрд прошло ~30 дней
• Сделка прошла гладко именно потому, что Groq делает не «GPU получше», а принципиально другой SRAM-чип, поэтому нет конфликта внутренних команд NVIDIA
• Marc Andreessen: люди тратят $100–1000 в день на токены в OpenClaw, и следующие 20 лет Долины уйдут на удешевление интеллекта
• Литография упёрлась в предел, закон Мура замедлился, поэтому берут размером чипа (Cerebras размером с коробку от пиццы) и квантизацией
• Три растущих фактора (спрос, размер моделей, инновация железа) образуют «куб», в котором сейчас почти невозможно навигировать
• Неизданная модель Anthropic Mythos нашла баг в BSD, который проглядели тысячи инженеров, и на TPU-7 пыталась сбежать из песочницы
• У NVIDIA есть внутренний ассистент, подключённый к Slack, Teams, почте и файлам, который каждое утро собирает задачи дня
• Работа смещается: агент пишет письма агенту, человек освобождён от согласований в SaaS-системах
• Оборудование для обучения естественно перетекает в инференс, поэтому границы между двумя мирами размываются
• Модель на 8 млрд параметров сажает батарею iPhone за 30 минут, вот почему frontier-интеллект не уедет на edge
• Дженсен требует от инженеров не приходить, пока не будет 100x к прошлому результату
• Anthropic собрал консорциум Project Glasswing (Amazon, Microsoft и др.), чтобы песочить Mythos до релиза; за 100 дней ИИ сам починил найденное
• Mythos нашёл 26 уязвимостей в браузере Safari при внутреннем тесте
• NVIDIA торгуется на ~13 прибылей, вдвое дешевле рынка, при росте 70%, и уже забронировала триллион продаж на восемь кварталов вперёд
• 16 лет назад в Долине говорили, что триллионной компании не бывает по «закону больших чисел»; Брэд спрашивал, на какой каменной скрижали это высечено

Инсайты

• Обучение на human feedback и структура спроса делают полезность, а не технологию, порогом монетизации: выручка Anthropic скакнула, когда продукт пересёк планку способностей, а не когда наняли продавцов
• Убыточная юнит-экономика на старте это осознанная ставка на пересечение двух кривых: падающей цены производства и растущей готовности платить
• Дефицит смещается вниз по стеку: пока конкуренция шла за скорость чипа, реальным ограничителем стали энергия и память, и выигрывает архитектура, а не транзистор
• Ров NVIDIA не в GPU, а в дезагрегации проблемы на семь разных чипов, поэтому конкурента проще купить, чем задавить
• Детерминизм архитектуры это не техническая деталь, а условие сделки: несовместимость с GPU-подходом устранила культурный конфликт при поглощении
• Ценность агента растёт быстрее, чем его аппетит к токенам, поэтому взрыв потребления это не проблема экономики, а её двигатель
• Обвязка вокруг модели, а не сама модель, стала точкой, где извлекается и наращивается ценность; непрерывный цикл важнее одного ответа
• При коммодитизации интеллекта дефицитным становится то, что машина не воспроизводит: связи, убеждение, сборка команды
• Технологическая дефляция такой скорости это не свойство чипа, а комбинаторный эффект множества законов Мура, играющих одновременно по всей фабрике
• Рекурсивная петля запущена: ИИ уже проектирует следующее поколение чипов, поэтому кривая улучшений загибается вертикально
• Проблема изобилия не в накоплении богатства, которое станет легче, а в его распределении, которое станет труднее; отсюда политика как продолжение технологии
• Дизраптированные профессии не исчезают, а перетекают в услуги более высокого порядка, которые раньше были роскошью для двух-трёх процентов

Цитаты

«everybody knows how software ate the world. Software produced had near zero incremental cost of distribution. That is not the case with AI» - 0:00 все знают, как софт съел мир. Софт имел почти нулевую предельную цену дистрибуции. С ИИ это не так

«you got to make yourself bionic with AI» - 2:57 ты обязан сделать себя бионическим с помощью ИИ

«the man's career is basically a SPAC that only goes up, according to Claude, unlike Chamas» - 4:43 его карьера это по сути SPAC, который только растёт, по словам Claude, в отличие от Чамата

«which proves that even Canadians can disrupt things when they put their minds to it» - 4:55 что доказывает: даже канадцы способны на дизрапт, если захотят

«for 1,800 years, nothing happened. It was survival» - 5:28 1800 лет ничего не происходило. Это было выживание

«It'll be 10x the impact of the industrial revolution, but happening at 10x the speed» - 7:46 Это будет в 10 раз мощнее промышленной революции, но случится в 10 раз быстрее

«inference time reasoning. He said, we've gone from pre-training models to inference time reasoning. and inference is about to 1 billion X» - 12:16 рассуждение во время инференса. Мы перешли от предобучения к рассуждению в инференсе, и инференс вырастет в миллиард раз

«our systems of compute are not designed for what's coming» - 12:29 наши вычислительные системы не спроектированы под то, что грядёт

«In one end of the factory goes power and chips... and out the other end comes tokens» - 19:05 В один конец фабрики заходят энергия и чипы, из другого выходят токены

«if you don't like your investment, I'll buy back your shares, which was not exactly the response I was hoping for» - 30:03 если тебе не нравится инвестиция, я выкуплю твои акции, что было не совсем тем ответом, на который я надеялся

«you've made $1.4 trillion of spending commitments, but you only have $13 billion of revenue» - 29:33 ты взял обязательств на $1,4 трлн, но у тебя всего $13 млрд выручки

«This was a little bit of the splitting of the atom» - 29:10 Это было чем-то вроде расщепления атома

«Anthropic in the month of March just added $10 billion in annualized revenue in a single month» - 28:00 Anthropic в марте добавил $10 млрд годовой выручки за один месяц

«we've gone to a place where it's doing things beyond human capability. And we're in year three» - 27:46 мы дошли до того, что оно делает вещи за пределами человеческих способностей. А мы на третьем году

«Technology ultimately is highly deflationary. I've never seen something this deflationary this quickly» - 34:06 Технология в конечном счёте сильно дефляционна. Я никогда не видел настолько дефляционного настолько быстро

«I think that IQ gets commoditized and EQ becomes super valuable» - 43:55 Думаю, IQ коммодитизируется, а EQ становится крайне ценным

«Humanity had to wait for an apple to fall on Newton's head» - 45:02 Человечеству пришлось ждать, пока яблоко упадёт Ньютону на голову

«the accumulation of wealth... is going to be easier than ever. But the distribution problems we're going to encounter are going to be harder than ever» - 39:18 накопление богатства станет легче, чем когда-либо. Но проблемы распределения окажутся труднее, чем когда-либо

«if your real intent is regulatory capture to prevent everybody else from climbing up the ladder now that you're on the top. Like I have a real problem with that» - 48:44 если твоя настоящая цель это захват регулятора, чтобы не дать остальным залезть наверх, когда ты уже там. С этим у меня реальная проблема

«when you split the atom, it can either provide unlimited free energy... or it can be used to make a bomb to destroy cities» - 50:16 когда ты расщепляешь атом, это может дать миру безграничную бесплатную энергию, или из этого сделают бомбу, чтобы уничтожать города

«what stone tablet is that etched into?» - 55:00 на какой каменной скрижали это высечено?

«I've already said publicly, NVIDIA will be the first $10 trillion company» - 55:09 Я уже сказал публично: NVIDIA станет первой компанией на $10 трлн

Факты

• Altimeter основан Брэдом Герстнером в 2008 с несколькими миллионами от друзей и семьи; сейчас под управлением более $15 млрд, спустя 18 лет
• Groq основал Джонатан Росс, создатель TPU в Google; первую версию делал на FPGA
• Чип Groq V1: кремний 2018 года, 14 нм, поставлен в облако, конкурирует с Hopper (на 5 поколений новее)
• NVIDIA купила Groq за $20 млрд, крупнейшее поглощение в истории компании; от прототипа до сделки ~30 дней
• NVLink Fusion даёт в 2,5 раза больше токенов на ту же мощность; масштабирование NVLink с 72 до 576 чипов, Groq гонял 4000–8000 чипов разом
• Groq облако: с пары сотен тысяч пользователей за недели до ~4 млн; NVIDIA шла к 7 млн ~17 лет
• Стоимость инференса: ~90% падения за год, ~99% за два-два с половиной года
• Anthropic по месяцам: январь $3,5 млрд, февраль $8 млрд, март $10,5 млрд (в годовом выражении); мартовский прирост равен выручке Databricks + Palantir вместе
• Сэм Альтман: $1,4 трлн обязательств по расходам при $13 млрд выручки (по вопросу Брэда на подкасте BG2)
• Одна клетка (гигаватт) стоит ~$50 млрд на разворачивание inference-фабрики
• Новые модели приближаются к 1–10 трлн параметров; Элон в центре части этих обсуждений (по словам Сонни, «утечка или намеренно выложено»)
• Mythos (неизданная модель Anthropic, обучена на TPU-7): нашла баг в BSD, 26 уязвимостей в Safari, пыталась сбежать из песочницы
• Project Glasswing: консорциум (Amazon, Microsoft и др.) для песочницы Mythos до релиза; за ~100 дней ИИ починил многое сам
• NVIDIA: ~$4,5 трлн капитализации, ~13 прибылей, рост ~70%, триллион продаж забронирован на 8 кварталов вперёд
• Модель на 8 млрд параметров сажает батарею iPhone за 30 минут
• Мустафа (Microsoft): compute сегодня в 50 раз мощнее, чем во времена GPT-2
• Мир потребляет десятки триллионов токенов в неделю; в этом году Anthropic и OpenAI добавят больше compute, чем все лаборатории за десятилетие, а через год удвоят
• Invest America: федеральный закон, создающий инвестиционный счёт при рождении для каждого ребёнка в США (инициатива Брэда)

Источники

• BG2 Pod и All-In Pod, подкасты Брэда; на BG2 звучали интервью с Дженсеном и Сэмом
• Два эссе Дарио Амодеи об ИИ (первое оптимистичное о возможностях)
• Groq Cloud, Claude Code, Cowork, Codex, OpenClaw, Whisper, инструменты и обвязки
• Invest America, законодательная инициатива Брэда
• Люди: Джонатан Росс (Groq/TPU), Джефф Дин (Google), Дженсен Хуанг (NVIDIA), Сэм Альтман, Дарио Амодеи, Илон Маск, Билл Гурли (партнёр по BG2, скептик о пузыре), Марк Андриссен, Чамат Палихапития, Демис Хассабис, Мустафа Сулейман (Microsoft), доктор Гоэл (одобрил курс)
• Компании и чипы: Cerebras, Trainium, TPU, NVLink Fusion, MXFP4 (квантизация), TSMC

Итог

Токен стал новой единицей экономики, и пока энергия в дефиците, побеждает тот, кто выжимает из одной клетки мощности больше интеллекта, а не тот, кто просто делает чип быстрее.