Стэнфорд CS153 Frontier Systems | Построение экосистемы Frontier

Файл готов, все «-» вычищены (включая цитаты и таймкоды), фактура и структура нетронуты. Вывожу итог:

Коротко

Сатья Наделла разбирает, зачем Microsoft вложила миллиард в OpenAI в 2019-м, и сводит всё к «подготовленному уму»: одержимость компании естественным языком плюс привычка скупать любой амбициозный заход на NLP, откуда бы он ни пришёл. Центральная конструкция разговора: frontier ecosystem, мир, где каждая компания «взбирается на свой холм» на собственных данных, копит не только человеческий, но и «токенный» капитал, и не отдаёт свою ценность фундаментальной модели. Наделла проговаривает продуктовый залп с Build: семь моделей линейки MAI с чистой data lineage, лицензируемых вместе с весами; Scout как корпоративный «автопилот» с делегированной идентичностью; ставку на локальный inference (unmetered intelligence, dev box на триллион параметров) и новые форм-факторы агентной эры (Project Solara). Отдельно: кремний Microsoft (Maya 200 гоняет GPT-55, ARM-процессор Cobalt), квантовая программа на Majorana и вывод: без broad-based пользы и позитивной суммы индустрия «потеряет social permission». Студентам он советует не бояться grade anxiety, а гнаться за «cognitive coverage»: управлять сотней агентов, но понимать, что они сделали.

Главный тезис

Будущее не в том, чтобы потреблять чужую фундаментальную модель, а в том, чтобы каждая компания и каждый человек сохраняли реальную agency: брали любую модель в свой «gym», взбирались на собственный холм на своих данных и оставляли ценность у себя, иначе экосистема схлопнется в игру нескольких фирм и лишится общественного разрешения на существование.

Ключевые идеи

• 1:16: ставка на OpenAI выросла из «подготовленного ума»: Microsoft десятилетиями был одержим естественным языком, хотя ещё в 2017–2018 не верил, что deep learning сам вытянет NLP без символьной логики.
• 2:10: стратегия была скупать любой амбициозный заход на язык, органический или внешний; OpenAI лишь один из многих купленных и проинвестированных активов.
• 4:36: главным решением была не сумма денег, а концентрация вычислений на одном направлении; капитал тут вторичен по сравнению с compute.
• 6:01: если модель учится на данных, встаёт вопрос будущего фирмы: сегодня фирма это tacit knowledge внутри операций и человеческий капитал, а завтра: токены и люди, работающие вместе.
• 7:15: модели MAI лицензируются вместе с весами, чтобы каждая компания построила свою hill-climbing machine и дообучала её на трейсах собственных задач.
• 7:30: модели обучены на чистой lineage данных без наваленной синтетики, чтобы reasoning «возник» честно, а компания могла верить в происхождение.
• 8:20: новая корпоративная дисциплина: настроить RL-окружение, приватные evals и «gym», куда впускаешь любую модель, но IP и ценность остаются у тебя.
• 9:55: Microsoft 365 из multi-tenant SaaS превращается в multi-tenant hill-climbing service: сама наблюдает процессы (например HR-онбординг), генерит evals и бутстрапит RL на данных клиента.
• 11:59: эволюция Copilot: chat → co-work (делегирование задач) → Scout/autopilot, долгоживущий агент с heartbeat, который «мониторит» и «видит сны».
• 12:14: Scout получает делегированную идентичность («цифровой двойник») и умеет минтить новые автопилоты со своими identity и песочницами.
• 13:49: для долгоживущих агентов, которые генерят и исполняют код, ключевым становится containment: контейнер MXC, изоляция на уровне процесса, сессии или VM.
• 15:06: unmetered intelligence: токены в дефиците, поэтому надо задействовать edge-кремний (GPU в PC, RTX SoC от NVIDIA, dev box с петафлопом и триллион-параметровой моделью локально).
• 17:12: Project Solara предлагает новые форм-факторы (бейдж с fingerprint-ридером и камерой, desk companion) как endpoints для облачных агентов; пример: медсестра, «пробивающая» данные бейджем вместо телефона.
• 19:57: метафора зрелости технологии: как продавали не электричество, а свет, так и AI оценят по конкретной пользе «одному сообществу за раз», а не по хайпу.
• 25:23: вертикальная интеграция кремния: Maya 200 гоняет GPT-55 в проде Copilot ради TCO, ARM-процессор Cobalt тюнится на трейсах GitHub Copilot, флот трактуется как гетерогенный.
• 31:34: квант это новый ускоритель, не замена классике; ставка на состояние материи Majorana, а ближайшая веха: 100 логических кубитов для генерации synth-данных science-моделям.

Почему это важно

Наделла рисует расстановку сил на следующем витке платформенной войны, где Microsoft хочет быть не поставщиком одной модели, а владельцем экосистемы и кремния под ней. Выигрывают компании, которые успеют превратить свои процессы в «токенный капитал» и не отдадут IP фундаментальным лабам; проигрывают те, кто останется чистым потребителем чужой модели. В кадре: OpenAI (партнёр и одновременно рычаг: MAI и GPT-55 сосуществуют), NVIDIA/Jensen (RTX SoC, GB300, Windows на дата-центровом железе), Anthropic-родословная (Дарио «был там» в ранние дни), китайские лабы, закрывающие свои веса, Meta, отходящая от frontier open-моделей, и Mustafa Suleyman как «квази-философ» продукта. За вежливой риторикой про positive-sum стоит холодный расчёт: без broad-based пользы индустрия теряет social permission, а Microsoft монетизирует лицензии на веса даже когда модель крутится на Fireworks или Base10.

Идеи

• Миллиардная ставка на OpenAI подаётся не как прозрение, а как один выстрел из серии: Microsoft «брал шоты» по всем, кто заходил на язык.
• Настоящая валюта решения: не деньги, а согласие сконцентрировать дефицитный compute на одной группе, которая «хотела это гнать».
• Gates-Grove модель (Intel + Microsoft) и связка с SAP по ERP поданы как ДНК: Microsoft умеет создавать ценность через экосистему, а не только органикой.
• Понятие «токенный капитал»: компания копит ценность не только в людях, но и в трейсах, evals и дообученных весах.
• Microsoft 365 может сам сгенерировать evals для процесса, просто наблюдая, что делают сотрудники: данные и окружение остаются у клиента.
• «Easy button»: hill-climbing machine уже инстанцирована, от компании нужна лишь стратегическая дисциплина обращаться с harness/context/evals как с активами.
• Приватность, конфиденциальность и безопасность переописаны как «архитектурные и стратегические» решения в мире, куда входит ИИ.
• Агент, который «мониторит, имеет heartbeat и видит сны»: язык живого организма применён к корпоративному софту.
• Наделла сам признаётся, что не доверяет OpenClaw настолько, чтобы «заYOLOить» все креды: отсюда контейнер MXC и изоляция.
• Он лично гоняет всё на Windows 365 как на полностью изолированном облачном инстансе для долгоживущих агентов.
• Провокация про jobs: текущий интеллект коммодитизируется, а человек как самый адаптивный вид создаёт ценность поверх новой коммодити.
• Бейдж-агент в здравоохранении: медсестра диктует задачу, устройство исполняет в облаке и уведомляет: ambient intelligence вместо телефона.
• Windows подан как «единственная открытая платформа»: устанавливай что хочешь, не звони в Microsoft, и этот этос переносят в агентную платформу без старых платформенных правил.
• Три доминирующих ворклоада: training, inference и долгоживущий агент (inference + обычный compute): от них и надо проектировать железо с первых принципов.
• Синхронные data-parallel ворклоады ломают старые scale-out трюки: теперь надо инновировать и на scale-up ради когерентности и MFU.
• Старые GPU из флота переиспользуют для ускорения дата-варехауса: Fabric даёт 7x+.
• Квантовый компьютер как симулятор природы: его трейсы (химия, молекулярная динамика) кормят обучение material-science моделей уже на ранних машинах.
• Диверсификация квантовых ставок: ion trap, фотоника, natural atoms (партнёр QNorth в Дании), плюс Majorana как фундаментальный путь к fault tolerance.
• «Everybody likes change, except they want the other person to change»: growth mindset это не лозунг, а мужество признать свой fixed mindset.
• Nonviolent communication и работа Кэрол Дуэк перенесены из детской психологии в корпоративную культуру.
• Herbert Simon и bounded rationality: люди «угоняются» и не видят собственных интересов, поэтому нужны практики: «твой training run».
• «Cognitive coverage» по аналогии с test coverage: не оффлоадить мышление сотне агентов, а понимать, что они сделали.
• GitHub app как «новый inbox» для управления агентными сессиями: CLI-сложность требует нового ADE.
• Canvas в GitHub: сгенерированный UI (Kanban-доска), над которым работают и человек, и агент: generated UI как новый способ human-agent взаимодействия.
• Стирание границы между приложением, документом и сайтом: теперь всё делается кодом.
• Прямая манипуляция канвасом требует научить модель семантике канваса через API/протокол: промежуточный формат (HTML→Excel/PowerPoint) как переходная стадия.
• О космических дата-центрах: честное «я не эксперт», но «дайте мне гигаватты или хоть мегаватты, воткнусь».
• Наделла - третий CEO Microsoft, ведущий квантовую программу; ставка на Majorana тянется с теории 1930-х.
• Совет undergrad-у: он бы вернулся из софта в железо: оптическая сторона networking выглядит «невероятным временем».

Инсайты

• Стратегическое преимущество в новой платформе не покупается разово, а вырастает из «подготовленного ума», накопленной одержимости, которая делает тебя готовым распознать прорыв, когда он приходит извне.
• Дефицитный ресурс определяет реальное решение: когда деньги перестают быть узким местом, борьба идёт за концентрацию вычислений и волю команды.
• Ценность в ИИ-мире смещается от того, что модель знает, к тому, что остаётся у тебя после её работы: трейсы, окружения, evals становятся защищаемыми активами.
• Экосистема выживает, только если она positive-sum по конструкции; архитектура, где несколько лаб забирают всю ренту, сама подрывает лицензию на существование.
• Безопасность агентов - это возврат к старым абстракциям ОС (процесс, сессия, контейнер), просто на новом уровне субъектов, которые генерят и исполняют код.
• Дефицит токенов толкает вычисления обратно на край: не всё уедет в облако, часть интеллекта осядет на локальном кремнии.
• Новый класс субъектов (долгоживущие агенты) рождает новые форм-факторы: интерфейс перестаёт быть экраном и становится endpoint-ом с идентичностью.
• Зрелость технологии измеряется не восхищением инсайдеров, а невидимой пользой для тех, кто не знает, как она устроена.
• Проектирование систем снова стало интересным, потому что сменился ворклоад: архитектура следует за софтом, а не наоборот.
• Квант не конкурирует с классикой, а дополняет её; прорывные технологии чаще встраиваются в стек, чем вытесняют предыдущий.
• Культурные практики (growth mindset, ненасильственное общение) работают в корпорации ровно потому, что адресуют bounded rationality отдельного человека, а не компанию.
• ИИ снимает тревогу за оценку и обнажает настоящий вопрос обучения: понимаешь ли ты то, что за тебя сделали, иначе делегирование превращается в потерю компетенции.
• Открытость как конкурентная позиция: платформа, куда можно войти без разрешения владельца, притягивает экосистему сильнее закрытой.

Фреймворки

• Три способа создавать enterprise value (ДНК Microsoft): органическая ставка внутри → партнёрства (Gates-Grove, SAP) → M&A; органика первична, остальное надстраивается.
• Три форм-фактора Copilot: chat (мыслящий ассистент) → co-work (делегирование, agentic loop) → Scout/autopilot (долгоживущий агент с heartbeat).
• Три уровня изоляции агентов: process-level → session-level → VM/полный облачный инстанс: как в своё время думали о границах процессов.
• Три доминирующих ворклоада эпохи: training, inference, long-running agent (inference + обычный compute): точка отсчёта для дизайна железа.
• Две оси квантовой программы: ближний срок (natural atoms, легко фабрикуемые машины, synth-данные для science) и длинный срок (Majorana, fault tolerance, utility scale).
• Две вещи, которые человек пересекает при выборе: то, к чему есть настоящая страсть, и «калькуляция» того, что ценит мир.

Цитаты

«what I describe as a prepared mind», 1:16 то, что я называю подготовленным умом

«anyone who had an ambitious angle on natural language, irrespective of what sort of lineage they came from, we would always take it», 2:10 любого, у кого был амбициозный заход на естественный язык, откуда бы он ни шёл, мы всегда брали

«if you have a model that basically learns from data, what's the future of the firm even», 6:01 если модель по сути учится на данных, каково вообще будущее фирмы

«every company can actually operate at the frontier with their own IP compounding over time, not just the human capital, but even their token capital», 6:28 каждая компания может работать на фронтире, наращивая своё IP со временем, не только человеческий капитал, но и токенный

«allow every company to build their own hill climbing machine», 7:15 дать каждой компании построить свою машину восхождения на холм

«if you're just a consumer of a foundation model, then I'm not sure how you can retain enterprise value», 8:35 если ты просто потребитель фундаментальной модели, я не уверен, как ты вообще удержишь корпоративную ценность

«It's got a heartbeat. It's dreaming.», 12:05 У него есть пульс. Он видит сны.

«I kind of struggle to YOLO and get all my credentials because I don't trust it», 13:01 мне тяжело на авось скормить все свои креды, потому что я этому не доверяю

«I think containment is key», 13:49 по-моему, containment - это ключ

«we didn't sell electricity, we sold light», 19:57 мы продавали не электричество, мы продавали свет

«the world will evaluate us in what was the value we created for the world, one community at a time», 20:30 мир оценит нас по той ценности, что мы создали, одному сообществу за раз

«You will absolutely lose social permission or we will lose social permission», 22:47 ты абсолютно точно потеряешь общественное разрешение, или мы его потеряем

«It's a great time, by the way, to be in computer architecture», 27:14 отличное, кстати, время быть в компьютерной архитектуре

«I think of quantum as the new accelerator», 31:34 я воспринимаю квант как новый ускоритель

«everybody likes change, except they want the other person to change, not themselves», 36:36 все любят перемены, только хотят, чтобы менялся другой, а не они сами

«It's about having the courage to confront one's own fixed mindset», 36:55 дело в мужестве признать собственный фиксированный майндсет

«think of it as your training run that you need», 39:13 воспринимай это как нужный тебе training run

«You can now have cognitive coverage that really follow you through your curiosity», 43:25 теперь у тебя может быть когнитивное покрытие, идущее за твоим любопытством

«It's not I've offloaded to the 100. The key is, what am I instructing them?», 44:09 дело не в том, что я сгрузил всё на сотню. Ключ в том, что я им поручаю

«if somebody says to me that there's gigawatts available or even megawatts available, I'm happy to plug myself in», 54:06 если мне скажут, что есть гигаватты или хоть мегаватты, я с радостью воткнусь

«we license the weight», 56:42 мы лицензируем веса

Факты

• В 2019 году Microsoft вложила миллиард долларов в OpenAI; Наделла оценивает дистанцию как «шесть-семь-восемь лет» назад.
• На Build анонсированы семь новых моделей линии MAI, лицензируемых вместе с весами, с упором на чистую data lineage и без наваливания синтетики.
• Модели описаны Мустафой (Suleyman) с акцентом на чистые данные и отсутствие нарушения копирайта; к ним прилагается подробный технический отчёт.
• Scout - корпоративный «open claw»/autopilot с делегированной identity (intra-ID), способный минтить новые автопилоты со своими песочницами.
• MXC - новый контейнер для sandbox-изоляции OpenClaw; на Windows будет out-of-the-box установка, работали с OpenClaw Foundation (на сцене был Peter).
• NVIDIA анонсировала SoC RTX; Surface laptop на нём выйдет осенью, все OEM получат дизайны.
• Dev box: петафлоп AI-compute, 20 CPU-ядер, 128 ГБ unified memory, локальный запуск модели порядка триллиона параметров; совместно с Jensen запустили Windows на GB300 (DGX workstation, «дата-центровый десктоп»).
• Maya 200 - ускоритель, co-designed с моделями Microsoft и OpenAI; сейчас гоняет GPT-55 в нескольких дата-центрах, питая Copilot ради TCO-преимущества.
• Cobalt - ARM-процессор Microsoft, оптимизируется на трейсах GitHub Copilot под agentic loop; старые GPU дают Fabric 7x+ прирост.
• Majorana - состояние материи, теоретически предсказанное в 1930-х; Majorana 1 (QPU) запущен год назад, Majorana 2 позволяет строить в промышленном масштабе.
• Партнёрство QNorth в Дании: квантовый компьютер на atom computing с Microsoft-стеком ожидается «в течение года».
• Прогноз (хедж «мы заявили»): к концу десятилетия Microsoft рассчитывает построить квантовый компьютер, начинающий решать реальные задачи; 100 логических кубитов с коррекцией ошибок как более близкая веха для synth-данных.
• Открытые веса: вчера выпущены Ion Instruct и Ion Plan (деривативы Phi Silica) для локального agent loop на Windows.
• MAI-модели лицензируются широко: доступны через Base 10 и Fireworks для fine-tune; Наделла отмечает, что даже китайские модели быстро закрываются, а Jensen работает над open-weight моделями.
• Наделла - третий CEO Microsoft, ведущий квантовую программу (20+ лет); пришёл в компанию в 90-х, когда экзистенциальным конкурентом был Novell.

Источники

• Технический отчёт по моделям MAI: Наделла называет его одним из самых прозрачных и детальных документов о всём пайплайне модели такого размера.
• Scaling laws paper (OpenAI): как триггер для ставки на трансформер с большим compute и данными.
• Кэрол Дуэк, работа о growth mindset.
• Nonviolent Communication: практика эмпатии (узнал через чтения жены).
• Herbert Simon, концепция bounded rationality.
• Patterson book (архитектура компьютеров) и дебаты RISC vs CISC: как ориентир момента «переизобретения».
• Hacker News: гайд одного из CS-классов Стэнфорда по использованию coding agents (do's and don'ts).
• GitHub app / Copilot, Canvas: инструменты для управления агентными сессиями.
• Люди/проекты: Mustafa Suleyman (сооснователь DeepMind, «квази-философ»), Jensen Huang (NVIDIA), Dario (ранние дни), MSR с экономистами, моральными философами и социологами.

Рекомендации

• Прочитать технический отчёт по моделям MAI: «многому научитесь».
• Прочитать о Nonviolent Communication, если ещё не читали, и работу Дуэк о growth mindset.
• Студентам: не тратить силы на grade/assignment anxiety, а строить «cognitive coverage»: управлять десятками-сотней агентов и понимать, что они сделали.
• Пересекать при выборе пути две вещи: к чему есть подлинная страсть и что ценит мир; если начинать сейчас: смотреть в сторону железа, оптики в networking и safety/policy вокруг ИИ.

Итог

Побеждает не тот, кто владеет лучшей моделью, а тот, кто оставляет ценность у себя: каждая компания и каждый человек взбираются на собственный холм на своих данных, иначе экосистема схлопнется в игру нескольких фирм и потеряет право на существование.