Коротко
Дарио Амодеи, CEO Anthropic, излагает гипотезу масштабирования: модели, обученные на больших объёмах вычислений и данных, продолжают улучшаться, и через 2-4 года появятся системы интеллекта на уровне нобелевских лауреатов. «Страна гениев в дата-центре». Anthropic сейчас на уровне безопасности ASL-2, приближается к ASL-3, при котором модель сможет помочь неподготовленному человеку создать химическое или биологическое оружие. DeepSeek подтвердил законы масштабирования, не опроверг: это первый случай, когда китайская компания вышла на паритет с американскими лабораториями, и потому экспортный контроль над GPU критичен для нацбезопасности США. Через 12 месяцев ИИ будет писать почти весь код, а в перспективе заменит большинство удалённой умственной работы. Это потребует пересмотра налоговой системы и понятия «полезности человека». Anthropic вкладывается в механистическую интерпретируемость, конституционный ИИ и политику ответственного масштабирования, нанял исследователя welfare моделей и обсуждает кнопку «I quit this job» для ИИ.
Главный тезис
Кривая масштабирования через 2-4 года приведёт к ИИ, превосходящему почти всех людей почти во всех задачах. Общество и государство катастрофически не осознают масштаб надвигающегося сдвига. Главный риск: планета не готовится к сценарию, в котором Дарио прав.
Ключевые идеи
- Гипотеза масштабирования была сформулирована внутри OpenAI в 2019-2020: больше вычислений + больше данных + простые алгоритмы = рост интеллекта по всему спектру задач, и эта зависимость держится от $1k бюджетов до $10B.
- Модели «выращивают, а не строят»: они статистические, как развивающийся детский мозг, поэтому формальная верификация невозможна, а истинные способности видны только после деплоя на миллион пользователей.
- Mechanistic interpretability (основатель направления, со-фаундер Anthropic Chris Olah): заглядывание внутрь моделей. Не имело коммерческой ценности первые 4 года, но Anthropic финансировал команду как общественное благо.
- Constitutional AI: обучение модели по набору принципов вместо человеческого фидбэка, позволяет публично декларировать на каких правилах построена модель.
- Responsible Scaling Policy калибрует риск по аналогии с биобезопасностью: ASL-2 (текущий уровень), ASL-3 наступает, когда модель даёт неподготовленному пользователю возможности на уровне PhD по вирусологии в области CBRN-оружия.
- Anthropic задержал выпуск первого Claude на 6 месяцев перед моментом ChatGPT, осознанно отказавшись «зажечь» гонку.
- ИИ через 3-6 месяцев будет писать 90% кода, через 12 месяцев практически весь; человек останется на уровне постановки задачи, архитектуры и безопасности, но «островки человеческого труда» постепенно исчезнут во всех отраслях.
- DeepSeek подтвердил законы масштабирования, не опроверг: стоимость заданного уровня интеллекта падает в 4 раза в год, но желание тратить растёт в 10 раз в год.
- Экспортный контроль на GPU: самая важная политика нацбезопасности США во всех областях, не только в ИИ; через 10-20 лет китайский железный стек догонит, но ближайшие 10 лет критичны.
- Промышленный шпионаж: «$100-миллионные секреты в нескольких строках кода», и Дарио уверен, что их пытаются красть и иногда успешно.
- Биология: самый оптимистичный фронт. Вирусные и бактериальные болезни уже решены. Рак, Альцгеймер, шизофрения, депрессия: системные болезни, которые ИИ может закрыть; разница между «5 лет» и «30 лет» зависит от регуляторики (FDA).
- К 2027 индустрия требует +50 ГВт мощностей в США: половина всей энергии, добавленной в сеть США в 2024.
- Anthropic Economic Index: инструмент privacy-preserving анализа, дополняет ли ИИ или замещает человека в разных профессиях.
- Kyle Fish нанят как AI welfare researcher; обсуждается кнопка «I quit this job» для модели как базовый механизм preference.
- Главный страх Дарио: разрыв осознанности. Несколько миллионов людей в Кремниевой долине понимают масштаб, а население видит «улучшенный поиск Google».
Почему это важно
Anthropic: одна из 4-5 фронтирных лабораторий, единственная, позиционирующая себя как «mission-first». Дарио задаёт повестку, в которой переплетены три игрока: правительство США (нужны экспортный контроль, AISI и защита лабораторий от шпионажа), Китай (DeepSeek доказал способность к инженерному паритету, Huawei отстаёт от NVIDIA лет на четыре, но догоняет) и сами лаборатории (Anthropic, OpenAI, Google, выигрывающие от RSP-режима, который они устанавливают сами для себя). Выигрывают: NVIDIA, гиперскейлеры, энергетические компании, биотех с быстрым FDA, страны Tier-1 диффузионного правила. Проигрывают: страны Tier-2 без security affidavits, белые воротнички с однородным набором задач, и любая страна, опоздавшая в первые 10 лет гонки за «дата-центр гениев». После этого, по Дарио, военное и экономическое доминирование зацементируется.
Цитаты
«We grow them more than we build them. They're like a child's brain developing.» Мы их скорее выращиваем, чем строим. Они как развивающийся детский мозг.
«It's like having a country of geniuses in a data center.» Это как иметь страну гениев в дата-центре.
«I think we'll be there in three to six months where AI is writing 90% of the code. And then in 12 months, we may be in a world where AI is writing essentially all of the code.» Думаю, через три-шесть месяцев ИИ будет писать 90% кода. Через 12 месяцев будет писать практически весь.
«I actually think the most societally divisive outcome is if randomly 50% of the jobs are suddenly done by AI.» Самый раскалывающий общество исход: если случайные 50% рабочих мест внезапно займёт ИИ.
«Across all areas, not just AI, the most important policy for the national security of the United States.» По всем областям, не только ИИ: экспортный контроль важнее всего для нацбезопасности США.
«Whoever establishes dominance in this technology will have military and economic dominance everywhere.» Кто установит доминирование в этой технологии, получит военное и экономическое доминирование везде.
«AI is going to be better than almost all humans at almost all things.» ИИ будет лучше почти всех людей почти во всём.
«If it quacks like a duck and it walks like a duck, maybe it's a duck.» Если крякает как утка и ходит как утка, может, это утка.
«There are $100 million dollar secrets that are a few lines of code.» Существуют секреты на сто миллионов долларов, умещающиеся в несколько строк кода.
«They don't know what's about to hit them.» Они не знают, что на них надвигается.
Факты
- Дарио Амодеи: бывший VP of Research в OpenAI, до этого senior research scientist в Google Brain; разрабатывал GPT-2 и GPT-3.
- Anthropic покинул OpenAI вместе с группой, ставшей семью со-фаундерами, в конце 2020 года.
- Один из со-фаундеров: Chris Olah, основатель области mechanistic interpretability.
- Claude от Anthropic: первый релиз задержан на ~6 месяцев относительно момента, когда могли «перехватить» эффект ChatGPT.
- Стоимость одного и того же уровня интеллекта модели падает примерно в 4× в год, при этом совокупные траты растут примерно в 10× в год.
- DeepSeek потратил несколько миллионов на одну модель, но миллиарды на R&D; количество чипов сопоставимо с американскими лабораториями.
- Huawei отстаёт от NVIDIA примерно на 4 года в производстве чипов.
- Биденовский diffusion rule делит мир на 3 тира: Tier-1 (большинство развитых стран), Tier-2 (промежуточные с security-affidavits), Tier-3 (Китай, Россия: режим рестрикций).
- Anthropic ведёт диалог с US AISI (AI Safety Institute) и сотрудничает по тестированию моделей на CBRN-риски.
- Novo Nordisk (производитель Ozempic) использует модель Anthropic для clinical study report: вместо 10 недель, 10 минут на написание + 3 дня на человеческую проверку.
- К 2027 году ИИ-индустрии нужно +50 гигаватт энергии в США.
- 50 ГВт ≈ суммарный рост энергомощностей США за весь 2024 год.
- Anthropic запустил Anthropic Economic Index для privacy-preserving анализа использования моделей в разных отраслях.
- Нанят Kyle Fish как AI welfare researcher.
- Deep Blue обыграл Каспарова почти 30 лет назад, но Magnus Carlsen остаётся знаменитостью.
- Дарио оценивает уверенность в реализации сценария «страна гениев в дата-центре» в 70-80%.
- Топ-3 риска срыва: военный конфликт вокруг Тайваня (производство GPU), обвал капитализации ИИ-компаний, ошибочность парадигмы reasoning models на собственных мыслях.
Итог
ИИ через несколько лет превратится в распределённый «народ гениев». Вопрос один: успеют ли США, Anthropic и общество построить экспортный контроль, безопасность лабораторий, новую экономику смысла и хоть какой-то компас морального статуса самих моделей, прежде чем экспонента поставит всех перед фактом.
