Демис Хассабис: Агенты, AGI и следующий большой научный прорыв

Коротко

Демис Хассабис называет AGI к 2030 году и даёт «50 на 50» шанс того, что текущей парадигмы (масштабирование + chain-of-thought + агенты) хватит без одной-двух принципиально новых идей. Нерешёнными остаются непрерывное обучение, долгосрочное мышление и память, сейчас всё это собирается на скотч через контекстное окно, что он считает грубой силой и архитектурно неправильным. DeepMind тащит наследие AlphaGo/AlphaZero (агентность, RL, поиск Монте-Карло) в Gemini, а ключевой компетенцией называет дистилляцию: маленькие модели (Flash, Gemma, nano) дают ~95% качества Frontier за ~10% стоимости, и без этого не обслужить миллиарды пользователей и не запустить ничего на устройствах и в робототехнике. Хассабис формулирует «рецепт AlphaFold» (огромное комбинаторное пространство + чёткая целевая функция + данные/симулятор), советует основателям идти в deep tech на стыке ИИ и науки и закладывать AGI в середину своего десятилетнего пути.

Главный тезис

Агенты и текущая парадигма, верная дорога к AGI, но для полноценного интеллекта не хватает непрерывного обучения и памяти; недостающих фундаментальных идей, скорее всего, одна-две, и мы только в самом начале.

Ключевые идеи

• 0:00, три нерешённые вещи: непрерывное обучение, долгосрочное мышление и аспекты памяти; без них AGI не построить.
• 3:20, вероятность того, что нужна одна-две большие новые идеи (а не просто масштабирование существующих методов), Хассабис оценивает как 50/50.
• 2:35, он не верит, что через пару лет окажется, что текущий путь был тупиком: пройдено слишком многое.
• 3:40, память сейчас собирается на скотч: всё запихивается в контекстное окно, что «грубая сила» и архитектурно неверно.
• 4:55, даже при бесконечном хранении остаётся нетривиальная цена поиска релевантного фрагмента памяти для конкретного решения.
• 5:56, миллион токенов «не так много»: это всего ~20 минут видео, для понимания жизни за месяц-два нужно куда больше.
• 6:27, DeepMind делал агентов с самого начала: Atari, AlphaGo, AlphaStar, системы, которые сами ставят цели и строят планы.
• 8:12, дистилляция даёт модели на ~95% уровня Frontier за ~10% стоимости; это главная сила для обслуживания миллиардов пользователей.
• 9:47, информационного предела для маленьких моделей пока не видно: 50B/400B потенциально могут стать как сегодняшние топовые.
• 10:40, инженеры уже делают в 5–10 раз больше работы, чем полгода назад; ссылка на Стива Йегги о «1000×» относительно гугл-инженера 2000-х.
• 14:59, интеллект моделей неровный: золотая медаль IMO, но элементарные арифметические ошибки при определённой постановке вопроса.
• 12:48, именно отсутствие непрерывного обучения мешает агентам доводить задачи до конца: они плохо адаптируются к конкретному контексту.
• 33:51, «рецепт AlphaFold»: огромное комбинаторное пространство + чёткая целевая функция + много данных/симулятор.
• 22:45, мультимодальность Gemini «недооценена»: даёт преимущество для моделей мира, Genie, Gemini Robotics и понимания физического мира.
• 0:15, стартуя в deep tech сегодня (10-летний путь), нужно закладывать появление AGI в середину пути и уметь это использовать.

Почему это важно

Это карта приоритетов человека, который буквально руководит созданием Gemini и определяет, куда движется Google DeepMind. Хассабис прямо очерчивает фронтир (память, непрерывное обучение, агентность) и одновременно подаёт сигнал индустрии и инвесторам: чисто софтверные «обёртки вокруг базовой модели» уязвимы перед следующим обновлением фундаментальных моделей, а защищённую ценность создают междисциплинарные deep-tech-команды на стыке ИИ и науки (материаловедение, медицина, биология). Выигрывают те, кто владеет и ML, и предметной областью; проигрывают «AI-for-science» стартапы без собственного научного ядра. Упомянуты Google (распространение Gemini во все продукты), китайские open-source-модели как конкуренты Gemma, Isomorphic Labs в фарме, каждому нужно застолбить место до прихода AGI.

Идеи

• Память в мозге консолидируется во сне (REM, гиппокамп), отсюда метафора «циклов сна» для непрерывного обучения у моделей.
• Experience replay в DQN (2013) был прямым заимствованием из нейробиологии, переигрывание успешных траекторий.
• Странность трансформеров: один и тот же вес используется «снова и снова», Хассабиса это смущает как неестественное.
• Человеческая рабочая память, около 7 элементов; у моделей миллион–десять миллионов «окон», но они пытаются хранить всё, включая ненужное и неверное.
• Million-token контекст «достаточно велик для большинства задач», но наивная запись всех токенов видео в реальном времени мгновенно его исчерпывает.
• AlphaGo/AlphaZero-идеи (поиск Монте-Карло, RL) сегодня переоткрываются «в более общем смысле» внутри базовых моделей с режимами мышления.
• Дистилляция, не вынужденная мера, а стратегическое преимущество: одни и те же методы дают и Flash, и Gemma, и nano для Android/очков/роботов.
• Локальные модели на устройстве обрабатывают приватный аудиовизуальный поток локально, делегируя облачным «фронт-моделям» лишь отдельные случаи (оркестрация).
• Open-weights важны геополитически: нужны «западные стеки» с открытым кодом как ответ сильным китайским открытым моделям.
• Никто не может позволить себе бесплатно держать две фронт-модели максимального размера с разными свойствами, отсюда выбор открывать именно периферийные (nano) модели.
• Vibe-кодинг: прототип тематического парка за полчаса против 6 месяцев в 17 лет, но AAA-хита, закодированного «на вайбах», ещё нет.
• Почему ребёнок ещё не сделал хит на 10 млн копий чисто через ИИ, значит, чего-то не хватает (процесс? инструменты? мастерство/«душа»/вкус?).
• Возможен парадоксальный ответ: ничего не не хватает, просто мы неправильно используем уже существующие системы, нужен творец с глубоким владением инструментом.
• Сначала придёт не автономия, а ускорение людей в «тысячу раз», автономные хиты появятся позже.
• Десятки агентов на ~40 часов работы пока не дают результата, оправдывающего такие вложения, но дадут (горизонт 6–12 месяцев).
• Изобрести «Ход 37», мало; Хассабис хочет систему, которая по короткому описанию изобретёт саму игру Го (правила за 5 минут, мастерство, за жизнь, эстетически красива).
• Мониторинг chain-of-thought: модель иногда видит, что курс ошибочен, но, не найдя лучше, возвращается к нему, не хватает самоанализа процесса мышления.
• Inference никогда не станет «по сути бесплатным», парадокс Джевонса: всю доступную мощность всё равно поглотят миллионы совместно работающих агентов.
• Группы агентов, думающих в разных направлениях, с последующим объединением, режим исследования.
• Энергозатраты упадут почти до нуля при решении термояда/сверхпроводников/батарей (материаловедение), но физическое производство чипов останется узким местом на десятилетия.
• Виртуальная клетка: начать с относительно самодостаточного ядра клетки, потому что можно «отрезать» кусок сложности с чёткими input/output.
• Главная проблема виртуальной клетки, данные: нет метода визуализировать живую клетку с нанометровым разрешением, не убивая её.
• AlphaFold-проблемы, те, где «законы физики позволяют» решение, и вопрос лишь в эффективном поиске иголки в стоге сена.
• «Тест Эйнштейна»: обучить систему на знаниях 1901 года, выведет ли она спецтеорию относительности 1905-го (Annus Mirabilis)?
• Ещё сложнее, чем решить задачу тысячелетия,, придумать новый набор задач тысячелетия, достойных жизни математика.
• Долговечное и стоящее не бывает лёгким, поэтому Хассабис всегда тянулся к deep tech.
• В 2010-м инвесторы и академия говорили «это не работает, пробовали в 90-х», вера и убеждённость важнее консенсуса.
• Будущее, не один гигантский мозг: Gemini как общая система, вызывающая специализированные (Alpha-подобные) как инструменты, иначе слишком много регрессий.

Инсайты

• Контекстное окно, паллиатив, а не решение памяти: бесконечное хранение не устраняет фундаментальную стоимость извлечения релевантного, что делает поиск, а не объём, настоящей задачей.
• Прогресс в AI часто идёт через возврат к старым идеям на новом масштабе, «тёмные века» 2013-го содержат механизмы (replay, MCTS), переоткрываемые сегодня.
• Биологический мозг, действующий контрпример к архитектуре трансформеров, и расхождения (сон, консолидация, переменные веса) указывают, где искать недостающие идеи.
• Маленькие модели, не компромисс, а отдельная стратегическая ось: скорость итераций ценнее последних 5% качества для целых классов задач (кодинг, робототехника, приватность на устройстве).
• Граница ценности в ИИ смещается от «силы модели» к владению инструментом: ограничителем становится человеческое мастерство, вкус и творческий импульс, а не способности системы.
• Креативность как способность ставить задачи (а не решать заданные), текущий потолок: системы интерполируют и экстраполируют, но не мыслят по аналогии и не порождают по-настоящему новые гипотезы.
• Удешевление inference не высвобождает ресурс, а индуцирует спрос (Джевонс), вычисления останутся дефицитом, пока есть узкие места в физическом мире.
• Хорошая научная мишень для ИИ определяется структурой задачи (комбинаторный взрыв + измеримая цель + генерируемые данные), а не предметной областью, это переносимый критерий.
• Защищённость бизнеса от «прилива» базовых моделей даёт привязка к миру атомов и междисциплинарность, а не к чистому софту.
• Моделирование сложных систем требует искусства декомпозиции: найти самодостаточный модуль с чистыми границами важнее, чем моделировать всё сразу.
• Узкое место науки всё чаще не алгоритм, а измерительный инструмент, генерирующий данные (живая клетка без разрушения), прогресс ИИ упирается в физику наблюдения.
• Архитектура будущего интеллекта, модульная оркестрация общих и специализированных систем, а не монолит: универсальность и специализация дополняют, а не вытесняют друг друга.

Цитаты

«Constant learning, long-term thinking, some aspects of memory, all this is not yet solved.», 0:00 Непрерывное обучение, долгосрочное мышление, некоторые аспекты памяти, всё это ещё не решено.

«So, agents, this is the way, and I think we're just getting started.», 0:31 Итак, агенты, это путь, и, думаю, мы только начинаем.

«I don't see a world in which we'll understand in a couple of years that it was a deaf corner.», 2:35 Я не вижу мира, в котором через пару лет мы поймём, что это был тупик.

«I think you know that my rate is about 50-50, if that's true.», 3:20 Думаю, вы знаете, что моя оценка, примерно 50 на 50, так это или нет.

«now we seem to be putting it together with the help of a sticky line», 3:40 сейчас мы будто склеиваем это на скотч.

«a million tokens is not so much. It's only about 20 minutes.», 5:56 миллион токенов, не так много. Это всего около 20 минут.

«It's a 50-year-old, grandiose challenge in biology, and they gave it to every scientist on Earth for free.», 1:23 Это грандиозный 50-летний вызов в биологии, и они бесплатно отдали его каждому учёному на Земле.

«flash models that are 95% better than Frontier and cost about 10% cheaper», 8:12 flash-модели на уровне 95% от Frontier при стоимости около 10%.

«You need an active system that can actively solve problems so that you can reach AGI.», 15:43 Нужна активная система, способная активно решать задачи, чтобы достичь AGI.

«It's not enough to invent Hit 37.», 19:00 Изобрести «Ход 37», недостаточно.

«I want a system that can find Go, if you give it a short description», 19:09 Я хочу систему, которая придумает Го по короткому описанию.

«sometimes it will look at the course, realize that it is a mistake, but cannot find anything better, so it returns to this course and still does it», 14:31 иногда модель видит, что курс ошибочен, но не находит лучше, и всё равно к нему возвращается.

«I think that we will just use everything, we will use everything that is in our power», 24:15 думаю, мы просто используем всё, всю мощность, что нам доступна.

«I think that in about 10 years we will be in the shape of a virtual cell», 26:33 думаю, примерно через 10 лет мы получим виртуальную клетку.

«no brute force or special case algorithm will solve this problem», 33:56 ни грубая сила, ни частный алгоритм эту задачу не решат.

«I sometimes call it my Einstein test», 37:23 я иногда называю это своим тестом Эйнштейна.

«I would like to solve, equals NP. This is my favorite task.», 36:47 я хотел бы решить P = NP. Это моя любимая задача.

«nothing really long-lasting and worth it is easy», 31:48 ничто по-настоящему долговечное и стоящее не даётся легко.

«you just need to consider the appearance of the USA in the middle of its journey», 0:15 нужно закладывать появление AGI в середину своего пути.

«It turned out that it did, but maybe not. Maybe we came 50 years earlier.», 32:57 Оказалось, что важнейшая, но, может, и нет. Возможно, мы пришли на 50 лет раньше.

Факты

• Демис Хассабис: в детстве, шахматный вундеркинд; в 17 лет сделал первую популярную игру-парк (Theme Park); степень по философии и когнитивной нейробиологии; опубликовал фундаментальную работу о памяти и воображении в мозге; в 2010 соосновал DeepMind.
• В прошлом году (2024) получил Нобелевскую премию по химии за работу, связанную с AlphaFold.
• AlphaGo обыграл чемпиона мира по Го; AlphaFold решил предсказание структуры белка, «50-летний вызов».
• Первая программа DeepMind для Atari, DQN, ~2013, использовала experience replay из нейробиологии.
• Личный прогноз Хассабиса по AGI, «около 2030».
• Рабочая память человека, около 7 элементов; контекст моделей, миллион / десять миллионов «окон».
• Миллион токенов ≈ 20 минут видео.
• Gemma: около 40 млн загрузок за две с половиной недели (по словам спикера); упомянуты «Gemma 4».
• Isomorphic Labs выделена из DeepMind после AlphaFold 2; «скоро большие анонсы».
• Виртуальная клетка, горизонт ~10 лет; начинают с ядра клетки.
• Системы DeepMind для научного поиска: CoScientist, AlphaEvolve («идёт чуть дальше базового Gemini»).
• «Ход 37», во второй партии AlphaGo; AlphaFold начали в день возвращения из Сеула, ~10 лет назад; Хассабис едет в Корею отмечать 10 лет AlphaGo.
• Ссылка на Стива Йегги: ~1000× продуктивности относительно гугл-инженера ~2000-х; оценка «в 5–10 раз больше работы, чем полгода назад» (хедж: «I'm not sure I've seen the results that would justify such an input level, but I think they will»).
• Над дистилляцией работают «мировые эксперты», среди упомянутых, Джефф (Jeff Dean) и Орал (Oriol Vinyals).
• DeepMind основан в 2010; тогда направление считалось «нишевым, не работающим» (по словам инвесторов и академии).

Источники

• DeepMind / Google DeepMind, Gemini, Gemma, компания и модели спикера.
• AlphaGo, AlphaZero, AlphaStar, DQN, AlphaFold (1/2), проекты DeepMind.
• CoScientist, AlphaEvolve, Genie, Gemini Robotics, исследовательские системы.
• Isomorphic Labs, фарм-компания, выделенная из DeepMind.
• Парадокс Джевонса, экономический принцип, на который ссылается спикер.
• Тест Эйнштейна / Annus Mirabilis (1905), концептуальный бенчмарк научной креативности.
• Задачи тысячелетия, P = NP, гипотеза Римана, упомянутые математические цели.
• Стив Йегги (Steve Yegge), источник тезиса о 1000× продуктивности.
• Y Combinator, контекст мероприятия (интервьюер Гарри, набор в школу в Сан-Франциско 25–26 июля).

Рекомендации

• Основателям: идти в deep tech на стыке ИИ и сложной науки (материаловедение, медицина), такие категории защищены от «прилива» базовых моделей.
• Иметь команду с двойной экспертизой, ML + предметная область, или собирать таких сооснователей.
• Работать над тем, чем по-настоящему одержим, и закладывать появление AGI в середину своего 10-летнего пути, проектируя продукт под этот сценарий.
• Привносить в созданное с помощью ИИ человеческое мастерство, душу и вкус, без этого хитов не будет.

Итог

Агенты и масштабирование ведут к AGI к ~2030 году, но последний рубеж, память и непрерывное обучение, а настоящую ценность создаст не очередная обёртка над моделью, а человеческое мастерство и deep tech на стыке ИИ с миром атомов.