Чёрная дыра данных в центре AI

Коротко

Главный двигатель прогресса ИИ — не архитектура и не трюки обучения, а данные: их объём, ширина распределения и компьют, который их перемалывает. Современные модели обучены на триллионах токенов, тогда как человек за всю жизнь видит порядка 200 миллионов — поэтому сравнивать «бедную» человеческую жизнь с холодно стартующей LLM, начинающей со случайной инициализации, нечестно. Спикер настаивает: эволюция уже подобрала за нас гиперпараметры и loss-функцию, а геном весит всего 3 ГБ, так что человеческая sample efficiency на тысячи-лакхи раз выше, и простым увеличением размера модели этот разрыв не закрыть. RL-обучение упирается в дорогую индустрию разметки — десятки тысяч человеческих экспертов на каждый навык, рынок которой растёт от миллионов к десяткам миллиардов. Но лабам человеческая эффективность по данным и не нужна: модель обучают раз гигаваттным прогоном, а плоды разворачивают в каждой сессии — поэтому белые воротнички автоматизируются, а настоящее узкое место — sample efficiency самого ИИ-исследователя.

Главный тезис

Прогресс ИИ держится на данных — их распределении и объёме, а не на хитростях архитектуры; человек радикально эффективнее по данным потому, что эволюция уже сделала за него предобучение, и это та самая разница, которую лабам предстоит взломать.

Ключевые идеи

• 0:19 — главный способ улучшать ИИ: накидывать данные и наращивать компьют для их обработки, остальное вторично.
• 0:39 — RL работает как предобучение наоборот: модель учат предсказывать удачные роллауты так же, как раньше предсказывали текст интернета.
• 0:53 — для каждого домена нужны сотни живых экспертов, которые создают примеры и проговаривают ход своих мыслей; без этого приора в модели решение не найти.
• 1:05 — реальность разметки видна в вакансиях Mercor и Surge: юристы пишут настоящие M&A-филинги, профильные специалисты полируют документы для обучения.
• 2:17 — правильная метафора модели не «человек, освоивший много навыков», а Франкенштейн, бережно сшитый из размеченных кусков.
• 2:24 — по Epoch открытые модели отстают на четыре месяца, и причина — именно данные.
• 2:34 — данные дистиллируются из публичных API, а гиперпараметры и архитектурные оптимизации — нет; будь главным драйвером последнее, догонять было бы куда труднее.
• 3:07 — ИИ выглядит как яркая звезда, но в центре — невидимая чёрная дыра данных, которую легко недооценить.
• 3:23 — человек за жизнь видит ~200 млн токенов, фронтир-модель — триллионы; масштаб несопоставим.
• 4:34 — сравнивать скудные данные жизни с холодно стартующей LLM на случайной инициализации — несправедливо.
• 4:46 — геном всего 3 ГБ, кодирующих 1-2%; эволюция уже подобрала гиперпараметр и loss-функцию, человек лишь достраивает связи в мозге.
• 5:58 — возражение про мультимодальность бьётся фактом: слепоглухие сохраняют тот же интеллект, значит сенсорные токены — не источник ума.
• 6:35 — в мозге ~100 трлн синапсов, во фронтир-модели ~5 трлн параметров; но Chinchilla показывает, что апскейл не закроет разрыв.
• 7:23 — человек на тысячи-лакхи раз эффективнее по данным; люди просто лежат вне scaling-кривой.
• 9:56 — ИИ не нужна человеческая эффективность: учишь раз гигаваттным прогоном, разворачиваешь в каждой сессии — поэтому обучать выгодно даже на «обычных» задачах.
• 10:44 — несмотря на автоматизацию, спрос на софтвер-инженеров будет выше сегодняшнего из-за комплементарности с ИИ.

Почему это важно

Если двигатель прогресса — данные, а не секретный соус архитектуры, то конкурентный ров фронтир-лаб мельче, чем кажется: всё, что отдаётся через публичный API, можно дистиллировать, и открытые модели отстают лишь на месяцы. Выигрывает индустрия разметки — Mercor, Surge и им подобные, чей рынок растёт от миллионов к десяткам миллиардов, потому что каждый новый навык требует сотен живых экспертов. Лабам это задаёт приоритет: сперва автоматизировать белые воротнички (где обучить один раз и развернуть везде дёшево), а затем взломать sample efficiency самого ИИ-исследователя — именно это, а не размер модели, спикер считает настоящим узким местом на пути к быстрому развитию.

Идеи

• RL — это по сути то же предобучение, только цель предсказания смещена с интернет-текста на удачные роллауты.
• Чтобы RL вообще запустился, в модели уже должен лежать приор, способный наткнуться на правильное решение — иначе искать не от чего.
• Данные должны быть не просто доменными, а доменными в огромном количестве: сотня экспертов на один навык.
• Эксперты не просто дают ответ — они разворачивают цепочку рассуждений, и именно это попадает в обучение.
• Рынок специализированной разметки и RL-сред исчисляется уже десятками миллиардов и растёт.
• Открытые модели отстают на ~4 месяца — ровно столько нужно, чтобы вытащить данные фронтира через API.
• То, что отставание измеряется месяцами, само по себе доказывает: дело в данных, а не в неповторимых трюках.
• Геном в 3 ГБ — это не чертёж готовой нейросети, а удачный набор гиперпараметров и функции потерь.
• Эволюция — это и есть предобучение человечества; жизнь отдельного человека — лишь дообучение.
• Слепоглухие люди как естественный эксперимент: сенсорный поток вычитается, интеллект остаётся.
• Глухой человек получает порядка 200 млн языковых токенов через жесты и чтение — и этого хватает.
• Chinchilla: даже при бесконечном росте параметров данных нужно лишь в 10 раз меньше — апскейл не спасает.
• Люди лежат вне scaling-кривой, поэтому к ним нельзя применять логику «больше параметров = ближе к человеку».
• Часть профессий (банковский операционист, турагент) технологизировали ещё до ИИ — они стабильны по распределению данных.
• Софтвер-инженерия каждый день имеет дело со сдвигом распределения — поэтому ИИ возьмётся за неё первой.
• Парадокс: ИИ заберёт работу софтвер-инженера и при этом поднимет спрос на софтвер-инженеров.
• Человеку бессмысленно «учиться», если перед работой надо прочесть весь публичный GitHub — а ИИ именно так и делает.
• Ключевой ROI лаб — затащить рутинные офисные задачи в обучение, даже если человек так учиться не способен.
• Настоящая цель — не белые воротнички, а автоматизация самого ИИ-исследования.
• Главный нерешённый вопрос: может ли существовать ИИ без человеческой sample efficiency, но решающий исследовательские задачи.
• Дискуссия об интеллект-взрыве сломана: люди либо отрицают прогресс, либо верят в богоподобие, игнорируя промежуток.
• Спикер сознательно откладывает разбор интеллект-взрыва на отдельный будущий пост.

Инсайты

• Архитектурный ров неглубок: всё, что воплощено в выходах модели, утекает через API, поэтому конкурентное преимущество смещается от инженерии к проприетарным данным.
• Дороговизна интеллекта сегодня — это дороговизна экспертной разметки, а не вычислений; узкое место в людях, которых надо нанять думать вслух.
• Сравнение «человек учится на крохах, а машине нужны триллионы» некорректно методологически: оно сравнивает дообучение человека с обучением модели с нуля.
• Эволюция и обучение модели — один и тот же процесс на разных временных горизонтах; разница в том, кто оплатил предобучение.
• Интеллект слабо зависит от богатства сенсорного входа — язык несёт основную информационную нагрузку.
• Масштабирование размера не эквивалентно приближению к человеку, потому что человеческая эффективность по данным находится в другой точке пространства.
• Экономика ИИ ломает человеческую логику обучения: амортизация одного дорогого прогона по бесконечному числу развёртываний делает выгодным обучение тому, чему человека учить было бы абсурдно.
• Уязвимость профессии к автоматизации определяется не сложностью, а стабильностью распределения данных в ней.
• Автоматизация и рост спроса на профессию совместимы, когда ИИ выступает комплементом, а не субститутом.
• Подлинная ставка в гонке — не автоматизация офисного труда, а замыкание петли самоулучшения через ИИ-исследователя.
• Публичный дискурс об ИИ поляризован до бинарности, и это мешает увидеть динамику самого перехода.

Цитаты

«The main way AI is improving is to add data as much as possible and to increase the compute to develop that data» — 0:19 Главный способ улучшения ИИ — добавлять как можно больше данных и наращивать компьют, чтобы их освоить

«It is like a Frankenstein's demon, which has been carefully made» — 2:17 Это как демон Франкенштейна, бережно собранный по кускам

«Eppoch recently said that open models are four months behind the modern frontier models» — 2:24 Epoch недавно сказали, что открытые модели отстают от фронтира на четыре месяца

«data is the real driver of progress» — 2:34 Данные — настоящий двигатель прогресса

«We see AI as a shining star of the sky. But in their center... The data has an unimaginable black hole» — 3:07 Мы видим ИИ как сияющую звезду в небе, но в её центре — невообразимая чёрная дыра данных

«this frontier model is trained on trillions of tokens» — 3:26 Этот фронтир-модель обучен на триллионах токенов

«Our genome is only 3 GB big. And it has only 1-2% protein coding» — 4:46 Наш геном всего 3 ГБ, и кодирующих белок в нём лишь 1-2%

«blind and deaf people who are cut off from all sensor information, they still have the same intelligence» — 5:58 Слепоглухие люди, отрезанные от всей сенсорной информации, сохраняют тот же интеллект

«there are about 100 trillion synapses in the human brain. And we have a frontier model of about 5 trillion parameters» — 6:35 В человеческом мозге около 100 триллионов синапсов, а у нас фронтир-модель примерно на 5 триллионов параметров

«The number of human models is thousands to lakhs of times more sample efficient» — 7:23 Человек на тысячи-лакхи раз эффективнее по данным

«AI can learn this skill by giving a gigawatt training at once» — 9:56 ИИ осваивает навык за один гигаваттный прогон обучения

«I can bet that the demand of 2000 software engineers will be far higher than today» — 10:44 Готов поспорить, что спрос на софтвер-инженеров будет куда выше сегодняшнего

«either people completely eliminate AI's progress or they believe that there is only God» — 11:22 Люди либо полностью отрицают прогресс ИИ, либо верят, что есть только бог

Факты

• Человек примерно за час видит и слышит ~2000 слов; за всю жизнь это около 200 миллионов токенов.
• Фронтир-модели обучены на триллионах токенов — на порядки больше человеческого опыта.
• Epoch оценивает отставание открытых моделей от фронтира в четыре месяца (по словам спикера).
• Геном человека весит 3 ГБ, кодирующая белок часть — 1-2%.
• В человеческом мозге около 100 триллионов синапсов; во фронтир-модели — около 5 триллионов параметров.
• По Chinchilla Scaling Law: при росте параметров к бесконечности данных нужно лишь в 10 раз меньше для того же loss.
• Глухой человек, общающийся жестами и чтением, получает порядка 200 миллионов языковых токенов — спикер называет это очень малым.
• Рынок специализированной разметки и RL-сред растёт от миллионов к десяткам миллиардов в год (формулировка спикера, оценочно).
• В вакансиях Mercor и Surge ищут юристов для написания реальных M&A-филингов и профильных специалистов для полировки документов.
• Примеры профессий, технологизированных ещё до ИИ: банковский операционист и турагент.
• Рекламная вставка: Mercury (финтех, не банк) и его ИИ-ассистент Command для управления финансами бизнеса.

Источники

• Epoch AI — оценка отставания открытых моделей.
• Mercor, Surge (Surge AI) — компании по разметке и подбору доменных экспертов.
• Chinchilla Scaling Law — статья DeepMind о соотношении параметров и данных.
• Mercury / Command — банковская платформа и её ИИ (рекламный сегмент), mercury.com.
• Личный блог и рассылка спикера (анонс будущего поста об интеллект-взрыве).

Итог

Интеллект ИИ — это сжатый океан данных вокруг невидимой чёрной дыры разметки; человек кажется чудом эффективности лишь потому, что его предобучение оплатила эволюция, и взломать эту разницу, а не нарастить параметры, — вот настоящая задача лаб.