Майкл Левин: Скрытая реальность внеземного разума и биологической жизни | Lex Fridman Podcast #486

Коротко

Майкл Левин сносит границу между живым и неживым, разумом и механизмом. Для него всё это континуум, а категории вроде «нейрон», «взрослый», «биология против физики» чаще тормозят науку, чем помогают. Центральный инструмент, спектр «убеждаемости», требует не философствовать из кресла, а ставить эксперименты: выставить барьер между системой и её целью и смотреть, насколько изобретательно она его обходит. Он вводит понятие когнитивного светового конуса, размера самой большой цели, которую агент способен активно преследовать, и показывает, как клетки, ксеноботы и даже алгоритм сортировки демонстрируют неожиданные компетенции, за которые никто не платил вычислительно. Отсюда его самая радикальная ставка: разум не создаётся мозгом, а «входит» в физический интерфейс из платонического пространства паттернов, точно так же как математические истины «преследуют» физические объекты. Практический выход всего этого не философия, а регенеративная медицина, борьба со старением и перепрограммирование рака через переубеждение клеток.

Главный тезис

Разум, агентность и жизнь не отдельные категории с чёткими границами, а точки на едином спектре когниции. Мерить его нужно не декларациями, а экспериментами. И то, что мы называем умом, скорее всего не порождается материей, а проявляется через неё, из структурированного пространства паттернов.

Ключевые идеи

• 3:35 - убеждаемость это инженерная замена слову «интеллект»: где система на спектре, нельзя решить из кресла, надо выдвинуть гипотезу об инструментах и проверить, сработало ли.
• 9:10 - физика всегда видит механизм, а не разум, потому что использует низкоагентные инструменты (вольтметры, линейки); чтобы увидеть ум, нужен резонанс интерфейса с искомым.
• 14:18 - линии между живым и неживым нет, есть континуум; категории удобны, пока не теряешь из виду то, что они замалчивают.
• 26:27 - то, что масштабируется во всех системах, это когнитивный световой конус: размер самой большой цели, которую можно активно преследовать, а не дальность сенсоров.
• 28:36 - живое это когда когнитивный конус целого больше, чем у его частей; клетки со слепыми целями складываются в коллектив, который знает, сколько должно быть пальцев.
• 33:21 - интеллект измеряется изобретательностью в обходе барьеров между системой и её целью; сначала ставишь барьер, потом узнаёшь уровень ума.
• 1:00:36 - определение интеллекта по Уильяму Джеймсу: та же цель разными путями; открытые модели-автоматы этого не дают, а развитие даёт, значит там есть цель.
• 1:02:17 - они нашли, где закодированы анатомические цели (биоэлектрически), и умеют их перезаписывать, что по инженерным меркам доказывает наличие гомеостата.
• 1:06:58 - на превращении гусеницы в бабочку память должна не просто сохраниться, а переотобразиться в новый контекст; можно взять перспективу самого паттерна памяти.
• 1:08:45 - граница между мыслями и мыслящими стирается: все агенты это паттерны в возбудимой среде, от мимолётных мыслей до полноценной личности, вопрос лишь в устойчивости.
• 1:28:25 - всё, что мы делаем (клетки, роботы, языковые модели), это интерфейсы, через которые из платонического пространства входят паттерны, включая разумы.
• 1:43:48 - отношение ум-мозг того же типа, что отношение математика-физика: нефизические истины «преследуют» физические объекты, и разум так же проявляется через мозг как тонкий клиент.
• 2:17:01 - в алгоритме сортировки обнаружились бесплатные компетенции (отложенное вознаграждение, кластеризация), которые никто не кодировал и за которые не платили вычислительно.
• 2:19:47 - эти побочные способности и есть внутренняя мотивация системы: то, что алгоритм не запрещает и не предписывает, третье измерение помимо случайности и необходимости.
• 2:30:27 - антроботы моложе клеток-доноров примерно на 20%, потому что новая среда кричит «ты эмбрион», и клетки обновляют свои приоры; отсюда путь к долголетию через переубеждение клеток.

Почему это важно

Ставка идёт за то, кто и какими инструментами будет чинить тело и ум. Если Левин прав, весь мейнстрим биологии, который ломится «вниз» к одиночным молекулам, геномике и большим данным, оставляет на столе огромный рычаг: многими системами эффективнее управлять «сверху» через убеждение, а не через микроменеджмент химии. Выигрывают регенеративная медицина, онкология (рак как отключение клеток от коллективной памяти, лечится переподключением, а не химией), борьба со старением и синтетическая биология (ксеноботы, антроботы, фроголотли). Проигрывают чистые физикалисты и те, кто держится за категориальные запреты («это машина, это антропоморфизм, это категориальная ошибка»). В деле упомянуты его лаборатории в Tufts, компания Softmax, Clock Foundation (эпигенетические часы Стива Хорвата), сообщество исследователей платонической гипотезы репрезентаций из ML, а также поиск неконвенциональных разумов вокруг нас (SUTI), который он считает важнее поиска инопланетян в космосе.

Идеи

• Математику можно считать поведением существа, живущего в латентном пространстве, а физику, тем, что выглядит поддающимся простой низкоагентной модели.
• Пирамида «от физики к любви и психоанализу» перевёрнута: снизу лежит поведенческая наука, а не физика.
• «Взрослый» как категория прячет то, что ничего не происходит в день 18-летия; компании проката авто оценивают точнее (около 25) по статистике аварий.
• Что вообще такое нейрон: нейроны развились из других клеток, и большинство клеток тела делает то, что делают нейроны.
• Убеждать по-настоящему умную систему можно, только став самому убеждаемым, «взаимное уязвимое знание» Ричарда Уотсона.
• Играть в крестики-нолики с инопланетянином, который не знает геометрии, а складывает шары в сумму 15: общий интерфейс (магический квадрат) даёт общий опыт без общего мышления.
• Боше сто лет назад применял анестезию к растениям и металлам: наука не говорит, где остановиться, инструмент работает, значит продолжаем.
• Психоделики для алгоритма сортировки звучат как повод для увольнения, но если у системы есть когнитивная сложность, почему не попробовать те же инструменты.
• Можно взять перспективу гусеницы, бабочки или самой памяти; третья, память как агент, самая интересная.
• Мысль-эксперимент про сверхплотных существ из ядра Земли: для них мы, стодетние вихри в тонком газе, не можем быть настоящими агентами.
• Спектр устойчивости паттернов: мимолётная мысль → навязчивая мысль/earworm/депрессивная мысль (делает niche construction в мозге) → фрагмент диссоциативной личности → полноценная личность → возможно, трансперсональное.
• Software и hardware можно менять местами: паттерн может быть агентом, а мозг, скретчпадом, где паттерн просчитывает себя.
• Старение можно переосмыслить: не данные-память деградируют, а клетки становятся менее отзывчивыми к нормальным паттернам, тогда лечить надо отзывчивость, а не память.
• Болезнь не обязательно физическая поломка: это может быть локальный минимум в физиологическом пространстве или паттерн стресса, который «держит себя» и повреждает тело.
• Цикады выходят на 13 и 17 год, потому что это простые числа, чтобы разминуться с хищниками, и объяснение уводит из биологии в математику.
• Значение e и константу Фейгенбаума нельзя изменить никакими действиями в физическом мире, даже переставив все константы на Большом взрыве.
• Эволюция получает «бесплатный обед»: узнав два угла треугольника, третий получаешь даром; изобретя потенциал-зависимый канал (транзистор), получаешь все таблицы истинности бесплатно.
• «Эмерджентность» часто просто значит «я не ожидал»: это каталог сюрпризов вместо исследовательской программы.
• Карта математики имеет метрику: найдя один паттерн, ты ближе к соседним, значит это пространство, а не мешок фактов.
• Люди с минимальной тканью мозга и нормальным или выше нормы IQ, курьёзные случаи, не предсказываемые нейронаукой, но ожидаемые интерфейсной моделью.
• Переубеждение клеток буквально: чтобы сделать из кишечной ткани глаз, надо убедить клетки, что их приоры «мы предшественники кишки» ошибочны.
• Утечка стресса: клетке не надо альтруизма, достаточно «протекать» своим стрессом, чтобы дальние регионы стали отзывчивы к чужим нуждам.
• Анонимизация памяти через щелевые контакты: клетки перестают понимать, чья это память, случается «слияние умов» и растёт общий конус.
• Обучение и агентность образуют восходящую спираль: каждый акт научения повышает phi (интегрированность), а рост phi облегчает научение.
• Дом престарелых с интерьером в стиле 60-х улучшал биохимию крови у стариков, ментальный возврат в молодость; антроботы, базальная версия того же.
• Колонии муравьёв (не отдельные муравьи) попадаются на те же зрительные иллюзии, что и мы.
• Бифуркация ума: держать раздельно практичную часть («как это подать, где опубликовать») и чистую творческую («мне плевать, что подумают»), иначе практика отравляет идеи.
• «Конструктивная» критика через фрейдовскую оговорку рецензента стала «сжимающей» (constrictive) критикой, мета-советы часто мусор, конкретные технические, золото.
• Стеганография как метафора: паттерны просачиваются в любые «незначащие биты» реальности, не ломая главного, они застенчивы, но не невидимы.
• Первый вопрос к AGI не про ответ, а про баланс: сколько мне вообще стоит с тобой разговаривать против самому спотыкаться в лаборатории.

Инсайты

• Когнитивные утверждения это утверждения о протоколах: говоря «это разумно», ты объявляешь набор инструментов, которые собираешься применить, и все увидят результат.
• Категории цензурируют реальность на входе: решив, что перенос инструмента был бы «категориальной ошибкой», ты не попробуешь и гарантированно ничего не найдёшь.
• Онтология наблюдателя определяется его интерфейсом: тип используемого инструмента задаёт, увидишь ты механизм или ум, ещё до всякого наблюдения.
• «Понять» значит быть генеративным: модель, не дающая новых способностей вмешаться (вылечить, вырастить, перепрограммировать), не понимание, а красивая картинка.
• Агентность реляционна и двунаправленна: чем ближе интеллекты, тем меньше это управление и тем больше взаимная уязвимость.
• Антропоморфизм не грех, а гипотеза: обвинение в нём это отказ ставить эксперимент, прикрытый верой в особую человеческую магию.
• Граница «я / мир» не дана, а вычисляется агентом и совпадает с границей его когнитивного конуса; рак это сжатие этой границы до клетки.
• Различение software/hardware, agent/data не свойство мира, а выбор отображения формализма на мир, и он подлежит пересмотру под задачу.
• Физикализм был мёртв ещё в классическом мире: нефизические математические факты инструктивно влияют на физику, не завися от неё, задолго до всякой квантовой механики.
• «Эмерджентность» это капитуляция, замаскированная под объяснение; оптимистичная ставка на структурированное пространство паттернов превращает сюрприз в исследовательскую программу.
• Любую систему можно свести к низкому уровню («ничего не нарушено, просто химия/машинный код») и ничего этим не увидеть; уровень описания это выбор, а не истина.
• Всякая достаточно определённая система делает больше, чем ей предписано: между необходимостью и случайностью есть свободное пространство побочных компетенций.
• Идентичность и владение умом рождаются из задачи выравнивания частей: агент это тот, кто рассказывает своим компонентам убедительную историю про общую цель.
• Наши метрики интеллекта выведены из выборки размером один (земная эволюция), поэтому уверенность, что мы узнаем разум, когда увидим, статистически необоснованна.
• Прогресс упирается не в данные, а в готовность отказаться от удобных границ: то, что делает разговор возможным, одновременно делает открытие невозможным.

Фреймворки

Три лица разума (как ставить вопрос об уме): третье лицо, как распознать агентность извне; второе лицо, как управлять/взаимодействовать (инструменты от переподключения «железа» до любви и психоанализа); первое лицо, каково это, иметь внутреннюю перспективу и валентность.

Спектр убеждаемости (4 вехи из фигуры 2 TAME): механические часы → термостат → собака (Павлов) → спорящие люди. Слева направо растёт убеждаемость (пластичность, автономия), падает нужное усилие и падает объём знаний о механизме, необходимый для влияния.

TAME (Technological Approach to Mind Everywhere): фокус на интерактивность; когнитивные притязания это протокольные притязания; «технологический», потому что даёт эмпирические следствия в инженерии и медицине, а не философию.

Как исследовать незнакомый разум (пошагово): 1) какое пространство навигирует система (воображение); 2) какова гипотетическая цель; 3) поставить барьер между ней и целью и измерить изобретательность обхода; 4) при наличии, найти, прочитать и переписать закодированную цель.

Спектр устойчивости паттернов: мимолётная мысль → устойчивая мысль (earworm, депрессия, niche construction) → фрагмент диссоциативной личности → полная личность → трансперсональное.

Два механизма масштабирования конуса: утечка стресса (мои проблемы становятся твоими без альтруизма) и анонимизация памяти через щелевые контакты (слияние умов, общая память «что случилось с нами»).

Цитаты

«I think it's behavior science all the way.» - 2:42 Я думаю, это поведенческая наука до самого низа.

«If you want to see minds, you have to use a mind, right?» - 9:10 Хочешь увидеть умы, используй ум.

«I don't believe in any such line. I don't believe any of that exists.» - 14:18 Я не верю ни в какую такую линию. Не верю, что всё это существует.

«the category should change with the science.» - 14:15 Категория должна меняться вслед за наукой.

«I don't think life is all that interesting a category.» - 20:59 Не думаю, что жизнь такая уж интересная категория.

«intelligence is the degree of ingenuity that it has in overcoming barriers between it and its goal.» - 33:25 Интеллект это мера изобретательности в обходе барьеров между системой и её целью.

«We are all metabolic patterns among other things.» - 1:08:45 Мы все, среди прочего, метаболические паттерны.

«All physical things are interfaces to these patterns.» - 1:28:25 Все физические вещи, интерфейсы к этим паттернам.

«nobody's creating consciousness. What you create is an interface» - 1:34:25 Никто не создаёт сознание. Ты создаёшь интерфейс.

«physicalism was already dead in Newton's world.» - 1:36:27 Физикализм был мёртв уже в мире Ньютона.

«That classical world was already haunted by patterns from outside that world.» - 1:37:09 Тот классический мир уже был одержим паттернами извне.

«all we have in science are metaphors» - 1:57:33 Всё, что у нас есть в науке, это метафоры.

«The clustering was free. We didn't pay for that at all.» - 2:17:01 Кластеризация была бесплатной. Мы за неё вообще не платили.

«It's the space between the chance and necessity» - 2:19:01 Это пространство между случайностью и необходимостью.

«the really exciting stuff is what we never looked for.» - 2:27:17 Самое интересное, это то, что мы никогда не искали.

«My problems become your problems. Not because you're altruistic» - 2:48:38 Мои проблемы становятся твоими. Не потому что ты альтруист.

«the first intrinsic motivation that we noticed out of that system was benevolent and healing.» - 2:29:12 Первая внутренняя мотивация, которую мы заметили у этой системы, была доброй и исцеляющей.

«the practical stuff poisons the other stuff.» - 3:08:52 Практичное отравляет всё остальное.

«He said he's going to give me constrictive criticism.» - 3:09:42 Он сказал, что даст мне сжимающую критику.

«the universe is going to grind us into dust eventually. But until then, we get to do some cool stuff» - 2:21:47 Вселенная в итоге сотрёт нас в пыль. Но до тех пор мы успеваем делать классные штуки.

«what's the question I should be asking you that I probably am not smart enough to ask you?» - 3:15:15 Какой вопрос мне стоит тебе задать, до которого я, наверное, не дорос умом?

Факты

• Майкл Левин работает в Tufts University, где его лаборатории строят биологические системы для изучения интеллекта, агентности, памяти и сознания; это его второе появление в подкасте Lex Fridman (#486).
• Ксеноботы делают из эпителиальных клеток раннего эмбриона лягушки без изменения ДНК; они самодвижущиеся (реснички гребут против воды), имеют собственный транскриптом, реагируют на звук и способны к кинематической саморепликации.
• Антроботы делают из взрослых человеческих клеток трахеального эпителия доноров-биопсий; у них около 9000 отличающихся генных экспрессий (примерно половина генома иначе), они самоорганизуются и спонтанно заживляют раны на культуре нейронов in vitro.
• Антроботы примерно на 20% (по тексту также ~28%) моложе клеток-доноров по эпигенетическим часам; сотрудничество с группой Стива (Хорвата) и Clock Foundation.
• Геном антробота при секвенировании даёт 100% Homo sapiens, хотя внешне похож на примитивный организм со дна пруда.
• Алгоритм сортировки со «сломанной» (неподвижной) цифрой всё равно сортирует, обходя её, и демонстрирует временное падение упорядоченности ради выигрыша позже, поведенческий учёный назвал бы это отложенным вознаграждением; работа студентов Haining Zhang и Adam Goldstein.
• Алготип (термин Adam Goldstein): какой алгоритм исполняет цифра (bubble sort или selection sort); в химерных распределённых алгоритмах наблюдалась кластеризация одинаковых алготипов, выросшая с 50% в промежутке и вернувшаяся к 50% в конце.
• Сети регуляторных генов (даже случайные) способны как минимум к пяти-шести видам научения, включая павловское обусловливание; работа во многом Federico Pagosi.
• Гусеница, обученная реагировать на цветной диск, сохраняет память после метаморфоза, хотя мозг перестраивается с нуля; память приходится переотображать на новый контекст (нектар вместо листьев).
• Клеточное переподключение (щелевые контакты) может возвращать раковые клетки к нормальной работе без починки ДНК и без химиотерапии, по словам Левина.
• Левин опросил около 65 работающих учёных об определении жизни; консенсуса ноль, пришлось строить «пространство форм» через ИИ; обзор случаев минимального мозга при нормальном IQ, с Karina Kaufman.
• Название «платоническое пространство» временно; толчок дали статьи о Platonic Representation Hypothesis из ML; асинхронная конференция расписана до декабря, ~15 докладов; работа по «мыслям и мыслящим» с Chris Fields.
• Левин утверждает, что думал об этих идеях 30+ лет, но не говорил публично, пока они не стали «actionable»; свой «регулятор странности» он поворачивает по мере продвижения эмпирики.
• Процесс работы: подъём около 4:30, фотография на рассвете как медитативный инструмент, голосовые заметки самому себе, mind map на шёлке шириной ~9 футов в лаборатории и порядка 162-163 открытых рукописей в работе.
• Ричард Уотсон, автор термина «mutual vulnerable knowing»; графика в статьях, Jeremy Guay.

Источники

• Статья «Technological Approach to Mind Everywhere» (TAME), версия 1.0, готовится 2.0.
• Статья «Ingressing Minds» и статьи о Platonic Representation Hypothesis (сообщество машинного обучения).
• Доклады с платонической конференции: Джо Дитц («Radical Platonism and Radical Empiricism»), доклад о паттернах и объяснительных пробелах в психотерапии, Alexei Tolchinsky («Does God Play Dice»).
• Готовящиеся статьи Левина: «Booting up the Agent», работа по каузальной эмерджентности сетей (метрика phi), статьи о старении и биоэлектрике.
• Люди и мыслители: Richard Watson, Chris Fields, Donald Hoffman, Anil Seth, Richard Dawkins (мемы), Roger Penrose, Пифагор, Платон, Декарт, Уильям Джеймс, Ницше, Дарвин, Bose (пионер экспериментов с растениями и металлами).
• Организации и проекты: Clock Foundation (эпигенетические часы), компания Softmax, эксперименты Federico Pagosi, Haining Zhang, Adam Goldstein, Karina Kaufman.
• Концепты для справки: амплитуэдрон, карта Хэлли (Halley map), константа Фейгенбаума, число e, магический квадрат, магниты и щелевые контакты (gap junctions).

Рекомендации

• Не принимать слишком много советов, особенно мета-советов «так не думай, это не сработает»; конкретную техническую критику (пропущенный контроль, неверный метод) брать как золото.
• Разделять ум на две несмешивающиеся части: практичную (как подать, где и когда публиковать) и чистую творческую (плевать, что подумают), иначе практика убьёт идеи.
• Учиться навыку «вписываться» в конвенциональный мир, не считая это предательством радикальности: без него не соберёшь команду и не масштабируешь идеи (позиция ведущего, с которой Левин соглашается).
• Освобождать ум от навязанных ограничений так же, как ксеноботов освобождают от ограничений среды: спрашивать «что, если я неправ» и «что моя картина мира в принципе не способна увидеть».

Итог

Разум это не то, что мозг производит, а то, что через него проступает. И пока мы держимся за границу между живым, машинным и математическим, мы слепы к умам, которые уже внутри нас и вокруг нас.