Никакого ИИ, вообще (Это просто люди), с Jaron Lanier

Коротко

Jaron Lanier (отец VR, главный «унифицирующий» учёный Microsoft) в спецвыпуске StarTalk Нила Деграсса Тайсона выстраивает единую критику цифровых технологий: VR провалилась как индустрия, потому что компании силой превращали её в «большой iPad» или соцсеть, а не давали ей быть собой — четверть триллиона долларов (бюджет лунной программы) ушли без появления killer app и даже простого 3D-редактора. Соцсети он описывает как «машину модификации поведения», от которой предупреждал Норберт Винер в 1950-м: эффект сети математически ведёт к гиперцентрализации власти, а единственная разрешённая в Долине бизнес-модель — «генерация влияния» — порождает «лупу возмущения», стягивающую разные личности в одну зависимую (Трамп, Маск, Канье). Центральный тезис про ИИ: «никакого ИИ нет» — это новая форма коллаборации людей, чёрный ящик, внутри которого только люди и их данные, и видеть его «существом» хотят молодые мужчины с эго и диетой из Matrix/Terminator вместо Star Trek. Решения, которые он предлагает: разрешить другие бизнес-модели, ввести «достоинство данных» вместо UBI, запретить алгоритмическое предсказание человеческого поведения, признать, что «информация физична».

Главный тезис

Никакого «искусственного интеллекта» как нового существа не существует — это коллаборация людей, чёрный ящик, внутри которого только человеческий труд и данные; вред цифровых систем (зависимость, централизация, обесценивание людей) проистекает не из технологии как таковой, а из идеологии, делающей из неё божество, и из единственной разрешённой бизнес-модели — торговли влиянием.

Ключевые идеи

• 11:20 — VR провалилась, потому что Apple лепил из неё «большой iPad», Meta — соцсеть, геймеры — игру; никто не дал технологии быть собой.
• 9:43 — на VR за ~5 лет потрачена четверть триллиона долларов (бюджет высадки на Луну), а нет ни одного надёжного 3D-редактора — что абсурдно к 2026 году.
• 8:57 — motion sickness в VR почти всегда поражает женщин и не-белых, но индустрия не изучает это, потому что рекрутирует слишком узко и «сама себя ослепляет».
• 22:31 — Норберт Винер в 1950 году в последней главе книги по кибернетике описал носимое радиоустройство модификации поведения как угрозу уровня апокалипсиса — и оно сбылось.
• 19:51 — эффект сети — это математика, не политика: малое преимущество одного узла кумулятивно превращается в гиперцентрализацию власти вокруг Meta/Google.
• 23:35 — в Долине разрешена только одна бизнес-модель — генерация влияния; третьи лица платят «шантажом», чтобы не выпасть из пула влияния.
• 22:00 — соцсети стягивают разные личности в одну — мелочную, тщеславную, конфронтационную, никогда не удовлетворённую (Трамп, Маск, Канье как «учебник»).
• 24:40 — алгоритм постоянно активирует «быстрый мозг» реакции бей-или-беги, держа человека в режиме вечной слежки и паранойи, хотя «льва в кустах» давно нет.
• 27:36 — идеология «информация должна быть бесплатной» из-за эффекта сети обогащает не сообщество, а Google в центре: благонамеренный активизм даёт обратный эффект.
• 33:19 — тест Тьюринга не доказывает разумность машины: с равной вероятностью либо человек поглупел, либо компьютер поумнел, и логически нельзя их различить.
• 43:39 — статья «There is no AI» (New Yorker, 2023): ИИ — это коллаборация людей, как Википедия, только труд вложен менее добровольно.
• 0:34 — видеть ИИ существом хотят молодые мужчины с раздутым эго и «диетой» из Matrix/Terminator/Marvel вместо позитивного Star Trek.
• 49:08 — открыть «чёрный ящик» ИИ значит обнажить людей внутри; тогда решаемы безопасность, качество, галлюцинации — потому что есть заземлённый механизм.
• 50:48 — UBI как «ИИ заменит людей» ведёт к гиперцентрализации и в итоге к сталинизму; начнёшь с благих идей — кончишь тем, что Маск держит тебя как домашнего питомца.
• 52:30 — «достоинство данных» (data dignity): данные исходят только от людей, не от ангелов, и должны оплачиваться — это альтернатива и UBI, и классовым искам.
• 0:19 — информация физична: дата-центры пожирают больше энергии, чем что-либо; идея «биты эфемерны и бесплатны» оправдывает лишние траты в гонке «победитель забирает всё».
• 1:01:03 — приватность должна означать запрет алгоритмов, предсказывающих поведение человека в петле обратной связи; единственная причина предсказывать — это манипулировать.

Почему это важно

Разговор фиксирует момент апрель 2026: Meta только что признана судом ответственной за зависимость от соцсетей, что называют «табачным процессом XXI века», и общество впервые массово недовольно техно-индустрией. Lanier — инсайдер (Microsoft, соавтор GDPR, отец термина VR), который критикует изнутри и говорит, что выигрывают сегодня узкая прослойка основателей-миллиардеров (Маск с 280 млн подписчиков, владельцы платформ), а проигрывают создатели контента, молодёжь, которой внушают бесполезность, и не-белые/женщины, под которых даже не проектируют железо. Ставка спора — кто будет финансировать будущее творчества: централизованные платформы через UBI-подачки и классовые иски за прошлое, или «экономика достоинства данных», где новые поколения творцов оплачиваются за вклад. Игроки названы прямо: Meta, Google, Apple, OpenAI, Anthropic, Microsoft, Authors Guild, ЕС с его GDPR.

Идеи

• VR ещё фактически не существует: «железо в пути, но софт ещё не родился».
• Изначальный смысл VR для Lanier — дать контраст, чтобы, сняв очки, заново оценить обычную реальность, которую перестаёшь замечать с рождения.
• Подростковая мечта Lanier: вырастить детей в VR-очках, заменяя их во сне на бóльшие, чтобы вырастить первых «4D-аборигенов» и математиков — «Truman Show, но через безумных математиков».
• Единственное реальное применение VR, которое он видел у знакомого, — пересматривать умерших близких перед сном.
• В Долине логика «теряем на каждой единице, но компенсируем масштабом» — и она не работает.
• У Lanier контракт с Microsoft, позволяющий публично критиковать саму компанию; он считает, что таких людей в индустрии должно быть больше (называет лишь Винта Серфа из Google как второго).
• В начале интернета (Friendster) соцсети были «милыми и забавными» — испортились, когда осталась одна бизнес-модель влияния.
• GitHub менее токсичен, чем 4chan — значит, платформы различаются, и по спектру их недостатков можно вычислить «вектор» к лучшему дизайну.
• Власть миллиардеров всё равно держится на согласии массы; потеряв легитимность, они падают — так бывало в истории многократно.
• Молодые техно-мужчины начинают заводить детей, и это меняет характер — Lanier видит в этом надежду на смягчение индустрии.
• «Железная задница» (iron-ass) аргумент про тест Тьюринга: 2/3 пользователей любого цифрового устройства деградируют, 1/3 реально выигрывает.
• Лечение от «ИИ-возлюбленной»: показать человеку групповое фото инженеров, создавших этого бота — «мгновенно исцеляет».
• Антидот к jailbreak: параллельный процесс «контрфактической оценки кластеров» — какие кластеры обучающих данных сильнее всего повлияли на ответ; для запроса о бомбе всегда найдётся кластер «о бомбах».
• Это «многофакторная аутентификация для безопасности ИИ»: алгоритм работает на тех же данных, но не связан с самой моделью.
• «Капиталистическая йога»: Lanier (член правления Authors Guild и учёный Microsoft) фактически судится сам с собой по иску о пиратстве книг Anthropic.
• Cookie-баннеры — прямое следствие GDPR, который Lanier помогал создавать: «это моя вина, простите».
• «Теат компетентности» (theatre of competence): кликанье по cookie-окнам и непрочитанные соглашения — ритуал, имитирующий цифровую грамотность, лишённый смысла.
• Юристы, составляющие пользовательские соглашения, сами их не читают — Lanier проверял поднятием рук в аудитории.
• Большие компании необходимы для важных задач — Lanier против «взорвать всё»: из обломков легко не отстроишься, пасту в тюбик не вернёшь.
• Ленинская «максимизация противоречий» (взорвать систему, чтобы получить лучшее) никогда не работает — остаётся только мусор.
• Запрет на предсказание поведения убьёт только персонализированную манипулятивную рекламу, но не запретит экспрессивную, раздражающую или лживую рекламу.
• Каждая крупная интернет-компания минимум 15 лет знает фазу менструального цикла каждой женщины — KGB отдал бы свои технологии за такие данные.
• Запретить ложь в интернете нельзя: согласившись с запретом, лжец бы солгал — бесконечный регресс.
• Софт для 5-осевого фрезерования стоит дороже хорошей квартиры в год — кроме Китая, где промышленная политика делает его дешёвым для стартапов.
• Проблема «бинарного мышления»: всё толкается в крайности (бесплатно или безумно дорого), а нужна середина — «доступная цена», экономика реальных рабочих мест.
• Метафора «K-образной экономики» и «очень среднего» размера в Starbucks: середину запрещают, оставляя только крошечное и гигантское.
• Lanier боится, что «нормальное распределение запретят».
• Claude и ChatGPT уже сейчас генерируют идеальные защиты «достоинства данных», потому что об этом достаточно написали люди.

Инсайты

• Технология не «проваливается» сама по себе — её насильно загоняют в уже монетизируемые форматы, и это убивает её собственный потенциал.
• Узкий, гомогенный состав разработчиков — это не только этическая, но и рыночная катастрофа: продукт слепнет к большей части пользователей.
• Архитектура цифровых сетей математически тяготеет к гиперцентрализации независимо от намерений — поэтому «свобода» и open source без понимания эффекта сети усиливают именно центр.
• Монокультура бизнес-модели детерминирует поведение всей системы: пока разрешена одна модель (влияние), её побочные эффекты неизбежны для всех.
• Обучение на петлях мгновенной обратной связи эксплуатирует эволюционно древние контуры угрозы, превращая адаптивный механизм в хроническую патологию.
• Платформа не отражает личность, а формирует её — конвергенция разных людей в один «зависимый» тип доказывает, что среда сильнее характера.
• Онтология определяет инженерные возможности: называя ИИ «существом», ты закрываешь чёрный ящик; называя «коллаборацией людей» — открываешь пути к безопасности и оплате труда, не меняя ни строчки кода.
• Желание создать «бога-ИИ» — культурно сконструировано: оно вырастает из эго и нарратива научной фантастики, а не из самой технологии.
• Цифровая дематериализация — идеологическая иллюзия: отрицание физичности информации служит оправданием неоплаты человеческого труда и расточительства ресурсов.
• Подлинная креативность определяется как движение туда, куда ИИ не может пойти, потому что он опирается на уже сделанное другими — творчество всегда на шаг впереди обучающих данных.
• Решения проблем приватности и творчества лежат не в крайностях (бесплатно/платно, запрет/вседозволенность), а в «третьей позиции» — устойчивой срединной экономике.
• Приватность — не контроль над перемещением данных (он нерешаем и фаворизирует крупные фирмы), а свобода от того, чтобы быть смоделированным и предсказанным.
• Безопасность сложных систем достигается не самокоррекцией модели изнутри (слепое пятно лечит само себя), а независимым внешним механизмом — как многофакторная аутентификация.
• Критика изнутри институции не противоречива, а есть форма ответственности — здоровая система должна уметь критиковать и совершенствовать себя.

Фреймворки

• Тест Тьюринга «через железную задницу»: в комнате два человека (участник и судья) и один компьютер; если судья не различает, то с вероятностью 2/3 поглупел человек и 1/3 — поумнел компьютер. Отсюда вывод: ~2/3 пользователей цифровых устройств деградируют, 1/3 выигрывает. 34:55
• Три опции вместо бинарности (на примере софта): бесплатное (служит империи через эффект сети) / безумно дорогое (закрывает мир) / доступное по цене (создаёт реальные рабочие места и экономику). Правильна третья — середина. 55:56
• Определение приватности: не запрет движения информации A→B, а «свобода от манипуляции, право быть оставленным в покое»; практически — запрет ПО, которое предсказывает поведение взаимодействующего с ним человека. 1:00:21
• ИИ как коллаборация, а не существо: рампа технологий = люди учатся всё больше сотрудничать (язык → письмо → Гутенберг → радио → Википедия → LLM); LLM = труд множества людей, слитый в один документ. 0:25

Цитаты

«Nikt nie pozwolił, żeby VR było VR» — 11:20 Никто не дал VR быть VR

«VR to prawdziwa katastrofa, ponieważ firmy, które go tworzą, absolutnie próbują przekształcić go w coś, co już potrafią sprzedać» — 11:02 VR — настоящая катастрофа, потому что создающие её компании пытаются превратить её в то, что уже умеют продавать

«Informacja jest fizyczna albo nic nie jest» — 0:19 Информация либо физична, либо это ничто

«Pokaż mi kawałek, który nie wymagał pracy. Pokaż mi kawałek, który nie rozpraszał ciepła» — 53:33 Покажи мне бит, который не потребовал труда. Покажи мне бит, который не рассеивал тепло

«Jesteś młodym mężczyzną. Myślisz, że jesteś centrum wszechświata. Oczywiście myślisz, że tworzysz Boga» — 0:30 Ты молодой мужчина. Думаешь, что ты центр вселенной. Конечно, ты думаешь, что создаёшь Бога

«Opisujesz wielu mężczyzn, z którymi spotykałam się po dwudziestce» — 0:36 Ты описываешь многих мужчин, с которыми я встречалась после двадцати

«To jedyny sposób, żeby odpowiedzieć na ten komentarz: musiałeś zrobić coś bardzo złego i mam nadzieję, że wyciągnąłeś wnioski» — 6:03 Старшеклассники говорят, что их заставили читать мою книгу, и единственное, что я отвечаю: ты, наверное, сделал что-то очень плохое, и надеюсь, ты сделал выводы

«Mamy do czynienia z machiną modyfikującą zachowanie, przed którą Norbert Weiner ostrzegał nas 75-76 lat temu i która faktycznie działa, zmieniając założycieli w ofiary» — 22:31 Мы имеем дело с машиной модификации поведения, о которой Норберт Винер предупреждал 75–76 лет назад, и она работает, превращая основателей в жертв

«Zawsze śledzisz. Zawsze jesteś napalony, ale nigdy nie jesteś zadowolony. Zawsze czujesz się samotny, bo nikomu nie możesz zaufać» — 25:19 Ты всё время следишь. Ты всё время на взводе, но никогда не удовлетворён. Ты всё время одинок, потому что никому не можешь доверять

«Więc partia piratów tak naprawdę służyła imperium, tak jak pierwotni piraci» — 27:36 Так что партия пиратов на самом деле служила империи — как и изначальные пираты

«Możesz zacząć od bredni, ale skończysz ze stalinistami» — 50:48 Можешь начать с бреда, но кончишь сталинистами

«Nie ma sztucznej inteligencji» — 43:39 Никакого искусственного интеллекта нет

«Kiedy otwierasz czarną skrzynkę, jedyne, co się w niej znajduje, to ludzie» — 49:08 Когда открываешь чёрный ящик, единственное, что внутри, — это люди

«Dane nie pochodzą od aniołów» — 52:40 Данные не от ангелов

«Gdyby Star Trek z lat 90. trwał kolejne 10 lat, dzisiaj byłoby o wiele mniej samobójstw wśród nastolatków» — 43:21 Если бы Star Trek 90-х продлился ещё 10 лет, сегодня было бы куда меньше подростковых самоубийств

«Nazywa się to teatrem kompetencji. Robimy te rzeczy, żeby udawać, że mamy kompetencje cyfrowe, ale tak naprawdę są bez znaczenia» — 1:03:23 Это называется театром компетентности. Мы делаем это, чтобы притворяться цифрово грамотными, но на деле всё бессмысленно

«Mam więc naprawdę zabawne stanowisko w sprawie tych pozwów... Więc pozwałem sam siebie» — 1:08:54 У меня забавная позиция по этим искам... Так что я подал в суд на самого себя

«Nazywam to kapitalistyczną jogą» — 1:09:03 Я называю это капиталистической йогой

«Zabraniałoby to reklamy, która ma model Ciebie, który przewiduje Twoje zachowanie w pętli sprzężenia zwrotnego» — 1:01:13 Запретило бы рекламу, у которой есть твоя модель, предсказывающая твоё поведение в петле обратной связи

«Jednak ja, jako jeden z czołowych naukowców na świecie, zapewniam cię, że jest to fizycznie niemożliwe i nigdy się nie wydarzy, więc nie musisz się martwić» — 36:14 Однако я, как один из ведущих учёных мира, заверяю тебя: это физически невозможно и никогда не случится, так что не волнуйся (сарказм о предупреждении Винера)

«Moim celem było zdezorientowanie cię na tyle, żebyś nie winił mnie za nic» — 1:11:11 Моей целью было запутать тебя настолько, чтобы ты ни в чём меня не винил

Факты

• Иск против Meta, признавший её ответственность за зависимость от соцсетей, состоялся в апреле 2026 года; его называют «табачным процессом XXI века».
• На разработку VR в Долине за последние ~5 лет потрачены, по словам Lanier, сотни миллиардов — порядка четверти триллиона долларов (сопоставимо с бюджетом высадки на Луну); точная сумма не раскрыта (хедж спикера: «не знаем точно сколько»).
• Норберт Винер, основатель кибернетики, в 1950 году в последней главе книги описал носимое радиоустройство модификации поведения как угрозу цивилизации.
• Первая значимая работа Lanier о вреде соцсетей — «Agents of Alienation», 1992 год.
• Статья «There is no AI» опубликована в New Yorker в 2023 году.
• Lanier — главный «унифицирующий» учёный (Chief Unifying Scientist) Microsoft; пишется «осьминог» (octopus), отсылка к его изучению когнитивных способностей головоногих.
• У Элона Маска ~280 млн подписчиков, и он же владелец платформы.
• Lanier за жизнь написал «примерно 50 000 строк кода» (по его оценке — немного для профессионала).
• Lanier соосновал Консультативный совет по защите данных ЕС ~четверть века назад вместе с покойным Алеандро Бутарелли — сицилийским прокурором, сажавшим мафию; это переросло в GDPR/RODO.
• Anthropic спиратил 12 книг Lanier; он урегулировал дело через мировое соглашение (settle).
• Глава Authors Guild — Мэри Розенбергер; Lanier — член её правления.
• Каждая крупная интернет-компания, по утверждению Lanier, минимум 15 лет знает фазу менструального цикла каждой женщины (он подаёт это как уверенное утверждение).
• Софт для 5-осевого фрезерования стоит «дороже хорошей квартиры в год», за исключением Китая с его промышленной политикой.
• Со-ведущий Gary O'Reilly вёл выпуск из Лондона; гостья — комик Negin Farsad (иранского происхождения, член TED, автор книг «How to Make White People Laugh» и «Oszukać naród»).
• Винт Серф (Google) назван Lanier единственным другим известным ему человеком с правом публично критиковать свою компанию.

Источники

• «Ten Arguments for Deleting Your Social Media Accounts Right Now» — книга Lanier (~2018).
• «Agents of Alienation» (1992) — ранняя статья Lanier о программных агентах.
• «There is no AI» — статья Lanier, New Yorker, 2023.
• «The Human Use of Human Beings» / труд по кибернетике Норберта Винера (1950).
• «The Social Dilemma» — документальный фильм, который снимали друзья Lanier.
• «The Imitation Game» — статья Алана Тьюринга о тесте Тьюринга.
• «Take Me to Your Leader» — книга (упомянута во вступительной нарезке StarTalk про НЛО, аудиоверсия начитана автором).
• Люди и проекты: Norbert Wiener, Alan Turing, Andy Warhol, Vince Cerf, Mary Rosenberger, Aleandro Butarelli; Friendster, GitHub, 4chan, Wikipedia, Claude (Anthropic), ChatGPT (OpenAI), Grok (Elon), Microsoft Word, Spotify; Matrix, Terminator, Marvel, Star Trek, Truman Show.

Рекомендации

• Прочитать последнюю главу книги Норберта Винера 1950 года о модификации поведения.
• Тем, для кого это имеет смысл (но без социального давления и без «дней удаления»), — удалить аккаунты в соцсетях; решение индивидуально для каждого.
• Смотреть больше Star Trek 90-х и меньше Matrix/Terminator как «словарь» позитивного будущего.
• Если человек верит в «ИИ-возлюбленную» — показать ему фото команды инженеров, создавших бота.
• Желающим узнать больше Negin Farsad — искать «nagin farad» в соцсетях, «которые тоже стоит удалить».

Итог

«Искусственного интеллекта» нет — есть скрытая за чёрным ящиком коллаборация людей, и пока мы делаем из неё бога и торгуем влиянием, она калечит нас; признайте людей внутри — и откроется и безопасность, и достоинство данных, и бесконечно креативное будущее.