Коротко
Сэм Альтман в интервью Axel Springer заявляет, что AI уже умнее самых умных людей в интеллектуальных соревнованиях, но мир пока пользуется только ChatGPT и не осознаёт масштаба разрыва. Он анонсирует OpenAI for Germany — суверенное облако с SAP и Microsoft, первое в своём роде партнёрство, и подтверждает интерес к европейской версии Stargate. Альтман выделяет три категории экзистенциального риска: злоупотребление со стороны человека, классический sci-fi-сценарий выхода ИИ из-под контроля и третий, малообсуждаемый — постепенная потеря человеческой агентности через зависимость от советов модели. Он называет 2025 год моментом, когда AI стал умнее людей, признаёт краткосрочное уничтожение рабочих мест, но не пугается этого; если AI заменит и его, он станет фермером. Альтман защищает журналистику, поддерживает идею микроплатежей через агентов и видит ближайшие 5 лет как фазу AI-открытий в науке, начиная с GPT-5.
Главный тезис
Технологические возможности ИИ радикально опережают мудрость, мораль и регуляторную способность общества — и это разрыв, который нельзя закрыть запретами, только распределением мощного ИИ в руках «хороших» и глобальным управлением.
Ключевые идеи
- Overhang возможностей: между тем, что AI уже умеет, и тем, как его использует мир, — пропасть; экономике и обществу понадобится время, чтобы догнать.
- OpenAI for Germany — суверенное облако на frontier-моделях с SAP и Microsoft, первое партнёрство такого типа; страны нуждаются одновременно в суверенитете и в передовых моделях.
- Германия — пятый по величине рынок OpenAI в мире и крупнейший в Европе; почти все 18–24-летние немцы используют ChatGPT.
- Европейская версия Stargate возможна, но это вопрос к европейским политикам — это огромные инвестиции капитала, энергии и фокуса; ядерная энергия не обязательна, но «энергии нужно много».
- Регулирование должно бить по крупным катастрофическим рискам, а мелкие риски надо принимать; иначе инновация блокируется.
- 2025 — год, когда AI стал умнее людей: фундаментальный сдвиг, но «жизнь продолжается».
- Краткосрочно AI уничтожит много рабочих мест, долгосрочно создаст новые — человеческое желание быть полезным и принадлежать сообществу безгранично.
- «Main character energy»: люди настолько ориентированы на других людей, что не страдают от того, что машины умнее — нас волнуют другие люди, а не машины.
- Три категории катастрофических рисков ИИ: злоупотребление человеком (бионoружие, кибератаки), классический сценарий вышедшего из-под контроля агента, и третий — коллективная потеря агентности, когда миллиарды следуют советам модели, которую перестают понимать.
- Видение Ильи Суцкевера: AGI должен относиться к людям как любящий родитель к ребёнку — не просто «дружелюбный».
- Три подхода к рискам: расплавить все GPU (как у Юдковского), много хорошего AI у хороших людей против плохого, и глобальное управление по модели МАГАТЭ.
- Журналистика критически важна; копирайт сломан, но нужен новый экономический механизм — Альтман делает ставку на микроплатежи через AI-агентов.
- xAI Илона Маска — «по сути клон» продукта OpenAI; конфликт носит конкурентный, а не идеологический характер.
- ChatGPT целится в «взвешенное среднее» взглядов общества с широкой кастомизацией; критика с обеих сторон — признак нейтральности.
- Через 5 лет Альтман хочет видеть AI, открывающий новую науку, лечащий болезни и изобретающий материалы — GPT-5 уже даёт первые такие результаты.
Почему это важно
Альтман говорит из позиции человека, чья компания только что закрыла раунды на $300 млрд и $500 млрд плюс получила $100 млрд от Nvidia — то есть формирует инфраструктуру, на которой будут жить экономики целых стран. Его сигнал Европе («вы не безнадёжны») — это одновременно лоббирование смягчения EU AI Act и ставка на немецкий рынок как плацдарм против Китая. Выигрывают: SAP, Microsoft, оборонная индустрия (которую он теперь открыто называет «героями, спасающими демократию»), США как геополитический блок. Проигрывают: европейские регуляторы с их подходом «зарегулировать всё», классические медиа без новой модели монетизации IP и страны, которые останутся клиентами чужих frontier-моделей без суверенитета.
Цитаты
«AI has progressed, I think, so much more than people are aware of» ИИ продвинулся гораздо дальше, чем люди осознают
«This was the year that I think the AI got smarter than us» Это был год, когда, я думаю, ИИ стал умнее нас
«We have the technology of gods, the moral framework of medieval times» У нас технологии богов и моральная система средневековья
«We don't really care that the machines are smarter than us. They already are» Нас по-настоящему не волнует, что машины умнее нас. Они уже умнее
«I would like the part of my life where I'm very sick and failing to be short» Я хотел бы, чтобы часть моей жизни, когда я очень болен и угасаю, была короткой
«We should want all AGI's to treat humans as a loving parent with their child» Мы должны хотеть, чтобы все AGI относились к людям как любящий родитель к ребёнку
«If you're a really great propagandist, are you a weapons company? Like a little bit» Если ты по-настоящему великий пропагандист — ты оружейная компания? Немного да
«There's never an end game. There is a smoothly rising exponential» Финальной точки не бывает. Есть плавно растущая экспонента
«Freedom of expression is to me one of the most important and most difficult to uphold values» Свобода выражения — для меня одна из самых важных и самых трудных в поддержании ценностей
«I want to go be that farmer» Я хочу стать тем самым фермером
Факты
- Партнёрство OpenAI for Germany объявлено с SAP и Microsoft — суверенное облако с frontier-моделями.
- Германия — крупнейший рынок OpenAI в Европе и пятый в мире.
- Виртуально все немцы 18–24 лет пользуются ChatGPT.
- OpenAI основан в декабре 2015.
- Альтман оценивает экзистенциальный риск ИИ в ~2% (не буквально посчитанная цифра, но «ненулевая»).
- Соучредитель Илья Суцкевер сформулировал концепцию «AGI как любящий родитель».
- Главный конкурент в эпоху раннего OpenAI — DeepMind, который не верил в языковые модели даже после запуска GPT-3.
- Конкурентный продукт Илона Маска — xAI.
- Упомянутые фигуры круга: Peter Thiel, Elon Musk, Demis Hassabis, Mustafa Suleyman, Paul Graham, Marc Andreessen.
- Книга Юваля Харари «Homo Deus» — упомянута как видение человека-бога.
- Элиэзер Юдковский только что выпустил книгу о неизбежности уничтожения человечества ИИ.
- Сериал Pantheon — Альтман называет его лучшим сериалом, что он видел за долгое время, исследующим темы цифрового бессмертия.
- Petrichor — запах земли после дождя, любимый запах Альтмана.
- Недавние раунды: $300 млрд, $500 млрд, плюс $100 млрд от Nvidia.
- В Калифорнии длинный сухой сезон, который вот-вот закончится — Альтман ждёт первых дождей.
- МАГАТЭ (IAEA) приведён как успешная модель глобального управления катастрофическим риском.
- Книга Оскара Уайльда «Портрет Дориана Грея» — читал в школе, не любимая.
- Альтман получает Axel Springer Award в Берлине.
- Существующая for-profit структура OpenAI рекапитализируется до конца года; non-profit остаётся и станет «самой ресурсообеспеченной в истории».
Итог
Альтман строит мир, в котором сверхразумный ИИ неизбежен, опасен в трёх разных плоскостях и единственный способ выжить — раздать мощный ИИ хорошим людям и научиться им управлять глобально, как ядерным оружием.