AIE Europe Debrief + Agent Labs Thesis: Unsupervised Learning x Latent Space Crossover Special (2026)

AIE Europe Debrief + Agent Labs Thesis: Unsupervised Learning x Latent Space Crossover Special (2026)

Разбор AIE Europe + тезис об агентских лабораториях: специальный кроссовер Unsupervised Learning × Latent Space (2026)

Today, we check in a year after the first Unsupervised Learning x Latent Space Crossover special to discuss everything that has changed (there is a lot) in the world of AI. This episode was recorded just after AIE Europe, but before the Cursor-xAI deal.

Сегодня, спустя год после первого специального кроссовера Unsupervised Learning × Latent Space , мы подводим итоги и обсуждаем всё, что изменилось (а изменилось многое) в мире AI. Этот выпуск был записан сразу после AIE Europe, но до сделки Cursor-xAI.

Unsupervised Learning is a podcast that interviews the sharpest minds in AI about what’s real today, what will be real in the future and what it means for businesses and the world - helping builders, researchers and founders deconstruct and understand the biggest breakthroughs.

Unsupervised Learning — это подкаст, в котором берут интервью у самых проницательных умов в AI о том, что реально уже сегодня, что станет реальностью в будущем и что это значит для бизнеса и мира, помогая билдерам, исследователям и фаундерам разбирать и понимать крупнейшие прорывы.

Thanks to Jacob and the UL production team for hosting and editing this!

Спасибо Jacob и продюсерской команде UL за то, что приняли нас и смонтировали этот выпуск!

Jacob Effron

Jacob Effron

LinkedIn: https://www.linkedin.com/in/jacobeffron/X: https://x.com/jacobeffron

Full Episode on Their YouTube

Полный эпизод на их YouTube

We discuss:

Мы обсуждаем:

взгляд swyx из самого центра духа AI-инженерии: OpenClaw, инженерия харнессов, контекстная инженерия, evals, observability, GPU, мультимодальность и почему треки конференций теперь показывают, что важнее всего в AI. Стабилизировалась ли наконец AI-инфраструктура: почему «skills» могут быть минимально жизнеспособным форматом упаковки для агентов, почему инфраструктурным компаниям приходилось переизобретать себя каждый год и почему прикладным компаниям было проще пережить волатильность моделей. Спор о вертикальных vs. горизонтальных AI-стартапах: почему прикладные компании могут выступать аутсорсной AI-командой для предприятий, почему некоторые горизонтальные компании всё ещё важны и почему песочницы (sandboxes) могут быть самым явным переизобретением классической облачной инфраструктуры для эпохи AI. «Плейбук агентской лаборатории»: старт на frontier-моделях, специализация под свой домен, а затем обучение собственных моделей, когда у вас достаточно данных, нагрузки и пользовательского поведения, чтобы оправдать экономию на стоимости и задержке. Почему обучение доменно-специфичных моделей реально, а не просто маркетинг: как компании вроде Cursor и Cognition могут заставить пользователей выбирать их внутренние модели и почему поиск, доменная специализация и дистилляция становятся всё важнее. Открытые модели, кастомные чипы и альтернативная инференс-инфраструктура: почему swyx стал больше верить в open source, почему не-NVIDIA-железо внезапно получает реальное внимание и почему каждое 10-кратное ускорение может открыть новые продуктовые опыты. Что значит продавать агентам, а не людям: почему опыт агентов (agent experience), возможно, по большей части просто хороший developer experience под другим названием, почему API и документация важны как никогда и как обладатели данных предобучения наращивают преимущества в мире, где агенты на первом месте. Почему память и персонализация могут стать следующим большим рычагом: сегодня модели в основном вознаграждают частоту упоминаний, но в будущем swyx ожидает, что выбор продукта будет гораздо сильнее формироваться персонализированными системами памяти. Состояние войн AI-кодинга: почему кодинг стал одной из крупнейших и быстрорастущих категорий в AI, как Anthropic, OpenAI, Cursor и Cognition оседлали эту волну и почему у категории, возможно, ещё есть куда расти. Исследование возможностей vs. эффективность: почему индустрия всё ещё в фазе «токен-максинга» и обилия экспериментов, где людей вознаграждают за то, что они тратят больше, а не меньше. Claude Code vs. Codex и странная «липкость» кодинг-продуктов: почему первый магический опыт продукта может значить больше, чем ожидалось, и почему большая загадка в том, почему лишь несколько имён пока стали настоящими победителями. Как может выглядеть конечное состояние рынка кодинга: два крупных игрока, длинный хвост нишевых продуктов и возможный передел, если Microsoft, Mistral, xAI или китайские лаборатории сильнее надавят на кодинг. Где у прикладных компаний всё ещё есть пространство против лабораторий: почему frontier-лаборатории пытаются расширяться в вертикали вроде финансов и здравоохранения, но всё же оставляют место сфокусированным компаниям, которые владеют рабочим процессом и «последней милей». Почему кодинг может быть превью каждого другого AI-рынка: первая категория, по-настоящему ушедшая в параболу, самый явный пример столкновения компаний-разработчиков фундаментальных моделей с прикладными компаниями и шаблон того, как могут развиваться будущие вертикальные AI-рынки. Почему оценки в AI теперь ощущаются безграничными: от продуктов с миллиардом долларов ARR, построенных за год, до триллионных рыночных капитализаций — swyx и Jacob разбирают, как AI-рынок сломал традиционную стартап-интуицию о масштабе и устойчивости. Потребительский AI vs. кодинг-AI: почему потребительская категория ChatGPT, возможно, вышла на плато по частоте и дизайну продукта, тогда как кодинг продолжает ощущаться категорией ежедневного использования с реальным импульсом. Следующий продуктовый фронтир за пределами кодинга: потребительские агенты, computer use и «кодинг-агенты, вырывающиеся за пределы», с тезисом swyx о том, что 2025-й был годом кодинг-агентов, а 2026-й может стать годом, когда они начнут делать всё остальное. Действительно ли фундаментальные модели убивают категории стартапов: почему swyx меньше переживает за ранних фаундеров, больше — за стартапы среднего размера и традиционный SaaS, и почему создание чего-то амбициозного теперь может быть лучшим собеседованием в frontier-лабораторию. AI vs. SaaS и внутренняя культурная война вокруг внедрения: напряжение между AI-нативными сотрудниками, которые хотят выкинуть дорогой софт, и скептиками, считающими, что наспех собранные на AI замены создают хрупкие системы. Почему традиционный SaaS может быть под реальным давлением: личный опыт swyx, потратившего шестизначную сумму на софт для управления событиями и спонсорами, соблазн дёшево пересобрать его на AI и более широкий вопрос о том, будут ли команды доверять кастомным AI-нативным заменам. Биобезопасность, безопасность и доступ к frontier-моделям: почему swyx поднял тему биобезопасности на ужине с Mike Krieger из Anthropic, почему Krieger возразил, что безопасность — более важная проблема, и что ограниченные релизы моделей говорят об Anthropic vs. OpenAI. Эра гигантских моделей: почему системы на 10T+ параметров могут быть лишь временной фазой нормирования до прихода более крупных кластеров, почему лаборатории, возможно, всё чаще будут держать свои самые мощные модели в секрете ради дистилляции и почему один лишь масштаб больше не ощущается полным ответом. Память как самый медленный фактор масштабирования в AI: почему контекстные окна улучшались гораздо медленнее, чем надеялись, почему контекст в миллион токенов всё ещё не изменил большинство реальных рабочих процессов и почему память может быть ключевым узким местом для следующего поколения систем. В чём swyx изменил своё мнение за последний год: стал больше верить в открытые модели, больше убеждён, что верхний эшелон агентских стартапов ведёт себя совсем иначе, чем медианная AI-компания, и больше оптимистичен насчёт файнтюнинга и специализированной адаптации моделей. «Тёмные фабрики» (dark factories) и кодинг без ревью человеком: следующий фронтир после кода, не написанного человеком, где модели не только пишут код, но и выкатывают его без человеческого ревью, вынуждая компании переосмыслить тестирование и верификацию с первых принципов. Почему RL и пост-тренировка могут значить больше, чем предполагали: даже если получившиеся модели выбрасываются каждые несколько месяцев, данные, рабочие процессы и доменно-специфичные улучшения остаются. Синтетические рубрики, Doctor GRPO и многошаговый RL: почему обучение с подкреплением становится гораздо более доменно-специфичным и многошаговым, чем многие осознают, открывая дверь к гораздо более глубокой кастомизации. Следующий фронтир после кодинга: память, персонализация и world models, в том числе почему swyx считает, что world models важны не только для робототехники или игр, но и для того, чтобы дать AI нечто более близкое к прожитому пониманию. Fei-Fei Li, пространственный интеллект и аналогия с «Умницей Уиллом Хантингом»: идея о том, что сегодняшние LLM, возможно, знают всё, прочитав это, но всё ещё лишены прожитого опыта, который превращает знание в более глубокий вид интеллекта.

Timestamps

Тайм-коды

00:00:00 Превью: войны AI-кодинга, давление на стартапы и структура рынка00:00:28 Добро пожаловать на кроссовер Latent Space × Unsupervised Learning00:01:17 На чём сейчас сосредоточены AI-билдеры: OpenClaw, харнессы и инфраструктура00:04:33 Почему AI-инфраструктура сложнее приложений и где стартапы всё ещё могут выиграть00:06:39 Стоит ли компаниям обучать собственные модели?00:09:28 Открытые модели, кастомные чипы и новая гонка инференса00:11:25 Проектирование продуктов для агентов, а не только для людей00:16:49 Состояние войн AI-кодинга в 2026 году00:19:27 Исследование возможностей, токен-максинг и почему кодинг уходит в параболу00:21:41 Как может выглядеть конечное состояние рынка кодинга00:23:50 Где у прикладных компаний всё ещё есть пространство против лабораторий00:27:02 Почему оценки и рыночные колебания в AI ощущаются беспрецедентными00:28:56 Потребительский AI vs. кодинг-AI и почему «липкие» продукты всё ещё важны00:32:28 Каким может быть следующий прорывной опыт продукта00:32:53 Тезис 2026: кодинг-агенты вырываются за пределы и пожирают мир00:35:27 Уничтожают ли фундаментальные модели категории стартапов?00:37:33 AI vs. SaaS, vibe coding и внутренние напряжения в командах00:40:01 Биобезопасность, безопасность и политика ограниченных релизов моделей00:42:19 Гигантские модели, ограничения по вычислениям и пределы масштаба00:44:30 Память как реальное узкое место в AI00:44:57 Почему swyx изменил мнение об открытых моделях00:47:44 Тёмные фабрики и будущее кодинга без ревью человеком00:49:36 Почему пост-тренировка и RL могут значить больше, чем думают00:51:50 Память, world models и следующий фронтир интеллекта00:53:54 Аналогия с «Умницей Уиллом Хантингом» для LLM00:54:21 Заключение

Transcript

Транскрипт

[00:00:00] swyx: Isn’t that crazy? That number is just mind boggling.

[00:00:00] swyx: Разве это не безумие? Эта цифра просто не укладывается в голове.

[00:00:03] Jacob Effron: What is the state of the AI coding wars today?

[00:00:03] Jacob Effron: Каково сегодня состояние войн AI-кодинга?

[00:00:05] swyx: We’re in a phase of sort of like capability exploration. The general thesis that I have been pursuing now is that the same way that 2025 was a year coding agents 2026 is coding agents breaking containments to do everything else.

[00:00:05] swyx: Мы находимся в фазе своего рода исследования возможностей. Общий тезис, который я сейчас продвигаю, в том, что так же, как 2025-й был годом кодинг-агентов, 2026-й — это кодинг-агенты, вырывающиеся за пределы, чтобы делать всё остальное.

[00:00:16] Jacob Effron: Do you worry about the foundation models just getting into a bunch of these startup categories?

[00:00:16] Jacob Effron: Тебя беспокоит, что фундаментальные модели просто зайдут в кучу этих стартап-категорий?

[00:00:21] swyx: Mid-size startups. Yes.

[00:00:21] swyx: Стартапы среднего размера. Да.

[00:00:23] Jacob Effron: What do you think the end state of this market is

[00:00:23] Jacob Effron: Как ты думаешь, каким будет конечное состояние этого рынка?

[00:00:25] swyx: for the market structure to, to significantly change? There would be

[00:00:25] swyx: чтобы структура рынка существенно изменилась? Понадобилось бы

[00:00:28] Jacob Effron: today on unsupervised learning. We had a, a fun episode and what’s really become an annual tradition, a crossover episode with our friends at Latent space.

[00:00:28] Jacob Effron: сегодня в Unsupervised Learning. У нас был весёлый эпизод и то, что по-настоящему стало ежегодной традицией, — кроссовер-эпизод с нашими друзьями из Latent Space.

Swix and I sat down and we talked about everything happening in the AI ecosystem today. What we thought of the various changes at the model layer, what’s happening in the infra world, the coding wars, and a bunch of other things. It’s a ton of fun to do this with someone I really respect and another great podcaster in the game.

Мы со swyx сели и поговорили обо всём, что происходит сегодня в AI-экосистеме. О том, что мы думаем о различных изменениях на уровне моделей, что происходит в мире инфраструктуры, о войнах кодинга и о куче других вещей. Это огромное удовольствие — делать это с человеком, которого я по-настоящему уважаю, и ещё одним отличным подкастером в этой игре.

Without further ado, here’s our episode. Well switch. This is, uh, super fun to be back with another unsupervised learning, uh, latent space crossover episode.

Без лишних слов — вот наш эпизод. Что ж, swyx. Это, э-э, супер-весело — снова вернуться с ещё одним кроссовером Unsupervised Learning × Latent Space.

[00:01:02] swyx: Yeah,

[00:01:02] swyx: Да,

[00:01:02] Jacob Effron: I feel like a lot of places we could start, but you know, one thing I always find fascinating, uh, about the way you spend your time is you obviously are like at the epicenter of this engineering movement and community, and you run these events and conferences and put on these.

[00:01:02] Jacob Effron: Чувствую, что можно начать с многих точек, но знаешь, одна вещь, которую я всегда нахожу захватывающей, э-э, в том, как ты проводишь своё время, — это то, что ты, очевидно, находишься в эпицентре этого инженерного движения и сообщества, проводишь эти мероприятия и конференции и устраиваешь эти.

Awesome talks and, and I think just have a great pulse on the zeitgeist of what’s going on.

Классные доклады и, я думаю, просто отлично чувствуешь пульс духа времени — того, что происходит.

[00:01:16] swyx: Yeah.

[00:01:16] swyx: Да.

[00:01:17] Jacob Effron: Maybe to, to start just what are the biggest topics people are thinking about right now?

[00:01:17] Jacob Effron: Может, для начала — какие самые большие темы сейчас занимают умы людей?

[00:01:21] swyx: Yeah, so I just came back from London, uh, where we did a IE Europe and we’re doing roughly one per quarter now, which Yeah, you’ve

[00:01:21] swyx: Да, я только что вернулся из Лондона, э-э, где мы проводили AIE Europe, и сейчас мы делаем примерно по одной в квартал, что, ну, ты

[00:01:27] Jacob Effron: really up

[00:01:27] Jacob Effron: реально нарастил

[00:01:27] swyx: the, hopefully

[00:01:27] swyx: , надеюсь

[00:01:28] Jacob Effron: up the, up the pace.

[00:01:28] Jacob Effron: нарастил, нарастил темп.

[00:01:29] swyx: It’s trying. We’re trying to match AI speed, you

[00:01:29] swyx: Стараемся. Пытаемся соответствовать скорости AI, ну

know?

знаешь?

[00:01:30] Jacob Effron: Yeah, exactly. The tops would be completely different, I imagine. Uh,

[00:01:30] Jacob Effron: Да, точно. Темы, наверное, были бы совершенно другими, я полагаю. Э-э,

[00:01:33] swyx: yeah. You know, I definitely curate the tracks, like you can see what I think. When you see the track list and the, the speakers that I invite, obviously Open Claw is like the story of the last four or five months, and then be, be just below that.

[00:01:33] swyx: да. Знаешь, я определённо курирую треки, так что по ним видно, что я думаю. Когда видишь список треков и спикеров, которых я приглашаю, очевидно, OpenClaw — это, типа, история последних четырёх-пяти месяцев, а сразу под этим.

I would consider harness engineering, context engineering to be two related topics in agents and rag. And then there’s a long tail of Evergreen stuff like evals, observability, GPUs, uh, and uh, LM infra and just general, just in general. We also have other updates on like multimodality and, uh, generative media, let’s call it.

Я бы поставил инженерию харнессов и контекстную инженерию — две связанные темы в области агентов и RAG. А дальше есть длинный хвост вечнозелёных вещей вроде evals, observability, GPU, э-э, и LLM-инфраструктуры, и просто в целом. У нас также есть другие апдейты по мультимодальности и, э-э, генеративным медиа, назовём это так.

Um, but I definitely, the, the first three that I mentioned are top of mind people. Yeah.

Хм, но я определённо… первые три, что я упомянул, у людей на уме. Да.

[00:02:13] Jacob Effron: I think harness is particular like, so interesting. Um, you know, there was this tweet from Harrison Chase, the, the lane chain, CEO, that, that caught my eye recently where he said, you know, it finally feels like we have stability, uh, around the infrastructure for, uh, you know, around ai.

[00:02:13] Jacob Effron: Я думаю, харнессы особенно, типа, такие интересные. Хм, знаешь, недавно был этот твит от Harrison Chase, CEO LangChain, который зацепил мой взгляд: он сказал, знаешь, наконец-то ощущается, что у нас есть стабильность, э-э, вокруг инфраструктуры для, ну, знаешь, вокруг AI.

And I think what. He basically was implying his like, look over the past two, three years as a company at the epicenter of AI infrastructure, it was a bit like playing whack-a-mole, right? You were constantly moving around with, however, the building patterns were evolving

И я думаю, то, что он по сути подразумевал, это: смотри, за последние два-три года, как компания в эпицентре AI-инфраструктуры, это было немного похоже на игру в «прихлопни крота», верно? Тебя постоянно мотало вместе с тем, как эволюционировали паттерны разработки.

[00:02:36] swyx: for Harrison for sure. Right? Like he’s basically had to reinvent the company every year since he started Lang Chain.

[00:02:36] swyx: Для Harrison — точно, верно? Типа, ему по сути приходилось переизобретать компанию каждый год с тех пор, как он основал LangChain.

Right? It was Lang chain, Ang graph and LP agents and like, uh, I think he’s like one of the most nimble, adept sharp people about this. Yeah. Yeah.

Верно? Это был LangChain, LangGraph и LLM-агенты и, типа, э-э, я думаю, он один из самых гибких, ловких и проницательных людей в этом плане. Да. Да.

[00:02:49] Jacob Effron: Saying now, now is finally the time stability

[00:02:49] Jacob Effron: Говорит теперь — теперь наконец время стабильности

[00:02:51] swyx: this. Yeah.

[00:02:51] swyx: это. Да.

[00:02:52] Jacob Effron: Yeah. Um, do you buy that or what have you kind of make of that take?

[00:02:52] Jacob Effron: Да. Хм, ты с этим согласен или как ты воспринимаешь эту мысль?

[00:02:56] swyx: I think that. It, it’s very expensive to say this Time is different sometimes, but when you’re just writing code, like it’s actually okay to just like try to make a call and I think it may not even matter if this call is right or not.

[00:02:56] swyx: Я думаю, что. Иногда очень дорого обходится говорить «на этот раз всё иначе», но когда ты просто пишешь код, на самом деле нормально просто попытаться сделать ставку, и я думаю, может даже не иметь значения, верна эта ставка или нет.

Like I just don’t even care that much because you can be right on a thesis, but if you don’t, you don’t figure out how to monetize the thesis, then who cares if you said something first that said, um, it does feel like, for example. Uh, we went through a lot of different ways of passion packaging integrations up with, uh, with agents.

Типа, мне даже не так уж важно, потому что можно быть правым в тезисе, но если ты не разберёшься, как монетизировать тезис, то кого волнует, что ты первым что-то сказал. При этом, хм, всё же ощущается, например. Э-э, мы прошли через множество разных способов упаковки интеграций с, э-э, агентами.

And it feels like we’ve landed at skills, which is like the minimal viable format. Yeah. Which is just a markdown file, uh, with some scripts attached to it, and I don’t see how it can be more simple than that. And so there is some justification for. The stability around harnesses. I feel like there may be more adaptation with regards to maybe like the real time elements or subagents or memory or any of those like agent disciplines, let’s call it in, in agent engineering.

И ощущается, что мы пришли к skills, которые являются, типа, минимально жизнеспособным форматом. Да. Это просто markdown-файл, э-э, с прикреплёнными к нему скриптами, и я не вижу, как это можно сделать проще. И поэтому есть некоторое оправдание для. Стабильности вокруг харнессов. Я чувствую, что может быть больше адаптации в отношении, скажем, элементов реального времени, или субагентов, или памяти, или любой из этих, скажем, агентских дисциплин — в агентской инженерии.

Uh, but if, if the thesis is that, okay, you just want agents are LMS with tools in the loop with a file system, what they can do. Retrieval with, with skills and all these like standard tooling that now seems to be relatively consensus then probably. That makes sense. Um, I just think like there’s no point trying to stake your reputation on this thesis that we’re there because if it changes again, just change with it.

Э-э, но если, если тезис в том, что окей, ты просто хочешь, чтобы агенты были LLM с инструментами в цикле, с файловой системой, чтобы они могли делать. Retrieval, с skills и всем этим стандартным тулингом, который теперь кажется относительным консенсусом, то, наверное. В этом есть смысл. Хм, я просто думаю, что нет смысла пытаться ставить свою репутацию на тезис, что мы «уже там», потому что, если оно снова изменится, просто меняйся вместе с ним.

It’s fine.

Это нормально.

[00:04:33] Jacob Effron: Yeah. It’s always, you know, I’ve always been struck by how that is. Much more challenging for infrastructure companies and application companies. Like obviously I think, yeah. You know, on the application side you’ve seen, you know, Brett Taylor from Sierra Max, from Lara. Like, they’re like, look, we build, you know, what’s ahead of the models and we’re willing to throw everything out every three months, you know, as the models get better and better.

[00:04:33] Jacob Effron: Да. Знаешь, меня всегда поражало, насколько это сложнее для инфраструктурных компаний, чем для прикладных. Типа, очевидно, я думаю, да. Знаешь, на стороне приложений видно, ну, знаешь, Brett Taylor из Sierra, Max из Lara. Типа, они такие: смотри, мы строим, знаешь, то, что находится впереди моделей, и мы готовы выбрасывать всё каждые три месяца, знаешь, по мере того как модели становятся всё лучше и лучше.

Exactly. Yeah. But the thing you at least have there is you have. Uh, you have an end customer, right? That’s like decently sticky. Um, you know, they will mostly stick, you know, they’ll, they’ll give you a shot at least of, of building these things. What I’ve always found more challenging, uh, at, at the kind of like, you know, reinvent yourself every three months of the infrastructure layer, it’s like, you know, developers are definitely a, a pickier audience maybe than an accounting firm or, uh, you know, a bank.

Именно. Да. Но то, что у тебя там по крайней мере есть, — это. У тебя есть. Э-э, у тебя есть конечный клиент, верно? Который, типа, прилично «липкий». Хм, знаешь, они в основном останутся, знаешь, они хотя бы дадут тебе шанс построить эти штуки. Что я всегда находил более сложным, э-э, на уровне, типа, знаешь, переизобретай-себя-каждые-три-месяца инфраструктурного слоя, — это, типа, знаешь, разработчики определённо более придирчивая аудитория, может быть, чем бухгалтерская фирма или, э-э, знаешь, банк.

Yeah. And so it’s definitely a, a, a more challenging position to be in to, to have to constantly reinvent yourself.

Да. И поэтому это определённо более сложная позиция — постоянно переизобретать себя.

[00:05:17] swyx: Yeah. Yeah. Yeah. And, and like when they turn, it’s like. Very complete. Like, they’ll leave to like the, the hot new thing, uh, because there’s like no defensibility, I guess. Like e even, even if you are a database, like, uh, people can migrate workloads off databases.

[00:05:17] swyx: Да. Да. Да. И, и, типа, когда они уходят, это, типа. Очень полностью. Типа, они уйдут к, типа, новой горячей штуке, э-э, потому что там, типа, нет защищённости, наверное. Типа, даже, даже если ты база данных, типа, э-э, люди могут мигрировать нагрузки с баз данных.

Like it’s, it’s a, it’s a known thing. Uh, so I think like basically what we’re talking about is the vertical versus horizontal, uh, debate in, in AI startups. And uh, the way I think about it also is just that like when you are. Um, Lara, when you are a bridge, like you are the outsource AI team, right? You, you are, your job is to apply whatever state ofthe art AI methods.

Типа, это, это известная штука. Э-э, так что я думаю, что по сути то, о чём мы говорим, — это спор о вертикальном vs. горизонтальном, э-э, в AI-стартапах. И, э-э, я думаю об этом ещё и так: когда ты. Хм, Lara, когда ты bridge, типа, ты — аутсорсная AI-команда, верно? Ты, твоя работа — применять любые передовые AI-методы.

[00:05:55] Jacob Effron: Yeah. Like this translation layer between model capabilities and your

[00:05:55] Jacob Effron: Да. Типа, этот слой-переводчик между возможностями модели и твоими

[00:05:57] swyx: own customers. Yeah. To, to the end customers and like, well, if they didn’t have you, they would’ve to hire in house and they’re not gonna hire in house so they have you. And like, I think that’s like a reasonable, like very robust to any whatever trends and, and discoveries that people make in, in the engineering layer.

[00:05:57] swyx: собственными клиентами. Да. К конечным клиентам, и, типа, ну, если бы у них не было тебя, им пришлось бы нанимать своих, а нанимать своих они не будут, так что у них есть ты. И, типа, я думаю, это, типа, разумно, типа, очень устойчиво к любым там трендам и открытиям, которые люди делают на инженерном слое.

I do think like there is, um. It like sort of useful horizontal companies being built, but they’re all. Very much like, sort of like the reinventions of classic cloud in the AI era and the, the primary one being sandboxes. Yeah. Um, which like, it’s another form of compute guys, like, let’s not get too excited about it.

Я всё же думаю, что есть, хм. Типа, строятся вроде как полезные горизонтальные компании, но все они. Очень похожи, типа, на переизобретения классического облака в эпоху AI, и главное из них — это песочницы (sandboxes). Да. Хм, что, типа, это ещё одна форма compute, ребят, типа, давайте не будем слишком возбуждаться по этому поводу. Но я имею в виду, типа, нагрузки огромны.

But I mean, like the, the workloads are enormous.

[00:06:38] Jacob Effron: Верно.

[00:06:38] Jacob Effron: Right.

[00:06:38] swyx: Да.

[00:06:38] swyx: Yeah.

[00:06:39] Jacob Effron: Интересно, и мне кажется, что в рамках этого, знаешь, вопросы, которые люди задают про инфраструктуру, во многом крутятся вокруг того, в какой степени компаниям стоит иметь собственные AI-команды и что им стоит делать своими силами.

[00:06:39] Jacob Effron: It’s interesting, and I feel like as, as part of this, you know, the questions that folks are asking around infrastructure, there’s a lot around, you know, the extent to which companies should have their own AI teams and what they should be doing in-house.

И, знаешь, э-э, я думаю, есть вопросы вроде: стоит ли людям обучать собственные модели? Стоит ли людям делать, знаешь, RL своими силами на основе данных, которые у них есть? Мне кажется, знаешь, приходится эволюционировать свои взгляды на это каждые три месяца в таком темпе. Но где, где ты в этом сегодня?

And, you know, uh, I think there’s questions around should people be training their own models? Should people be doing, you know, rl, uh, in-house based on the data they have? I feel like, you know, one has to evolve their takes on this every, every three months with paces. But where, where are you at on this today?

[00:07:00] swyx: Я думаю, ну, на самом деле все модели пошли вверх. Хм, и, очевидно, я вовлечён в Cognition, а также Cursor делает много собственного обучения моделей. И я думаю, что это часть того, что я называю плейбуком агентской лаборатории, где ты начинаешь с передовых моделей от, э-э, больших лабораторий и, э-э, специализируешься под свой домен.

[00:07:00] swyx: I think, well, I mean actually all models have gone up. Um, and obviously I’m involved in cognition and also cursors doing, doing, uh, a lot of own model training. And I think that that is some part of the, what I’ve been calling the agent lab playbook, where you start off with the state of the art models from, uh, from the big labs and you, uh, specialize for your domain.

Но как только у тебя достаточно нагрузки и достаточно качественных данных от пользователей, то ты, очевидно, можешь обучать собственные модели и, типа, сильно экономить на стоимости и задержке и всём этом хорошем. Хм, ты также получаешь, типа, маркетинговый бонус — назвать это каким-нибудь модным именем и выпустить какой-нибудь research.

But once you have enough workload and enough high quality data from your users, then you can obviously train your own models and like save a lot on cost and latency and all that, all that good stuff. Um, you also get like a marketing bonus of like calling it some fancy name and putting out some research

[00:07:38] Jacob Effron: со своего места.

[00:07:38] Jacob Effron: from my seat.

Я не могу понять, насколько это, знаешь, реальная ценность, которую дают конечному пользователю. И насколько это тот самый маркетинговый бонус, верно? Кажется, какая-то комбинация

I can’t tell how much of it is like actual, you know, value that’s provided to the end user. And how much of it is that marketing bonus? Right. It seems some combination of the

[00:07:45] swyx: Я думаю, и то и другое.

[00:07:45] swyx: I think it’s both.

[00:07:46] Jacob Effron: Да.

[00:07:46] Jacob Effron: Yeah.

[00:07:46] swyx: Хм, нет, нет. Там, там действительно есть реальная ценность. Хм, и ты, ты знаешь это по ряду причин. Типа, во-первых, даже когда это не субсидируется, люди выбирают это как одну из топ-четырёх-пяти.

[00:07:46] swyx: Um, no, no. There, there actually is real value. Um, and you, you know that for a number of reasons. Like one, even when it’s not subsidized, people do choose it as like one of the top four or five.

Это и Composer 2, и, э-э, Sweet 1.6 — одна из топ-пяти моделей. Типа, на, на честном рынке? На свободном рынке, да. При, при, при переключении модели. Люди всё-таки её выбирают, и, типа, это не субсидируется. Типа, так что это настолько хорошо, насколько может быть. Э-э, но помимо этого, типа, доменно-специфичные модели, например. Для поиска, который, который есть у обеих компаний, абсолютно имеет, имеет огромный смысл.

This is both composer two and, uh, suite 1.6 I one of the top five models. Like in a, in a fair market? In a free market, yeah. In a, in a, in a model switch. Or people do choose it and like, it’s not subsidized. Like, so that’s as good as it gets. Uh, but beyond that, like domain specific models, for example. For search with, with both, which both companies have absolutely makes, makes a ton of sense.

Все говорят, типа, да, нам всегда, всегда стоит так делать. И честно, типа, я думаю, инфраструктура для этого становится проще с, хм, типа, штукой Tinker от Thinking Machines, а также первичными, типа, э-э, лабораторными штуками. Да, типа, это один из тех, типа, разворотов горького урока (bitter lesson), где ты сначала бутстрапишься на крупных моделях и моделях общего назначения, чтобы вырасти.

Everyone says like, yeah, we should always, always do this. And honestly like, I think the infrastructure for that is becoming easier with, um, like thinking machines tinker thing as well as primary like, uh, lab stuff. Yeah, I mean like, this is one of those like reversal of the, the bitter lesson where you first bootstrap on the large models and the general purpose models to get big.

А по мере того как ты получаешь очень чётко определённые нагрузки, которые просто большого объёма, но не большой вариативности, хм, то ты просто дистиллируешь до меньшей модели и запускаешь её сам. Верно. Что, типа, абсолютно имеет смысл.

And as you get very well-defined workloads that are just high quantity but not high variance, um, then you just distill down to a smaller model and run that on your own. Right. Which like totally makes sense.

[00:08:50] Jacob Effron: В чём мне менее ясно — это, типа, кейс DIY RL, который, я думаю, в основном про, знаешь, улучшенное, э-э, качество для, для разных вещей.

[00:08:50] Jacob Effron: What I’m less clear on is the kind of DIY RL use case, which I think is really mostly around, you know, improved, uh, quality for, for different things.

Очевидно, наверное, есть, типа, более эффективные способы, знаешь, получить меньшую модель, которая быстрее и дешевле. И будет интересно посмотреть, действительно ли. Знаешь, очевидно, у тебя было, знаешь, э-э, два-три года назад, вся эта история с компаниями, которые, знаешь, делали предобучение и заявляли о лучших результатах в своих доменах, чем, и оказывались как бы «сваренными» по мере того, как каждая итерация модели улучшалась.

Obviously there’s probably like more efficient ways to, you know, get a smaller model that’s that’s faster and cheaper. And it’ll be interesting to see whether. You know, obviously you had, you know, uh, two, three years ago this whole case of companies that were, you know, pre-training and claiming better outcomes in, in their domains than getting kind of cooked as each model iteration improved.

Знаешь, я задаюсь вопросом, не разыграется ли похожая история в, э-э, в, в, в RL-пространстве. Да, для фокуса на, на чистых результатах и качестве, а не на стороне стоимости, где явно собственные модели ради стоимости на масштабе имеют огромный смысл.

You know, I wonder whether that’s a, a similar story plays out in the, uh, in, in the, our all space. Yeah, for the focus on, on on pure outcomes and quality, not the cost side, which clearly your own models for cost at scale makes a ton of sense.

[00:09:28] swyx: Я думаю, что это две стороны одной медали.

[00:09:28] swyx: I think there are this, there are two sides of the same coin.

Типа, ты по сути всегда хочешь держать, э-э, качество постоянным или жертвовать чуть-чуть качества ради резкого снижения стоимости. И это верно для всех. Э-э, один элемент, который я хотел вытащить наружу, который очень в пользу открытых моделей, — это кастомные чипы. Так что это были бы Cerebras, а также Groq. А ещё есть огромный диапазон всего между ними.

Like you basically always want to hold, uh, quality constant or trade off a little bit of quality for a drastic decreasing cost. And that’s true for everyone. Uh, one element I wanted to bring out, which is very much in favor of open models, is custom chips. So this would be cereus, but also talu. And then there’s a huge range of stuff in between.

Это была огромная история в этом прошедшем году — что просто всё не-NVIDIA взвинчивается в цене, включая, типа, чёртов MatX, который работает на, что очень, что очень приятно для меня, но я думаю, один из тех случаев, когда, типа, о, типа, внезапно, потому что число альтернативного. Жел-, э-э, железа растёт, и инференс, который можно получить, безумно высок.

This has been a huge story this past year on just like everything non Nvidia is getting bid up, including like freaking MatX is working for, which is very, which is very rewarding for me, but I think one of those things where like, oh, like the suddenly, because the number of alternative. Hard, uh, hardware is increasing and the inference that you can get is insanely high.

Типа, хм, мы говорим о тысячах токенов в секунду вместо менее ста. Так что компромисс по качеству больше так не держится, потому что скорость такая высокая.

Like, um, we’re talking thousands of tokens per second instead of less than a hundred. So the trade off for qua quality doesn’t hold as much anymore because the speed is so high.

[00:10:24] Jacob Effron: Ты видел, чтобы много компаний всё поставили на альтернативный чип?

[00:10:24] Jacob Effron: Have you seen a lot of companies go all in on the alternative chip?

[00:10:26] swyx: Так вот, Cognition — да. На Cerebras, э-э, и так же OpenAI.

[00:10:26] swyx: So cognition has Yeah. On Cerebras, uh, and, and so has OpenAI

Хм, э-э, и так что нет, не думаю, что помимо этого, э-э, и это, ты думаешь, это, типа, в основном, это предвестие, это, да. Раньше я был как бы скептиком в плане, типа, окей, и что с того, что я получу свой инференс на ста токенах в секунду, ускоренный до 200 токенов в секунду. Это всего лишь в два раза быстрее.

Um, uh, and so no, I don’t think so beyond that, uh, and that, do you think that’s like a, that’s mostly, that’s foreshadowing of, that’s, yeah. I used to be kind of a skeptic in terms of like, okay, so what if I get my inference at a hundred to a hundred tokens per second sped up to 200 tokens per second. It’s only two X faster.

Это не такое уж большое дело. Хм, но когда ты, э-э, я думаю, каждое 10x действительно разблокирует другой паттерн использования. Хм, и у нас есть доказательства в Groq и некоторых других. Что ты действительно можешь, хм, резко улучшить скорость инференса, и что из этого выйдет? Я даже толком не знаю, типа, так сложно предсказать, когда целые приложения просто появляются разом.

It’s not that big a deal. Um, but when you, uh, I think every 10 x does unlock a different usage pattern. Um, and you, we have proof in Talas and, and some of the others. That you can actually, um, drastically imp improve inference speed and what happens from there? I don’t even really know, like it’s, it’s so hard to predict when entire applications just appear at once.

Да. Э-э, и это к тому же не так уж дорого, верно? Так что, типа, хм, это одна из тех вещей, где, типа, я, я думаю, что инвестиционный цикл будет многолетним. Хм, и я. Предостерёг бы людей не списывать это слишком, слишком быстро.

Yeah. Uh, and it also isn’t that expensive, right? So like, um, this is one of those things where like, I, I think the, the investment cycle is gonna be multi-year. Um, and I. Would caution people to not dismiss it too, too quickly.

[00:11:25] Jacob Effron: Да. Я имею в виду, ещё один, типа, инфраструктурный вопрос, по которому мне было любопытно услышать твои мысли: очевидно, кажется, что всё чаще многие из передовых инфраструктурных компаний строят для агентов как покупателей их продукта или пользователей их продукта, верно?

[00:11:25] Jacob Effron: Yeah. I mean, one other like infra question I was curious to get your thoughts on is obviously it seems increasingly a lot of the cutting edge infra companies are building for agents as the buyers of their product or users of their product, right?

[00:11:35] swyx: О-о,

[00:11:35] swyx: Ooh,

[00:11:36] Jacob Effron: и

[00:11:36] Jacob Effron: and

[00:11:37] swyx: ещё одна огромная тема. Да. Да.

[00:11:37] swyx: another huge theme. Yeah. Yeah.

[00:11:38] Jacob Effron: И я пытаюсь понять, типа, что. Что, что нужно делать иначе при продаже агентам? Хм, они просто идеальные рациональные разработчики? Э-э, или есть, знаешь,

[00:11:38] Jacob Effron: And I’m trying to figure out like what. What, what do you have to do differently about selling into agents? Um, are they just the ultimate rational developers? Uh, or is there, you know,

[00:11:46] swyx: нет, абсолютно нет. Хм, я думаю, что они легко поддаются prompt injection и, э-э, очень настроены на, типа, по сути, наращивание существующих победителей.

[00:11:46] swyx: no, absolutely not. Um, I think they are easily prompt, injected and, uh, very tuned towards like, basically com compounding existing winners.

[00:11:57] Jacob Effron: Да,

[00:11:57] Jacob Effron: Yeah,

[00:11:57] swyx: так что, типа, если, типа, поздравляю, если ты выиграл лотерею и попал в обучающие данные прямо перед 2023-м, потому что теперь ты, типа, установлен там в обозримом будущем. Но да. Э-э, знаешь, одна статистика, которую CTO Vercel, э-э, Malte обронил на моей конференции, была в том, что теперь, э-э, 60% трафика к, хм, типа, app-архитектуре, типа, админ-приложению для, типа, настройки приложений Vercel, э-э, это боты.

[00:11:57] swyx: so like if, like, congrats if you won the lottery for getting into the training data right before 2023, because now you’re like installed in there for the foreseeable future. But yeah. Uh, you know, one stat that Versal, uh, CTO Malta dropped at my conference was that there are now, uh, 60% of traffic to Elle’s, um, like app arch, like admin app architecture for like configuring versal applications, uh, is bought.

Это не, это не человек. Э-э, так что, типа, твой основной клиент теперь — агенты. Хм, и это в основном, типа, в основном кодинг-агенты, в основном люди, использующие CLI на CP или что там. Но да, я думаю. Больше. Я, я думаю, шаг первый: если что-то не существует как API, которым агенты могут пользоваться, то этого не существует. Верно, верно. Что, я думаю, это, типа, э-э, в любом случае хорошая гигиена — делать всё доступным через API, но не как, типа, дополнительный, хм.

It’s not, it’s not human. Uh, so like your primary customer is agents now. Um, and it’s mostly co like mostly coding agents, mostly people using CLI on CP or whatever. But yeah, I mean, I think. More. I, I think step one, if it doesn’t exist as an API that agents can use, it doesn’t exist. Right, right. Which I think is like, uh, it’s a good hygiene thing anyway, to, to make everything API available, but not as like an extra, um.

Подталкивай, типа, продуктовых людей работать не только над UI, хм, тебе, наверное, стоит работать над CLI-штуками. Помимо этого, я думаю, честно, есть, типа, так что я, я исхожу из ощущения, что, я думаю, всё, что ты пытаешься делать сейчас для опыта агентов (agent experience) — это термин, который Matt Bowman из Nullify пытается ввести — это то же самое, что ты должен был делать для опыта разработчиков (developer experience).

Push on like products, people to not only work on the ui, um, you should probably work on the on SCLI stuff. Beyond that, I think honestly there is like, so I, I come from the sensibility of, I think everything that you are trying to do for agents experience now, which is the term that Matt Bowman and Nullify is trying to coin, is the same thing that you should have been doing for developer experience.

Что у тебя должна была быть хорошая документация, у тебя должен был быть консистентный API, э-э, который. В основном без состояния (stateless). Хм, у тебя должно было быть, наверное, что-то обнаруживаемое, или прогрессивное раскрытие, или, типа, поиск, или, типа, что угодно. И вот теперь, когда у людей есть энергия на, типа, поиск этих клиентов, чтобы это делать, это здорово. Хм, верю ли я в.

That you should have had good docs, you should have had a consistent API, uh, that is. Mostly stateless. Um, you should have, I guess, discoverable or progressive disclosure or like search or like whatever. And so now that people have energy in like finding these customers to do that, that’s great. Um, do I believe in.

Расширение за пределы этого во что-то вроде AEO, хм, для игр в чатботы? Не обязательно, но очевидно, будут огромные преимущества, когда люди, кто разберётся в краткосрочных выигрышах. Да. И краткосрочные выигрыши могут накапливаться.

Extending beyond that into something like a EO, um, for gaming The chatbots? Not necessarily, but obviously there’s gonna be huge advantages when people who figure out the short term wins. Yeah. And short term wins can compound.

[00:13:43] Jacob Effron: Ты думаешь, эти накапливающиеся преимущества у компаний, попавших в данные предобучения до определённого момента, типа, очевидно, через какой-то период времени, я полагаю, это не сохраняется.

[00:13:43] Jacob Effron: Do you think these compounding advantages to like the, the pre-training data cutoff companies, like, you know, obviously over some period of time, I imagine that doesn’t persist.

И поэтому, когда ты думаешь, типа. Не знаю, через три-четыре года, каковы, знаешь, окажутся критерии отбора. Думаешь, это всё ещё в точности зеркалит то, что ты говорил раньше? Типа, это в точности то, что ты должен был делать всё это время, чтобы продать хороший продукт разработчикам?

And so as you think about like. I dunno, three, four years from now what the, you know, selection criteria end up being. Do you think it still mirrors exactly what you were saying before? Like it’s exactly what you should have been doing all along to sell a good product to developers?

[00:14:01] swyx: Может быть, за исключением того, что я думаю, через три-четыре года у нас, наверное, будет гораздо лучшая память и персонализация.

[00:14:01] swyx: It could be, except that I think in three, four years we’ll probably have much better memory and personalization.

Так что тогда общий AEO или GEO будет не так уж важен. Так что я думаю, какая бы система памяти или персонализации у нас в итоге ни появилась, она, наверное, будет определять, что ты в итоге выбираешь, гораздо больше. Чем то, как обстоит дело сейчас, что — это просто частота упоминаний, назовём это так. Да,

So then general a EO or GEO doesn’t really matter as much. So I think whatever memory or personalization system we end up with will probably d determine what you end up choosing much more. Than, than what is currently the case, which is just frequency of mentions, let’s call it. Yeah,

[00:14:26] Jacob Effron: да.

[00:14:26] Jacob Effron: yeah.

[00:14:26] swyx: Э-э, так что ты просто спамишь количеством, и я думаю, это, я имею в виду, это то, чего я с нетерпением жду.

[00:14:26] swyx: Uh, so you just spa quantity and I think that’s, I mean, that’s something I’m looking forward to.

Я всё же думаю, типа, типа, знаешь, я, я думаю, что фундаментальное упражнение, которое надо проработать для себя, — это: если ты начинаешь новую, хм, типа. Э-э, компанию-дизраптор. Сейчас есть, есть большой инкумбент, которого все знают, типа, типа Supabase. Supabase — это, типа, как Postgres, типа, инкумбент в базах данных, э-э.

I do think, like, like, you know, I, I think that the fundamental exercise to work through for yourself is if you start a new, um, sort of. Uh, disruptor company. Now there’s a, there’s a big incumbent that everyone knows, like, like superb base. Super base is like, kind of like the Postgres, like database, uh, incumbent.

Если хочешь начать, типа, новый Supabase, как бы ты с ними конкурировал? И у меня необязательно есть ответ, но я, я, я всё же думаю, типа, люди, типа Resend, типа относительно новый. Думаю, они начали, типа, в 20, 23-м, и всё равно был, был недавний опрос, где, типа, люди. Проверили, что Claude рекомендует по умолчанию.

If you wanna start like new superb base, how would you compete with them? And I don’t necessarily have the answer, but I, I, I do think like people, like resend like relatively new. I think they would start like 20, 23 and still there was, there was a recent survey where like, people. Checked what Claude recommends by default.

Если ты просто ничем его не промптишь, просто говоришь: дай мне почтового провайдера, и он говорит: Resend, типа, в 70, 70% каждых случаев. Типа, сам факт, что ты можешь туда попасть при таком относительно коротком существовании, я думаю, это, это обнадёживает.

If you just don’t prompt it with anything, just say, gimme an email provider and says, resent as in like 70, 70% of each cases. Like the fact that you can get in there with like such a relatively short existence, I think is, is encouraging.

[00:15:14] Jacob Effron: Да.

[00:15:14] Jacob Effron: Yeah.

[00:15:14] swyx: Я всё же думаю, типа. Хм, ты действительно хочешь сделать что бы то ни было, чтобы, типа, попасть в этот очень короткий набор упоминаний, потому что, хм, их будет не 20, их будет, типа, три.

[00:15:14] swyx: I do think like. Um, you do want to do whatever it is to, to like to, to get in that Very short mentions this because, um, it’s not gonna be 20 of them, it’s gonna be like three.

[00:15:26] Jacob Effron: Нет, определённо. Ощущается, типа, э-э, знаешь, наверное, больше консолидации, чем когда-либо. Э-э, или, или вроде как, знаешь, э-э, рынок «победитель забирает большую часть», чем, может быть, физика выхода на рынок (go-to-market) в прошлом. Да. Могла, э-э, позволять.

[00:15:26] Jacob Effron: No, definitely. It feels like, uh, you know, probably more, more consolidation than ever. Uh, or, or kind of like, you know, uh, a winner take most market than maybe the, the, the physics of go-to market in the past. Yeah. Might have, uh, enabled.

[00:15:38] swyx: Ещё одна штука — это, типа, семантическая ассоциация будет очень важна, э-э, в том смысле, что, типа, ты хочешь делать, типа, комбо-статьи, где ты, типа, используй мою штуку вместе с Vercel, с тем-то и тем-то.

[00:15:38] swyx: The other thing also is like, semantic association is gonna be very important, uh, in the sense that like, you want to do like the combo articles where you’re like, use my thing with for sale, with blah, blah.

И, типа, это всё попадает в, в корпус. И вот это. Наверное, одна штука, которую ты, ты хочешь делать? Ну, не знаю, что ещё. Э-э, это, это, это, это одна из тех штук, где, типа, я думаю, я чувствую, я чувствую, что я отстаю, э-э, не знаю, как ты к этому относишься, но, типа,

And like that all gets picked up in a, in a corpus. And so that’s. Probably one thing that you, you wanna do? Well, I don’t know what else. Uh, it’s, it’s, it’s, it’s one of those things where like, I think I feel, I feel I’m behind, uh, I don’t know how you feel about this, but like,

[00:16:04] Jacob Effron: Я думаю, AI — это просто все постоянно чувствуют, что отстают, э-э,

[00:16:04] Jacob Effron: I think AI is just everyone constantly feeling like they’re behind some, uh,

[00:16:08] swyx: да.

[00:16:08] swyx: yeah.

С,

With,

[00:16:09] Jacob Effron: Я хочу встретить человека, который не чувствует, что отстаёт,

[00:16:09] Jacob Effron: I wanna meet the person that doesn’t feel behind,

[00:16:11] swyx: но, типа, с, с AX, верно? Типа, так что, типа, моя, моя позиция была в точности в том, что я сказал раньше, типа, всё, что ты, что ты должен делать для агентов, — это то, что ты должен был делать для людей в любом случае. Да. И поэтому. В той мере, в какой ты просто получаешь больше энергии, чтобы, чтобы делать вещи для агентов, отлично.

[00:16:11] swyx: but like with, with ax, right? Like, so, so like, my, my stance was that exactly what I said before, like everything that you, that you should do for agents is something that you should have done for humans anyway. Yeah. And so. To the extent that you’re just getting it more energy to, to do things for agents, great.

Но, типа, э-э, трудно сформулировать, что нового, помимо просто, типа, большего спама, хм, ты должен делать. В любом случае, это была бы моя позиция прямо сейчас. Хм, я, я всё же думаю, типа, будет, будет больше витков в этом. Я думаю, виток персонализации, который грядёт, хм, будет большим. И я не знаю, как это выглядит, потому что, типа, по сути мы как бы, мы чувствуем, что как бы выдохлись на стороне памяти.

But like, uh, it’s hard to articulate what new thing apart from just like more spam, um, that you should be doing. Anyway, that would be my take right now. Um, I I, I do think like there, there will be more turns at this. I think the personalization turn that is coming, um, will be big. And I don’t know what that looks like because like basically we’re kind of, we feel kind of tapped out on the memory side of things.

[00:16:49] Jacob Effron: Да. Я, наверное, с тех пор как мы в последний раз болтали, знаешь, ты, ты взял эту роль в Cognition, хм, и у тебя, очевидно, есть, есть место в первом ряду в пространстве AI-кодинга сегодня. Знаешь, мне кажется, кодинг во многих смыслах. Знаешь, люди смотрят на него как на это, типа, я имею в виду, помимо того, что это, типа, мать всех рынков и эта огромная возможность, я думаю, это вроде как превью того, что грядёт для многих других пространств.

[00:16:49] Jacob Effron: Yeah. I, I guess since we last chatted, you know, you, you took this role over at cognition, um, and you’ve obviously have a, have a front row seat to the AI coding space today. You know, I feel like coding in many ways. You know, people view it as this, like, I mean, besides being like the, the mother of all markets and this massive opportunity, I think it’s kinda a preview of like, what’s to come for many other spaces.

И то и другое. Да. Знаешь, мне кажется, агенты наиболее продвинуты в кодинге. Я также чувствую, что, знаешь, конкуренция между фундаментальными моделями и прикладными компаниями, знаешь, и, э-э, зеркалит то, что мы можем увидеть в других пространствах. И поэтому, может, для наших слушателей, можешь просто изложить, типа, каково сегодня состояние войн AI-кодинга?

Both. Yeah. You know, I feel like agents are most advanced in coding. I also feel like the, you know, competition between foundation models and application companies, you know, and, uh, mirrors what we may see in other spaces. And so maybe for our listeners, can you just lay out like what is the state of the AI coding wars today?

[00:17:25] swyx: Хм, оно огромно, верно? Типа, э-э, и я не думаю, что обязательно, в прошлый раз, когда мы об этом говорили, мы оценили размер того, что

[00:17:25] swyx: Um, it is massive, right? Like, uh, and I don’t think necessarily, last time we talked about this, we appreciated the size of what

[00:17:32] Jacob Effron: Нет, жаль, что не оценили.

[00:17:32] Jacob Effron: No, I wish we did.

[00:17:33] swyx: Состояние войн AI-кодинга сегодня, хм, и OpenAI, и Anthropic сделали приоритетом конкуренцию в кодинге. Хм, и. Anthropic — это, типа, 2,5 миллиарда ARR только от Claude Code.

[00:17:33] swyx: I state of AI coding wars today, um, both opening eye philanthropic have made it their p serials to competing coding. Um, and. Tropic is like 2.5 billion in a RR just from Cloud Code.

То, как они учитывают ARR, открыто для дебатов, э-э, OpenAI. Я не думаю, что публичная цифра известна, но назовём её тоже 2 миллиарда. А затем Cursor, типа, по слухам, 2 миллиарда, знаешь? И, и это, это, типа, публичные цифры, которые известны? Да. Хм, так что, типа, огромные рынки, которые просто были созданы за последний один год.

The way they recognize a RR is. Opt for debate, uh, open ai. I don’t think the, a public number is known, but let’s call it 2 billion as well. And then cursor is like, rumored to be 2 billion, you know? And, and those, those are like the public numbers that are known? Yeah. Um, so like huge markets that have just been created in the past one year.

Типа, типа Anthropic, типа Claude Code только недавно отпраздновал свою первую годовщину, что, да, довольно приятно. Хм, так что, и затем я думаю, типа, другая штука, которую я вижу, — это, есть, есть некоторые другие люди, которые, типа, о, вот, типа, относительное проникновение, э-э, кейсов использования Claude, верно?

Like, like anthropic, just like Claude Code just recently celebrated their one year anniversary, which is, yeah, pretty nice. Um, so, and then I think, like the other thing that I see is there’s, there’s some other people who are like, oh, here’s like the, the sort of relative penetration of, uh, Claude use cases, right?

Типа, и это, типа, кодинг 50%, а затем юриспруденция, что угодно. Здоровье, э-э, это, типа, оставшиеся. И был очень популярный твит, который был, типа, окей, я посмотрю на пустое пространство и все эти другие кейсы использования. Если ты сегодня новый фаундер, тебе стоит делать ставку на другие штуки, потому что, по, по своего рода теории догоняния. Да.

Like, and it’s like coding 50% and then legal, whatever. Health, uh, it’s like the, the remaining ones. And there was a very popular tweet that was like, okay, I’ll look at the, the empty space and all these other use cases. If you are a new founder today, you should be betting on the other stuff because on, on a sort of catch up Yeah.

И мой. Считай, моё, моё возражение — то же возражение, что, э-э, у меня было насчёт «приложения против Google», которое, типа, ну, ну почему на этот раз иначе? Типа, почему, если оно выросло, скажем, с 10 до 50% за прошлый год, почему я не могу продолжать расти? Э-э, и, типа, ошибиться в этом — это на самом деле очень болезненно, потому что ты мог бы просто сделать, сделать ставку на импульс.

Theory and my. Consider my, my pushback is the same pushback that, uh, I had on app over Google, which is like, well, well why is this time different? Like, why, if it went from let’s say 10 to 50% in the past year, why can’t I keep going? Uh, and like getting that wrong is actually a very painful one because you could have just did, did the momentum bet.

Вместо ставки на возврат к среднему. Так что я, я, я думаю, что это и есть, это состояние дел сейчас — что люди очень, очень сильно в психозе. Хм, их вознаграждают за то, что они тратят больше, а не меньше. И я думаю, мы не в той фазе эффективности. Мы в фазе вроде как исследования возможностей.

Instead of the mean reversion bed. So I, I, I think that that is the, the state of things now that people are very, very much into psychosis. Um, they’re are getting rewarded for spending more rather than spending less. And I think we’re not in that phase of efficiency. We’re in a phase of sort of like capability exploration.

Так что я думаю, людей, которые более безумны, кто более. Э-э, креативен, хм, вознаграждают сравнительно больше. Да.

So I think people who are more crazy, who are more. Uh, creative, um, get rewarded comparatively. Yeah.

[00:19:27] Jacob Effron: Что ж, это интересно. Я имею в виду, ощущается, что за этими, типа, токен-максинг-лидербордами и прочим стоит это, это вроде как первая фаза этого перехода с точки зрения рабочей силы — ты просто должен показать своему работодателю, типа, эй, я, я использую эти инструменты.

[00:19:27] Jacob Effron: Well, it’s interesting. I mean, it feels like behind these like token maxing, leaderboards and whatnot is this, it’s like the first phase of this transition from a workforce perspective is you just gotta show your employer like, Hey, I, I use these tools.

[00:19:37] swyx: Вот моё число токенов, в которое я обхожусь, и всё. Им неважно качество. Верно. Это, э-э, может, неприятно тому, кто заботится о мастерстве, и, и всё такое. Хм, но в целом все просто хотят, чтобы ты шёл вверх, независимо ни от чего. И поэтому, хм, это не очень разборчиво. И это, наверное, очень неаккуратно (sloppy), но я думаю, в чистом виде это нормально, потому что мы, наверное, всё ещё недоиспользуем AI в целом.

[00:19:37] swyx: Here’s my nu number of tokens I cost, and that’s it. They don’t care about the quality. Right. It is, uh, maybe distasteful to someone who cares about the craft and, and all that. Um, but directionally everyone just wants you to go up regardless. And so, um, there it is not very discerning. It’s, and it’s probably very sloppy, but I think it’s net fine because we’re still probably underusing ai just in generally.

Да. Хм, и поэтому я думаю, это, типа, очень интересно. Типа, у нас был в подкасте, э-э, Ryan La Poplar из OBI, который тратит миллиард токенов в день. Да. Хм, и это для тех, кто считает дома, это, типа, что-то вроде 10 000 стоит, 10 000 долларов в день API-токенов. Если бы они, они шли по рыночным ставкам, хм, и, типа, большинство из нас не может себе этого позволить.

Yeah. Um, and so I think that’s like very interesting. Like we had on the podcast, uh, Ryan La Poplar from OBI, who spends a billion tokens a day. Yeah. Um, and that’s for those county home, it’s like something like 10,000 worth, $10,000 worth a day of API tokens. If they, they did market rates, um, and like most of us can’t afford that.

Да. Но, типа. И, и, и, наверное, многое из того, что он делает, — это slop (мусор).

Yeah. But like. And, and, and probably a lot of what he does is slop.

[00:20:25] Jacob Effron: Верно.

[00:20:25] Jacob Effron: Right.

[00:20:25] swyx: Но, типа, он собирается обна-, он, типа, если бы появилась новая возможность, он бы обнаружил её первым, раньше тебя, потому что он, он пробовал, а ты не пробовал. Верно. И, типа, ты делаешь только то, что работает, типа, ну, молодец.

[00:20:25] swyx: But like, he’s going to dis, he’s like, if there were a new capability, he would discover it first before you because he was, he was trying and you were not trying. Right. And like, you only do things that work like, well, good for you.

Но, типа, люди, которые собираются обнаружить следующую горячую штуку, живут на грани.

But like the, the people who are going to discover the next hot thing are living at the edge.

[00:20:42] Jacob Effron: Верно, и всё больше живут на грани просто наличия бюджета на compute, чтобы, типа, прогонять эти эксперименты. Я имею в виду, вроде как похоже на то, как жизнь на грани на исследовательской стороне всегда была. Знаешь, она была ограничена во многих смыслах объёмом compute, который у тебя был, чтобы прогонять эти эксперименты.

[00:20:42] Jacob Effron: Right and increase in living at the edge of just having the compute budget to like run these experiments. I mean, kind of similar to what living at the edge on the research side has always been. You know, it was constrained in many ways by the amount of compute you had to run these experiments.

Ощущается похоже на, почти на стороне билдера или, типа, актуализации этих инструментов теперь.

It feels similarly on the, almost on the builder or like actualizing these tools now.

[00:20:56] swyx: Да. Другая штука, которая, я имею в виду, очень очевидна — Anthropic вроде как игрок с высокой премиальной ценой. Хм, где, знаешь. Ограничение лимитов или даже ограничение релизов моделей — это, типа, название игры.

[00:20:56] swyx: Yeah. The other thing that’s, I mean, very obvious is philanthropic is kind of like the high price premium player. Um, that where, you know. Restricting limits or restricting model releases even is like the name of the game.

Тогда как Codex такой: заходите, ребят, используйте наш SDK, используйте наш логин, и нам всё равно. Мы сбросим лимиты. Что бы ты ни делал, ты хочешь попробовать эксплуатировать субсидии там, где можешь их получить. И определённо Codex прямо сейчас супер-субсидируется. Gemini тоже очень субсидируется. Хм, и. Сравнительно, типа, я думаю, тебе стоит сделать, эй, наверное, пока это происходит, не так уж плохо быть исследователем возможностей просто на плане за $200 в месяц от Claude Code или от OpenAI.

Whereas Codex is like, come on in guys, use our SDK, use our login and we don’t care. We’re gonna reset limits. Whatever you do want to try to exploit the subsidies where you can get it. And definitely Codex is super subsidized right now. Gemini also very subsidized. Um, and. Comparatively, like, I think you should make, Hey, I guess while, while that’s going on, it’s not that bad to be a capabilities explorer on just the $200 a month plan from Cloud Code or from OpenAI.

Хм, и, э-э, я, я, моё ощущение, что люди даже ещё не там.

Um, and, uh, I I, I, my sense is that people aren’t even there yet.

[00:21:41] Jacob Effron: Как ты думаешь, как этот, типа, рынок в итоге сыграет? Я имею в виду, это очевидно настолько большой рынок, что, знаешь, любой кусок этого рынка интересен для, для любого, кто за ним идёт. Но я думаю, что, что делает людей такими заинтересованными в рынке кодинга в частности, — это ощущение, что это вроде как это.

[00:21:41] Jacob Effron: How do you think this, like, market ultimately plays? I mean, it’s obviously such a big market that, you know, any slice of that market is interesting for, for anyone going after it. But I think what, what makes people so interesting in the coding market particularly is it feels like it’s kind of this.

Предвестие того, что произойдёт на любом другом, знаешь, любом другом виде прикладного рынка, к которому фундаментальные модели в итоге обращаются, против которого направляют свои модели и вокруг которого собирают данные. И поэтому как ты думаешь, знаешь, типа, окажется ли в итоге место для множества разных видов игроков, или, типа, каким, по-твоему, будет конечное состояние этого рынка, и применимо ли это, по-твоему, к другим рынкам?

Foreshadowing of what will happen in other, you know, any other kind of application market that the foundation models eventually turn to and are all their models against and gather data around. And so how do you think, you know, like does there end up being room for lots of different kinds of players or like, what do you think the end state of this market is and is that, do you think that’s applicable to other markets?

[00:22:10] swyx: Я чувствую, что будет, я имею в виду. Статус-кво — наверное, самый вероятный исход, который заключается в том, что есть два больших игрока и есть небольшой диапазон людей из длинного хвоста, которые, хм, подходят под другие кейсы использования, под которые два больших игрока не подходят. Это мне кажется правильным. Я думаю, что, хм, чтобы это, чтобы структура рынка существенно изменилась, понадобилось бы, нужно существенное изменение в, типа, экономике, или, типа, в построении бренда, или, типа, в, в, в, в ценностных предложениях, в, в вовлечённых компаниях, и я.

[00:22:10] swyx: I feel like there will be, I mean. Status quo is probably the most likely outcome, which is there are two big players and there’s a small range of longer tail people that, um, fit other use cases that the, the two big players don’t. That feels right to me. I think that, um, for it to, for the market structure to, to significantly change there would be, there needs to be significant change in like the economics or like the, the brand building or like the, the, the, the value propositions of the, of the companies involved and I.

Не видел ничего за последние шесть месяцев, что, что по-настоящему материально изменило бы истории. Так что я чувствую, что они просто будут продолжать, пока что-то, что-то не произойдёт. Что-то произойдёт — имеется в виду, типа, Microsoft просыпается и, типа, говорит, типа. Ребят, у нас есть GitHub, у нас есть, э-э, знаешь, мы, мы, мы сделаем что-то гораздо большее здесь, чем, чем просто Copilot.

Haven’t seen any in the last six months that, that have really changed the stories materially. So I feel like they would just keep going until something, something else happens. Something else happens, meaning like Microsoft wakes up and like goes like. Guys, we have GitHub, we have, uh, you know, we, we, we’ll, we’ll do something much bigger here than other, other than just copilot.

Хм, и, э-э, это было бы большим изменением. Хм, Mistral теперь выпустил модель, и я был на завтраке с, э-э, Alex Wang, где они были, типа, да, типа, мы очень, очень хотим зайти в кейс использования кодинга. Мы пока ничего не сделали, но, типа, не недооценивайте их. Верно. Хм, и, и аналогично для китайских лабораторий.

Um, and, uh, that would be a big change. Um, MSL has put out a model now, and I was in a breakfast with, uh, Alex Wang, where they were like, yeah, like, we, we really, really want to go after the coding use case. We haven’t done anything yet, but like, don’t underestimate them. Right. Um, and, and similarly for the Chinese labs.

Хм, я думаю, они пытаются зайти в это. Типа, Z.ai что-то делает. GLM, э-э, Z.ai и GLM — это одно и то же. Хм, э-э, и, и поэтому это, так что, типа, все пытаются ухватить кусок этого пирога. Я, я чувствую, что, что статус-кво был довольно стабилен последние, типа, почти год, я бы сказал.

Um, I think they’re trying to go after it. Like ZAI is doing stuff. GLM uh, ZI and GLM is same thing. Um, uh, and, and so it’s, so like everyone’s trying to get a piece of that pie. I, I feel like the, the status quo has been pretty stable for the past, like almost a year I’ll say.

[00:23:39] Jacob Effron: Да. А пространство для, не типа, знаешь, для, для прикладных компаний больше на, типа, стороне enterprise, или, типа, где, где, типа, какую площадь поверхности модельные компании оставляют для прикладных компаний?

[00:23:39] Jacob Effron: Yeah. And is the room for the, not like, you know, for, for the application companies more on like the enterprise side or like where do the, where do the, like what surface area do the model companies leave for application companies?

[00:23:50] swyx: Да, это хороший вопрос. Хм. Это очень сильно эволюционирует. Хм, я, я, я скажу, потому что у OpenAI не было такого, такого уровня внимания к кодингу. Да. Э-э, год назад. У нас просто не так много истории. Верно. Хм, и кажется, типа, например, так что большой толчок в OpenAI сейчас — это супер-приложение (super app). Хм, это потребительская штука?

[00:23:50] swyx: Yeah, that’s a good one. Um. It’s very much evolving. Um, it, I, I, I will say because opening I did not have this, the, this level of attention on coding. Yeah. Uh, a year ago. We just don’t have that much history. Right. Um, and it seems like, for example, so the big push at Open I now is the Super app. Um, is that a consumer thing?

Это, типа, продуктовая, типа. Рационализация портфеля, насколько это отнимет внимание от кодинга в то время, когда они на самом деле хотят вложить больше в кодинг? Я думаю, это, это очень неясно. Так что я всё же думаю, типа, есть, есть все эти, типа, в обеих больших лабораториях есть. Э-э, прости. Обе из, и, и Anthropic, и, и DeepMind, и xAI — это отдельные случаи.

Is that like a products like. Portfolio rationalization thing, how much is that gonna take away attention from coding at the time when they actually do want to put more coding? I think it’s, it’s very unclear. So I do think like there’s, there’s all these, like in both big labs, there’s. Uh, sorry. Both of the, and, and drop and, and deep minus and XAI are are separate cases.

Хм, они пытаются увидеть другие области временного расширения. Так что Claude Code для финансов. Да. Хм, э-э, Claude Cowork, все эти, все эти штуки. Тогда как я думаю, Cursor и Cognition вроде как сравнительно просто сфокусированы на кодинге, и поэтому я, я всё же думаю, они оставляют пространство, и я всё же думаю, для других вертикалей это тоже означает то же самое.

Um, they are trying to see the other time expansion areas. So cloud code for finance. Yeah. Um, uh, cloud cowork, all those, all those things. Whereas I think cursor and cognition are like comparatively just focused on coding and so I, I do think they leave space and I do think for the other verticals that also means the same thing.

Верно. Что, э-э, что они не будут так. Хм, интенсивно сфокусированы на, на, на этом домене. За исключением, я, я думаю, я бы выделил финансы и здравоохранение как, типа, следующие, хм, за которыми они явно идут. Э-э, я, я бы сказал, сравнительно, здравоохранение кажется более тернистым. Там, там, там были некоторые анонсы об этом, но, типа, я бы гораздо больше уважал работу в финансах просто потому, что, типа, путь к деньгам гораздо яснее.

Right. That, uh, that they’re not gonna be that. Um, intensely focused on, on, on that domain. Except for, I, I think I would mark out finance and healthcare as like the next ones, um, that they’re clearly going after. Uh, I, I would say comparatively, healthcare seems more thorny. There, there, there’ve been some announcements about it, but like, I would respect the, the finance work a lot more just because like the, the path to money is a lot clearer.

[00:25:12] Jacob Effron: Да, нет, я имею в виду, очевидно, типа, я, я думаю, знаешь, может, похоже на, на пространство, которое оставляется в этих других доменах, знаешь, есть очевидно. Э-э, многое, что требуется, чтобы реально внедрить эти инструменты в предприятиях, э-э, по сравнению с, знаешь, может, просто давая им, э-э, давая доступ к модели людям из коробки.

[00:25:12] Jacob Effron: Yeah, no, I mean, obviously like, I, I think, you know, maybe similar to, to the space that’s being left in these other domains, you know, there’s obviously. Uh, a lot that’s required to actually implement these tools in enterprises, uh, versus, you know, maybe just giving them, uh, giving model access to, to folks outta the box.

[00:25:27] swyx: Да, да. Да. Так что, эта, штука с агентской лабораторией — это, типа, мы сделаем последнюю милю за тебя. Тогда как я думаю, модельные лаборатории склонны просто доверять модели и, и быть минималистами в этом. Оба работают.

[00:25:27] swyx: Yeah, yeah. Yeah. So the, the agent lab thing is like, we’ll do the last mile for you. Whereas I think the model labs tend to just trust the model and, and be minimalist about it. Both of them work.

[00:25:38] Jacob Effron: Да.

[00:25:38] Jacob Effron: Yeah.

[00:25:38] swyx: Я, я не, я не обязательно думаю, что один, э-э, бьёт другого, э-э, для каждого, для каждого кейса использования. Хм, всё, что я, всё, что я знаю, это что кажется, типа.

[00:25:38] swyx: I, I don’t, I don’t necessarily think one, uh, beats the other, uh, for every, for every use case. Um, all I, all I do know is that it does seem like.

Э-э, крупные предприятия действительно хотят выделенного партнёра, который не просто модельные лаборатории, что вроде как интересно.

Uh, the large enterprises do want a dedicated partner that isn’t just the model labs, which is kind of interesting.

[00:25:55] Jacob Effron: Мы, мы были в этой фазе, чистого исследования возможностей. И поэтому я думаю, ничего не было, знаешь, лучше для крупных лабораторий, верно? Я имею в виду, они всегда будут, э-э, э-э, на фронтире, на, на фронтире исследования возможностей.

[00:25:55] Jacob Effron: We, we’ve been in this phase of, of pure capability exploration. And so I think nothing has been, you know, better for the large labs, right? I mean, they’re always gonna be, uh, uh, the frontier of, of capability exploration.

И поэтому я думаю, у них очень хорошие отношения с кучей этих предприятий. Но в конечном счёте со временем, типа. Структура стимулов этих лабораторий всегда будет максимальной, знаешь, потреблением токенов для, э-э, для конечных клиентов, с которыми они работают. И есть просто, я думаю, так мало компаний, которые на самом деле дошли до огромного масштаба.

And so I think have a very good relationship with a lot of these enterprises. But ultimately over time, like. The, uh, the incentive structure of these labs is always gonna be maximal, you know, token consumption for, uh, for the end customers they work with. And there’s just, I think, so few companies that have actually gotten to massive scale.

Может, кодинг снова самый интересный. Так что это первое пространство, которое реально просто полностью ушло, знаешь? Да. Ты, наверное, обожаешь это каждый день. Типа, абсолютно безумно. И. Я думаю, это

Maybe coding again is the most interesting. So it’s the first space that really is just completely gone, you know? Yeah. You must love it every day. Like absolutely insane. And. I think it

[00:26:32] swyx: становится даже. Окей. Я имею в виду, типа, я думаю, мы, мы говорим хорошие вещи о Cursor и Cognition, но сам по себе взлёт, типа, и Anthropic, и OpenAI.

[00:26:32] swyx: gets even. Okay. I mean, like, I think we, we say good things about crystal cognition, but the sheer liftoff of like both end UPIC and open ai.

Потому что они, они, у них независимые оценки. Я имею в виду, давай добавим сюда и xAI, потому что она теперь пингуется на 1,2 триллиона. Эта цифра просто не укладывается в голове. Типа, я, я чувствую, что в обычном инвестировании или обычных стартапах есть вроде как потолок рыночной капитализации или оценки. Точно. Который, который, типа, ты, ты достигаешь, и говоришь, типа, ладно, давайте, дальше будет поспокойнее.

‘cause they, they, they have independent valuations. I mean, let’s throw an XEI in there because it’s now I ping at 1.2 trillion. That number is just mind boggling. Like I, I feel like in normal investing or normal startups, there’s kind of like a ceiling market cap or valuation. Totally. That, that like you, you reach and you go like, all right, let’s, it’s gonna be chiller from now on.

А эти ребята не замедляются. Нет.

And these guys are not slow down. No.

[00:27:02] Jacob Effron: Что ж, я также думаю, что динамика захватывающая в отношении некоторых из этих компаний на более поздних стадиях, это, это, знаешь, в прошлом, мне кажется, в, в венчурном мире, если ты дошёл до определённого уровня масштаба, вопрос вокруг тебя был на самом деле больше вопросом оценки. И это, типа, почему были разные фазы, типа, знаешь, типы венчурных людей, и, типа, люди поздней стадии роста просто были невероятны в, типа, знаешь, немного того, какова конечная рыночная возможность этой компании, но также как правильно её, её оценить.

[00:27:02] Jacob Effron: Well, I also think the dynamic is fascinating about some of these later stage companies is, is, you know, in the past, I feel like in, in venture world, if you got to a certain level of scale, the question around you was really more a valuation question. And this is like why there was different phase, like, you know, types of venture people did and like the late stage growth people were just incredible at like, you know, a little bit of what’s the ultimate market opportunity of this company, but also what’s the right way to, to value it.

Типа, мы знаем, что это, это в каких-то полосах исхода, который, типа. Конечно, есть некоторая вариативность, но это, типа, относительно понятно, какова эта полоса, и потом, может, со временем тебя приятно удивят в сторону повышения. Тогда как любая, типа, более поздняя, даже сами лаборатории, любая компания поздней стадии, полосы, в которых эта компания может стоить прямо сейчас, даже через год или два года, настолько огромны из-за того, как быстро меняется экосистема, что это, типа.

Like we know it’s, it’s in some bands of an outcome that is like. Sure there’s some variance to it, but it’s like relatively understood what that bands is and then maybe you get over time surprised to the upside. Whereas any kind of like later, even the labs themselves, any later stage company, the bands of which that company might be worth right now, even in a year or two years are so massive because of how fast the ecosystem changes that it’s like.

Даже для компаний поздней стадии, каждые три месяца могут быть событием экзистенциального уровня — в сторону повышения, в сторону понижения. Да. Хм, и я думаю, что, типа, ты, очевидно, видишь это в, в позитиве с кодом, который, знаешь, если подумать о компании вроде Anthropic, знаешь, что. Какое-то время было, типа, неясно, получат ли они доступ к достаточному капиталу, хм, чтобы реально остаться в, в гонке, верно?

Even for later stage companies, every three months could be an existential level event to the upside to the downside. Yeah. Um, and I think that, like, you are obviously seeing it in the, in the positive with code, which, you know, if you think about a company like philanthropic, you know, that. For a while, it was like unclear if they were going to have access to enough capital, um, to really stay in the, in the race, right?

И затем кодинг ударил в точно правильное время. У них была идеальная модель для него. Они блестяще исполнили. Хм, и знаешь, теперь, теперь, знаешь, э-э, знаешь, одна из самых ценных компаний в мире.

And then coding hit at the exact right time. They had the perfect model for it. They executed brilliantly. Um, and you know, now are, are, you know, uh, you know, one of the most valuable companies in the world.

[00:28:13] swyx: Э-э, в то же время, я, я не нахожу, я, у меня ноль сочувствия к OpenAI, потому что они рвут всех и они все богаты.

[00:28:13] swyx: Uh, at the same time, I, I don’t find, I, I have zero sympathy for opening eye because they’re crushing it and they’re all rich.

Знаешь, это, типа, проблема первого класса с шампанским — быть номером два в кодинге или что там. Типа, кого волнует? Типа, у тебя, у тебя всё отлично.

You know, this is like a high class champagne problem to have to, uh, to be number two at coding or whatever. Like, who cares? Like, you’re, you’re doing great.

[00:28:27] Jacob Effron: Да. Забавно, правда. Я даже не могу, я имею в виду, ты был бы ближе к этому, э-э, знаешь, даже раз ты в пространстве AI-кодинга, но, типа, многие люди, с которыми я говорю, считают, что Codex просто так же хорош, если не лучше, чем Claude Code.

[00:28:27] Jacob Effron: Yeah. It’s funny though. I can’t even, I mean, you would be closer to this, uh, you know, even that you’re in the AI coding space, but it’s like a lot of people I talk to think Codex is just as good, if not better than Claude Code.

Верно. Я думаю, одна штука, которой я был по-настоящему удивлён, и может, может, Claude Code в каком-то смысле лучший продукт, мне любопытны твои мысли — это просто в потребительском AI с ChatGPT. Ты видел это большое преимущество первого хода, верно? Где, по общему признанию, сегодня, типа, я не знаю, Claude, Gemini. Отличные продукты.

Right. I think one thing that I’ve been really surprised by, and maybe, maybe Cloud Code is a better product in some ways, I’m curious your thoughts is just in consumer AI with chat GBT. You saw this big first mover advantage, right? Where admittedly today, like, I don’t know, Claude Gemini. Great products.

Не уверен, не абсолютно ясно, что ChatGPT хоть чем-то лучше, но, типа. Люди держатся за ChatGPT, это первое, что их познакомило.

Not sure, not abundantly clear chat GBTs any better, but like. People stick with chat, GBT, it’s the first thing to introduce them.

[00:28:56] swyx: Они остаются, но они больше не растут. Не знаю, видел ли ты

[00:28:56] swyx: They stay, but they’re not growing anymore. I don’t know if you’ve seen

[00:28:59] Jacob Effron: Верно. Но это для меня скорее, типа, проблема продукта, чем это. Они не, типа, это не то что они, типа, потеряли долю кому-то ещё.

[00:28:59] Jacob Effron: Right. But that to me is more of like a, a, a product problem than it is. They’re not like, it’s not like they’ve like lost share to someone else.

Насколько я понимаю, общая проблема с потребительским AI сегодня — это гораздо больше про то, как взять этот инструмент и, знаешь, для, для людей вроде нас, типа, работников умственного труда, это, типа, этот невероятный магический инструмент, но это не обязательно инструмент ежедневного активного использования для многих людей по всему миру сегодня. И каковы, типа, продукты?

My understanding is the overall problem with consumer AI today is much more of a how do you take this tool and, you know, for, for folks like us, like knowledge workers, it’s like this incredible magic tool, but it’s not necessarily a daily active use tool for a lot of people around the world today. And what are the like products?

Это, это вроде как проблема всей категории. Типа, в кодинге, например, типа. Всё пространство ушло в параболу. Может быть некоторый относительный рост в, э-э, в других игроках потребительского AI, но это не то что потребительский AI как категория, типа, уходит в параболу, и они не захватывают большую часть этого. Я думаю, на самом деле бо́льшая проблема гораздо больше в том, эй, категория вроде как достигла некоторого плато — люди не разобрались, как привлечь, знаешь, намного больше пользователей на борт.

It’s, it’s kind of a category wide problem. Like in coding, for example, like. The entire space has gone parabolic. There may be some relative growth in, uh, in other consumer AI players, but it’s not like consumer AI as a category is like going parabolic and they’re not capturing most of that thing. I think it’s actually the larger problem is much more, hey, the category has kind of hit a bit of a plateau of people haven’t figured out how to bring, you know, tons more users on board.

Да, да. Или увеличить частоту использования этих пользователей. И поэтому это кажется скорее проблемой всей категории, чем, знаешь, массовым изменением рыночной доли. Я собирался провести сравнение с, с пространством кодинга, где Claude Code — это первый продукт, очевидно, который познакомил людей с этим магическим опытом.

Yeah, yeah. Or increase the frequency of those users. And so it seems more of a category wide problem than it is, you know, a massive market share of change. I was gonna draw the comparison to, to the coding space where Claude Co is the first product, obviously, to introduce people to this magical experience.

Знаешь, по всем оценкам, Codex, типа, чертовски близок к тому, чтобы быть таким же хорошим, если не лучше. Хм, но, типа, всё равно этот первый продукт, ты, ты бы подумал, что это не будет супер-«липкой», э-э, знаешь, площадью поверхности продукта. А на самом деле оказывается, я, ощущается, что первая лаборатория, которая знакомит тебя с опытом, действительно, э-э, удерживает много, э-э, много фокуса.

You know, by all accounts, codex is, is pretty damn close to as good, if not better. Um, but like still that first product, you, you would’ve thought that would not be a super sticky, uh, you know, product surface area. And it actually has, it turns out, I, it feels like the first lab to introduce you and experience really does, uh, keep a lot of, uh, a lot of the focus.

[00:30:12] swyx: Я, я думаю. М-может, это, типа, всё ещё, всё ещё ранние дни. Знаешь, ChatGPT, типа, ему три с лишним года и да. Claude Code только один. Только что исполнился год. Да. Так что дай ему время, знаешь? Да. Я имею в виду, определённо иногда много людей переключились на Codex. Может, это будет продолжаться. Я, это, типа, реально трудно сказать.

[00:30:12] swyx: I, I think. M maybe it’s like still, still early days. You know, Chad, BT is like three plus years old and Yeah. Cloud code is only one. Just turned a year. Yeah. So give it time, you know? Yeah. Like, yeah. I mean, definitely sometimes a lot of people have switched from to Codex. Maybe that will keep going. I, it’s like really hard to tell.

Э-э, да. Я, я, я всё же думаю, что. Потому что мы в этой, типа, фазе высокой волатильности, высокой температуры. Хм, лояльность и «липкость» к первым ходокам и создателям категории, я не думаю, что она так высока, как могла бы быть в некоторых других, э-э, областях нашей карьеры, на которые мы смотрели.

Uh, yeah. I, I, I do, I do think that. Because we are in this like, high volatility, high temperature phase. Um, the loyalty and stickiness to first movers and category creators, I don’t think is as high as it might be in some other, uh, areas in our careers that we’ve looked at.

[00:30:47] Jacob Effron: Да. Хотя, я имею в виду, я был удивлён этой штукой с Claude Code.

[00:30:47] Jacob Effron: Yeah. Though, I mean, I’ve been surprised by the cloud code thing.

Я, я бы подумал, что, типа, во многих смыслах я всегда беспокоился о

I, I would’ve thought that, like, in many ways I always worried about the

[00:30:52] swyx: enterprise. Ты думаешь, тебя бы уже не было?

[00:30:52] swyx: enterprise. You think you would’ve been gone by now?

[00:30:53] Jacob Effron: Не «не было». Но я бы, я я всегда беспокоился о том, что, что потребительский бизнес этих компаний будет довольно «липким». А затем enterprise-API-бизнес. Э-э, был на самом деле, типа, знаешь, в каком-то смысле, типа, твои наименее лояльные покупатели, типа, они бы, они бы перешли к,

[00:30:53] Jacob Effron: Not gone. But I would’ve, I I always worried that the, that the consumer business of these companies would be quite sticky. And then the enterprise API business. Uh, was actually like, you know, in some ways like your least loyal buyers, like they would, they would move to,

[00:31:05] swyx: верно, верно.

[00:31:05] swyx: right, right.

Но, но они разобрались, что это не enterprise-API, это enterprise-продукт.

But, but they worked out that it wasn’t the enterprise API it was enterprise product.

[00:31:09] Jacob Effron: Полностью. И может, в этом был, в этом был секрет, что, типа, но объём lock-in или просто поведения по умолчанию, который случился в этом пространстве, э-э, больше, чем я мог бы вообразить, с двумя продуктами, которые по всем оценкам чертовски похожи.

[00:31:09] Jacob Effron: Totally. And maybe that was the, that was the secret that like, but the amount of lock-in or just default behavior that has happened in that space, uh, is, is more than I might’ve imagined with two products that by all accounts are pretty damn similar.

Да.

Yeah.

[00:31:22] swyx: Тут спорить не буду. Э-э, я скажу, я всё же думаю, что Codex всё ещё, типа, в режиме догоняния. Типа, с точки зрения личного опыта. Хм, единственное, что мне нравится из, из Codex, — это, это, типа, Spark и, типа, да. Э-э, я, я чувствую, что интеграция skills чуть лучше. Я чувствую, что, э-э, скорость чуть лучше.

[00:31:22] swyx: No fight there. Uh, I will say I do think that Codex is still in like a catch up. Like in terms of personal experience. Um, the only thing I like out of, out of Codex is the, is like Spark and like yeah. Uh, the, I, I feel like the skills integration is a little bit better. I feel like, uh, the, the speed is a bit better.

Может, потому что он написан на Rust или что там. Хм, очень мелкие штуки, которые ты, типа. Почти типа уговариваешь себя, а не, типа, объективно оцениваешь между двумя, двумя из них. Я, я, я всё же думаю, типа, по вайбам, я думаю, что это происходит. Хм, э-э, знаешь, я, я чувствую, что, что недостающий вопрос, э-э, во всём этом дебате — это, типа, почему это так сконцентрировано всего на двух именах, верно?

Maybe ‘cause it’s in, is written in rust or whatever. Um, very minor things that you like. Almost like telling yourself rather than like objectively assessing between two, two of them. I, I, I do think, like vibes wise, I think that’s going on. Um, the, the, you know, I, I feel like the, the missing questions, uh, in, in this whole debate is like, why is this so concentrated in only two names, right?

Да. Типа, хм, как, где, типа, где Gemini? Знаешь, присутствие, где присутствие xAI? Хм, и, типа, они пытаются, просто они пока не сильно продвинулись.

Yeah. Like, um, how, where, like, where is the Gemini? You know, presence, where’s the Xai presence? Um, and like they are trying, it’s just they haven’t made that much progress yet.

[00:32:12] Jacob Effron: Но то, что момент с Claude Code действительно показывает, и это на самом деле в каком-то смысле делает тебя чуть более оптимистичным насчёт потенциала кого-то другого догнать, потому что ощущается, что если ты первый человек, который знакомит с каким-то магическим совершенно новым опытом продукта, то это на самом деле может быть «липче», чем можно было бы вообразить.

[00:32:12] Jacob Effron: But what the, what the Claude Co moment does show, and it actually in some ways makes you a little more bullish on the potential for someone else to catch up because it does feel like if you’re the first person to introduce some magical net new product experience, that that actually might be stickier than one might have imagined.

[00:32:27] swyx: Верно, верно, верно. Окей. Да.

[00:32:27] swyx: Right, right, right. Okay. Yeah.

[00:32:28] Jacob Effron: И поэтому это, каждый может верить, что у него есть шанс

[00:32:28] Jacob Effron: And so it’s, everyone can believe they have shot

[00:32:29] swyx: на это. Как ты думаешь, каким мог бы быть этот новый опыт продукта? Я, это, типа, и это провал воображения с моей стороны. Типа, я всегда задаюсь вопросом, типа, люди всегда говорят это, типа, ну, штука, которая нас спасёт, — это, типа, быть первым к следующей новой штуке.

[00:32:29] swyx: that. What do you think that new product experience might be like? I, I, it’s, it’s like, and this is a failure of imagination on my part. Like, I always wonder, like, people always say this like, well, the, the thing that will save us is like being first to the next new thing.

Типа, что это?

Like what is it?

[00:32:41] Jacob Effron: Да.

[00:32:41] Jacob Effron: Yeah.

[00:32:42] swyx: Это, типа,

[00:32:42] swyx: It’s like,

[00:32:45] Jacob Effron: Не знаю, что-то вроде, э-э, потребительский агент, computer use, типа, гибрид. Я думаю, очевидно, я думаю, мы вроде как царапаем поверхность на потребительской стороне.

[00:32:45] Jacob Effron: I dunno, something around like, uh, consumer agent, computer use, like hybrid. I think, obviously, I think we’re like scratching the surface on the consumer side.

[00:32:53] swyx: Так что моя, моя текущая теория, типа. Open Claw — это, типа, видение того, что грядёт.

[00:32:53] swyx: So my, my current theory is like the. Open claw is like a vision of things to come.

[00:32:58] Jacob Effron: Полностью.

[00:32:58] Jacob Effron: Totally.

[00:32:58] swyx: Хм, и, э-э, хорошо, что у OpenAI есть, типа, ассоциация с Open Claw, но они ни в коем случае не имеют прав на победу в этом.

[00:32:58] swyx: Um, and uh, it’s good that O open I has like the association with open claw, but by no means do they have the rights to win it.

Общий тезис, который я сейчас продвигаю, — что год, так же, как 2025-й был годом кодинг-агентов, 2026-й — это кодинг-агенты, вырывающиеся за пределы, чтобы делать всё остальное. Хм, и поэтому кодинг-агенты продолжают побеждать, но потому что они генерируют софт, а софт пожирает мир, так что, типа, это вроде как транс-.

The general thesis that I have been pursuing now is that the year the same way that 2025 was the year of coding agents, 2026 is coding agents breaking containment to do everything else. Um, and so coding agents continue to still win, but because they generate software and software eats the world, so like, it’s kind of like the trans.

Ассоциативное свойство, типа, софт пожирает мир, кодинг-агенты пожирают софт, следовательно кодинг-агенты пожирают мир. Хм, что, типа, интересно,

Associated property of like software, eat the world, coding agents, eat software, therefore coding agents eat the world. Um, which is like an interesting,

[00:33:30] Jacob Effron: да, и «вырывание за пределы» всегда более лёгкая фаза, фраза в потребительском контексте, чем в enterprise-контексте. Ты видел, как люди прогоняют эти реально классные, э-э, эксперименты в своей собственной личной жизни.

[00:33:30] Jacob Effron: yeah, and breaking containment always an easier phase phrase in the consumer context than the enterprise one. You’ve seen people run these really cool, uh, experiments in their own personal lives.

Я думаю, типа,

I think like,

[00:33:37] swyx: да.

[00:33:37] swyx: yes.

[00:33:38] Jacob Effron: Разбираясь, знаешь, как ты, очевидно, все сфокусированы, знаешь, на enterprise-стороне сейчас вокруг того, как создать эти опыты. Мне кажется, вайбы, знаешь, люди любят иметь эти нарративы вроде, типа, всё полностью сдвинулось. Это, типа, я на самом деле, знаешь, OpenAI.

[00:33:38] Jacob Effron: Figuring out, you know, how you, obviously everyone’s focused, you know, on the enterprise side now around how you create these experiences. I feel like the vibes, you know, people love to have these narratives of like, everything is completely shifted. It’s like I actually, you know, open AI.

Организационно, э-э, знаешь, волатильность в сторону, это, знаешь, отличные продукты, отличная команда, отличные модели, типа, все остальные в мире заинтересованы в том, чтобы там было. Две, три ещё. Все бы хотели больше, типа, отличных модельных компаний. И поэтому мне кажется, что, что естественные силы мира восстают, когда какая-то одна компания, знаешь, слишком сильно звезда шоу, верно?

Organizationally, uh, you know, volatility aside is, you know, great products, great team, great models like everyone else in the world is incentivized for there to be. Two, three more. Everyone would love more like great model companies. And so I feel like the, the natural forces of the world revolt when any one company, you know, is too much the star of the show, right?

Есть так много людей в экосистеме, которые заинтересованы в том, чтобы этого не случилось. И поэтому я думаю, я был бы шокирован, если бы у нас не случилось. Э-э, э-э, возврата вайбов, может, не совсем в другую сторону, но хотя бы немного более равного в какой-то момент в течение следующих шести, 12 месяцев.

There’s so many people in the ecosystem that are incentivized for that not to happen. And so I think I’d be shocked if we don’t have. Uh, uh, reversion of vibes, not maybe completely the other way, but at least a little bit more equal at some point over the next six, 12 months.

[00:34:24] swyx: Я, я думаю, есть просто вроде как разные стадии, когда, когда ты говоришь о мире, который хочет больше модельных компаний, я думаю о, типа, нео-лабораториях (neo labs).

[00:34:24] swyx: I, I think there’s just a kind of different stages when, when you talk about the world, one wanting more model companies, I talked think about like the neo labs.

[00:34:30] Jacob Effron: Да.

[00:34:30] Jacob Effron: Yeah.

[00:34:31] swyx: И я имею в виду, не знаю, справедливо ли сказать, что ни одна из них на самом деле не прорвалась за прошлый год?

[00:34:31] swyx: And I mean, I don’t know, is it fair to say none of them have really broken through in the past year?

[00:34:35] Jacob Effron: Я думаю, это полностью справедливо,

[00:34:35] Jacob Effron: I think that’s totally fair,

[00:34:37] swyx: что грубовато. Хм, и ну, как мы собираемся, как мы собираемся вырастить это разнообразие в, в, в выборе, типа. Хм, вот в чём дело.

[00:34:37] swyx: which is rough. Um, and well, how are we gonna, how are we gonna grow that diversity in, in, in choice, like. Um, that’s, this is it.

[00:34:46] Jacob Effron: Да. Будет реально интересно посмотреть, что, что, что в итоге случится с этим.

[00:34:46] Jacob Effron: Yeah. It’ll be really interesting to see what, what, what ends up happening with that.

И ты видел, знаешь, ребят вроде NVIDIA, знаешь, очень заинтересованных в том, чтобы убедиться, что есть, есть более широкая платформа, э-э, других провайдеров моделей.

And you’ve seen, you know, folks like Nvidia, you know, very incentivized to make sure there’s, there’s a broader platform of, of other model providers.

[00:34:57] swyx: Я думаю, э-э, не знаю, люди говорят это, но я, я, я не думаю, что они стараются изо всех сил. NVIDIA старается сильнее строить нео-облака (neo clouds)

[00:34:57] swyx: I think, uh, I don’t know people say this, but I, I, I don’t think they try it hard. Nvidia tries harder to build neo clouds

[00:35:05] Jacob Effron: Да.

[00:35:05] Jacob Effron: Yeah.

[00:35:06] swyx: чем нео-лаборатории.

[00:35:06] swyx: Than neo labs.

[00:35:07] Jacob Effron: Ну, они стараются чертовски сильно строить нео-облака, так что

[00:35:07] Jacob Effron: Well, they try pretty damn hard to build neo Cloud, so

[00:35:09] swyx: это,

[00:35:09] swyx: that’s,

[00:35:09] Jacob Effron: да.

[00:35:09] Jacob Effron: yeah.

[00:35:10] swyx: Но, типа, знаешь, назовём это, типа, CoreWeave этого мира — гораздо более счастливое место, чем, знаешь, любая нео-лаборатория, построенная поверх них.

[00:35:10] swyx: But like, you know, let’s call it like the, the core weaves of the world, much happier place in the, you know, than any neo lab built on top of them.

[00:35:18] Jacob Effron: Да. Можно было бы поспорить, что, это, проще, э-э, дать нео-облаку стать успешным, чем. Э-э, нельзя «волевым усилием» вызвать нео-лабораторию к существованию так же, как ты, так что

[00:35:18] Jacob Effron: Yeah. That one might argue it’s, it’s easier to, to enable a neo cloud to be successful than it is. Uh, you can’t will a neo lab into existence the same way you, so

NVIDIA

Nvidia

[00:35:25] swyx: имеет более прямой контроль над этим.

[00:35:25] swyx: has more direct control over it.

Э-э, точно.

Uh, for sure.

[00:35:27] Jacob Effron: Что ещё вроде как ловит твой взгляд сегодня на стартап-стороне? Я имею в виду, ты переживаешь, есть, очевидно, весь этот нарратив вроде, знаешь, фундаментальные модели, знаешь, они анонсируют продукт, и каждая акция падает на 15%. Типа

[00:35:27] Jacob Effron: What else is kind of catching your eye today on the startup side? I mean, you worry, there’s obviously this whole narrative of like, you know, the foundation models, you know, they announced a product and every stock goes down 15%. Like

[00:35:36] swyx: Да.

[00:35:36] swyx: Yeah.

[00:35:37] Jacob Effron: Ты, ты переживаешь о том, что фундаментальные модели просто вроде как вгрызаются в кучу этих стартап-категорий?

[00:35:37] Jacob Effron: Do you, do you worry about the foundation models just kind of eating into to a bunch of these startup categories?

[00:35:43] swyx: Не особо. Я, я думаю, на самом деле, типа. Как, э-э, есть, есть, окей, есть, есть, есть, есть точка зрения, типа, быть инвестором в стартапы, и есть точка зрения, типа, хочешь ли ты что-то начать? И я думаю, честно, типа, минус для всего этого настолько. Минимален в, в смысле, типа, худшее, что ты делаешь, — это просто тебя нанимают в одну из этих лабораторий в любом случае.

[00:35:43] swyx: Not really. I, I think actually like. As, uh, there’s, there’s, okay, there’s, there’s, there’s the, there’s the point of view of like being an investor in startups, and there’s a point of view of like, do you wanna start something? And I think honestly, like the, the downside for all these is so. Minimal in, in a sense of like, the worst you do is you just get hired into one of these labs anyway.

Так что я, я думаю, рынок для людей, которые просто делают вещи, и пробуют вещи, и пытаются исполнить, типа, компетентным образом, даже если, типа, это не сработало коммерчески, даже если оно просто не было таким уж классным в любом случае. Типа, но, типа, это твоё собеседование, чтобы зайти в, в одну из этих штук в любом случае, так что, хм, я этого не чувствую.

So I, I think the, the market for people who just do things and try things and try to execute in like a competent way, even if like it doesn’t work out commercially, even if it just wasn’t that great anyway. Like, but like that’s your job interview to go into, into one of these things anyway, so, um, I don’t feel that.

С, с точки зрения очень-очень маленького стартапа. Стартапы среднего размера. Да. Э-э, я скажу, было много мёртвой, хм, LLM-инфраструктуры, много консолидации LLM-инфраструктуры, типа, э-э, Langfuse этого мира, поглощаемые в, в ClickHouse. И я, я думаю. Типа, люди, может, разобрались в доменно-специфичном плейбуке, э-э, и, типа, я думаю, это нормально.

From a, from a very, very small startup perspective, mid-size startups. Yes. Uh, I will say there’s been a lot of dead, um, LM Infra, a lot of LM infra consolidation like the, the, uh, lang fuses of the world getting absorbed into, into click house. And I, I think. Like people have maybe worked out the domain specific playbook, uh, and like, I think that’s okay.

Хм, и, и да, я не так уж, не так уж переживаю о, э-э, окей. Так что, хм, я, я бы сказал, я бы больше переживал о традиционном SaaS, типа, низкий NPS. Это весь этот дебат AI vs. SaaS, который, который идёт. Э-э, и, и, типа, буквально я прохожу через ровно эту же штуку в своей компании, где, так что я, типа как бы.

Um, and, and yeah, I’m not that, not that worried about, uh, okay. So, um, I, I would say I’d be more worried about traditional SaaS, like low NPSS. This is the whole AI versus SaaS debate that has, that’s been going on. Uh, and, and like literally I’m going through that exact thing in my company where, so I like kind of.

Продумываю это на очень висцеральном, висцеральном уровне, верно? С одной стороны, у тебя есть люди, которые говорят: вы, вайб-кодеры, не цените объём работы, который уходит в CRM, и, типа, да, ты думаешь, что можешь выдрать Salesforce? Так же думали и 30 предпринимателей до тебя, верно? Типа, типа, знаешь, ты классически недооцениваешь вещи, которых ты не.

Thinking through this on a very visceral, visceral level, right? On one hand you have the people who say you vibe coders don’t appreciate the amount of work that goes into A-A-C-R-M and like, yeah, you think you can rip out Salesforce? So did the 30 entrepreneurs before you, right? Like, like, you know, you classically underestimate the things that you don’t.

Глубоко знаешь. И, и, и целевая аудитория — не ты. Э-э, в то же время, типа, мы никогда не были способны строить софт так легко и кастомизировать софт так легко, и, типа, да, ты не будешь использовать 90% штук в Salesforce. Так что, типа, да. Что типично, так что что у тебя, что

Deeply, no. And, and, and target audience is not you. Uh, at the same time, like we have never been able to build software so easily and customize software so easily and like Yeah, you’re not gonna use 90% of the things in Salesforce. So like, yeah. What’s the typical, so what have you, what

[00:37:33] Jacob Effron: ты сделал внутри компании?

[00:37:33] Jacob Effron: have you done internally?

[00:37:34] swyx: Так что у нас есть основной SaaS, который мы используем для управления событиями и управления спонсорами. Это, и мы платили 200 тысяч в год за это. Не, не огромно, но, типа, ощутимо для, для моего, моего масштаба. Хм, и, типа, да, я мог бы, наверное, потратить 2000 и, и построить, типа, кастомную версию этого. Хм, фокус был в том, чтобы иметь дело с моей, остальной моей командой и привлечь их на свою сторону.

[00:37:34] swyx: So we have there the main SaaS that we do for event management and sponsor management. That’s, and we paid 200 KA year for that. Not, not huge, but like chunky for, for, for my, my scale. Um, and like, yeah, I could probably spend 2000 and, and build like a custom version of that. Um, the, the, the trick has been dealing with my, the rest of my team and getting them on board.

Да. Потому что я самый, э-э, человек на своей команде, но, типа, я не могу принять это решение сам. И я думаю, так же я говорил и с другими CEO, лидерами команд: типа, ну, ты можешь быть супер-«cloud-pilled», ты можешь быть в супер-LLM-психозе и думать, что это окей, но ты, типа, тебе нужно привести свою команду с собой.

Yeah. ‘cause I’m the most ethical person on my team, but like, I can’t make that decision myself. And I think in the same way I’ve been telling with other CEOs team leaders as well, it’s like, well you can be super cloud pilled. You can be super LM psychosis and that you think that’s okay, but you like you have to bring your team with you.

И я думаю, что там, своего рода растущая диспропорция в LLM-психозе в компаниях вызывает реальные с, реальные разломы, потому что. С одной стороны, с одной стороны, люди, которые менее AI-нативны, не въезжают в картину. Они не, они на самом деле, типа, отстают, они на самом деле не просыпаются к тому факту, что, типа, ты, всё, что ты считаешь необходимым, на самом деле не такое уж необходимое.

And I think like there, the sort of widening disparity in LM psychosis in companies is causing real s real riffs because. And on one hand, on one hand, the people who are less AI native are not getting with the picture. They’re not, they’re actually like behind, they’re actually not waking up to the fact that like you, everything you think is necessary is not actually that necessary.

И на самом деле, тебе было бы лучше, если бы ты просто, типа, зажал нос и зашёл, и вышел с другой стороны. Да, разговаривая только с агентами на естественном языке и, типа, твоя жизнь на самом деле стала бы лучше, и ты просто, ты просто, типа, узколобый. Есть эта перспектива. Другая перспектива: о, ты вайб-кодер.

And in fact, exactly would be better of you if you just like held your nose and went in and when came out the other side. Yeah, only talking to agents in natural language and like your life would actually be better and you just, you’re just like close-minded. There’s that perspective. The other perspective is, oh, you vibe coder.

Ты, ты сделал это за выходные и получил 80%-решение, и теперь остальные твои сотрудники. Должны подобрать остальное твоё дерьмо, верно, которое ты, которое ты думал, что ты такой крутой, потрясающий, э-э, э-э, в, но, типа, на самом деле ты не разобрался. И, типа, на самом деле LLM всё ещё бесполезны в этом, и бла-бла-бла.

You, you did this in a weekend and you got the 80% solution and now the rest of your employees. Have to pick up the rest of your shit, right, that you, that you thought you were, you were such hot, amazing, uh, uh, at, but like, actually you didn’t figure it out. And like, actually LMS are still useless at this and blah, blah, blah.

Так что, типа, я думаю, есть этот огромный дебат, идущий в каждой компании прямо сейчас. Хм, и, типа, хм, знаешь, у меня есть маленький микрокосм этого, но, типа, да, это, это заставляет меня колебаться, чтобы, чтобы нажать на курок. Но, типа, я в какой-то момент это сделаю, типа, может, я отложил это на один год, но не, типа, на пять. Да, но, типа, так что, так что, типа, SaaS определённо сжимают.

So like, I think there’s this huge debate going on in every company right now. Um, and like, um, you know, I have a small microcosm of it, but like, yeah, it, it’s making me hesitate to, to pull the trigger. But like I will at some point, it’s like maybe I’ve put it off for one year, but not like five. Yeah, but like, so, so like SaaS is definitely getting squeezed.

Хм, это заставляет меня задуматься, типа, я, я всё же думаю, что есть возможность для более AI-нативной, хм, штуки типа системы записи (system of record), которая не просто Postgres. Хм, или не просто MongoDB, хотя обе очень хороши. Может, это, типа, Convex, или, типа, люди. Да. Часто вспоминают Convex. Не знаю, типа, типа, я, я просто чувствую, что вроде как, так сказать, Firebase для, для AI-приложений ещё толком не существует.

Um, it does make me wonder, like, I, I do think that there’s an opportunity for a more AI native, um, system of record thing that is not just Postgres. Um, or not just MongoDB, although both are very good. Maybe it’s like a convex or like people Yeah. Bring up convex a lot. I don’t know, like, like, I, I just feel like the sort of quote unquote firebase of, of AI apps isn’t really a thing yet.

Хм, помимо того, что у нас есть. Э-э, что, что нормально. Это, это, это просто. Мы могли бы, наверное, начать в более вроде как цикле быстрых итераций сначала, прежде чем масштабироваться до, типа, Postgres или MongoDB, которые более вроде как старая технология. Я был на ужине с, э-э, Mike Krieger, CPO в Anthropic, и, и он, мы вроде как обходили комнату по кругу, спрашивая, типа, о чём люди больше всего переживают?

Um, beyond what we have. Uh, which, which is fine. It’s, it’s, it’s just. We could probably start in a more sort of rapid iteration cycle first before scaling up to like a Postgres or MongoDB, which are more sort of old tech. I was at a dinner with, uh, Mike Krieger, the CPO of en philanthropic, and, and he, we were just kind of going around the room going like, what are people most worried about?

Да. И, э-э, для меня, э-э, я, вместо безопасности, я поднял биобезопасность. Да,

Yeah. And, uh, for me, uh, I, instead of security, I brought up biosafety. Yeah,

[00:40:21] Jacob Effron: классика.

[00:40:21] Jacob Effron: classic.

[00:40:22] swyx: Хм, на самом деле, как я сказал, это было. Клише и классика, и остальные за столом были, были, типа, что ты имеешь в виду? Кто-то, сидя дома, может изготовить вирус, который сотрёт половину человечества,

[00:40:22] swyx: Um, actually, like I said, it was. Cliche and classic, and the rest of the table were, were like, what do you mean? Someone sitting at home can manufacture a virus that wipes out half of humanity,

[00:40:32] Jacob Effron: почти как изначальный Geoffrey Hinton.

[00:40:32] Jacob Effron: almost like the OG Jeffrey Hinton.

Типа, вот почему ты должен бояться.

Like, this is why you should be scared.

[00:40:35] swyx: Я такой: да, типа, прочитай, знаешь, отчёты о рисках. Типа, это, типа, та самая штука. Хм, я думаю, и Mike просто сидел там, зная, что он сидит на Mythos, и говорил, типа, на самом деле это безопасность. Хм, и я думаю, типа, хм, я думаю, есть, есть, часть этого — это.

[00:40:35] swyx: I’m like, yeah, like the read the, you know, risk reports. Like this is like the thing. Um, I think, and Mike was just sitting there knowing he was sitting on Mythos and going like, actually it’s security. Um, and I think like, um, I think the, there’s, there’s, part of it is.

Очень хороший маркетинг. Типа, слишком хороший. Да, типа, я бы на самом деле посоветовал Anthropic приглушить маркетинг, потому что к тому же это, это просто очень хорошая модель, и тебе не нужно делать так много маркетинговых заявлений вокруг неё. В то же время, это на самом деле не приватная модель. Если ты отдаёшь её 40 компаниям.

A very good marketing. Like too good. Yeah, like I would actually advise and topic to tune down the marketing because also it’s, it is just a very good model and you don’t have to make so many marketing claims around it. At the same time, it is not really a private model. If you give it to 40 companies.

У каждой из которых, типа, 10 000 сотрудников или что там. Верно. Это не, это не приватно, это, типа, там есть плохие акторы.

Each of whom have like 10,000 employees or whatever. Right. It’s not, it’s not private, it’s, it’s like there’s bad actors in there.

[00:41:18] Jacob Effron: Да. Будем надеяться, будем надеяться, не так, э-э, плохо, как выпуск её широко, но, э-э, нет, я имею в виду, это интересный. Знаешь, это интересный кейс-стади того, как все, я имею в виду, многие релизы моделей могут, я имею в виду, знаешь, это может быть первый релиз модели, который выглядит как все остальные с, с этого момента, верно?

[00:41:18] Jacob Effron: Yeah. Hopefully, hopefully not as, uh, as bad as releasing it widely, but, uh, no, I mean, it’s an interesting. You know, it’s an interesting case study for how all, I mean, many model releases might, I mean, you know, this might be the first model release that looks like the rest of ‘em from from now on, right?

[00:41:31] swyx: Это, это, так что это, есть общая продуктовая стратегия, э-э, у Anthropic, типа, бандл, э-э, знаешь, ограничь доступ, забандль, э-э, продукт с моделью, может быть.

[00:41:31] swyx: It, it, so it’s, it’s the, there’s an overall product strategy, uh, for anthropic of like bundle, uh, you know, restrict access bundle, uh, product with model maybe.

Тогда как, э-э, OpenAI определённо был гораздо более вроде как. Философски выровнен на, типа, мы просто дадим доступ везде и не знаем, что ты, что из этого выйдет. Верно.

Whereas, uh, OpenAI has definitely been a lot more sort of. Philosophically aligned on like, we will just enable access everywhere and we don’t know what you, what will come out of it. Right.

[00:41:51] Jacob Effron: Верно. Хотя, я имею в виду, этот текущий момент, э-э, очевидно, циничная трактовка тоже просто завязана на объём compute, который у обеих компаний

[00:41:51] Jacob Effron: Right. Though, I mean, this current moment, uh, obviously the cynical take is also just ties to the amount of compute that both companies

[00:41:56] swyx: Да.

[00:41:56] swyx: Yeah.

Верно, верно, верно. Да, я думаю, я думаю, это правда. Я всё же думаю, типа, это, это, наступление, типа, рассвет моделей крупнее 10 триллионов параметров — очень интересно. Я не думаю, что это, я думаю, это временное явление, потому что у нас гораздо более крупные compute-кластеры выходят онлайн для всех в течение следующих, типа, трёх, пяти лет.

Right, right, right. Yeah, I think, I think that’s true. I I do think like the, the, this is the, the, the scale, the dawn of like larger than 10 trillion parameter models is very interesting. I don’t think it, I think it’s a temporary phenomenon because we have much larger compute clusters coming online for everyone over the next like three, five years.

Это, и это, типа, уже прописано в, в картах.

It’s, and this is like already written in, in the cards.

[00:42:18] Jacob Effron: Да.

[00:42:18] Jacob Effron: Yeah.

[00:42:19] swyx: Так что в той мере, в какой, знаешь, будет ли у нас нормирование моделей, э-э, выше 10 триллионов, э-э, через, типа, два года? Я так не думаю. Я думаю, у всех будет, нет, у нас просто

[00:42:19] swyx: So to the extent that like, you know, will we have rationing of models, uh, above 10 trillion, uh, in like two years? I don’t think so. I think everyone will have no, we’ll just

[00:42:29] Jacob Effron: будет нормирование следующей фазы.

[00:42:29] Jacob Effron: have rationing of the next phase.

[00:42:30] swyx: Верно. Верно. Но, типа, это так, как и должно быть, почти, типа, хм.

[00:42:30] swyx: Right. Right. But like, that’s as it should be almost like, um.

Мой, мой классический пример, который я, это просто я теоретизирую, не что-то подтверждённое Google. Когда Google анонсировал Gemini, они на самом деле анонсировали три размера, которыми были Flash, Pro, Ultra. Они так и не выпустили Ultra. У них есть только Pro и Flash. Хм, так что моя теория в том, что у них Ultra сидит в подвале, и они просто могли бы дистиллировать из него для, для Flash и Pro.

My, my classic example, which I, this is just me theorizing, not anything confirmed by Google. When Google announced Gemini, they actually announced three sizes, which was Flash Pro Ultra. They never released Ultra. They only have Pro and Flash. Um, so my theory is they have ultra sitting in a basement and they just could distilling from it for, for flashing pro.

Хм, что, типа, да, я имею в виду, я, я на самом деле думаю, что это. Как и должно быть для любой лаборатории, чтобы они, чтобы они так делали.

Um, which like, yeah, I mean, I, I actually think that’s. As it should be for any lab that they, that they do that.

[00:43:02] Jacob Effron: Да. Просто потому что это те модели, которые люди на самом деле хотят в итоге использовать. И это просто, типа, запретительно по стоимости.

[00:43:02] Jacob Effron: Yeah. Just because those are the models that people actually wanna end up using. And it’s just like cost prohibit.

[00:43:06] swyx: Это больше, да, это стоимость. Да. Это, это не желание, это просто, просто, просто стоимость.

[00:43:06] swyx: It is more, yeah, it’s cost. Yeah. It’s, it’s not the want, it’s just, just, just the cost.

Хм, я всё же думаю, типа, э-э, это интересно, что, э-э, какое-то время я, я рассматривал теорию, что модели упёрлись в потолок на двух, 2 триллионах, и я думаю, это оказывается неверным. И ну, тогда, если я неправ, насколько неправ? Насколько неправ я? Делаем ли мы 200 триллионов? Делаем ли мы четверть триллиона, что там? Хм, и я не думаю, что у нас есть прямой ответ на это, но, типа, э-э, интересно, что мы продолжаем масштабировать число параметров, когда все вроде как предполагают, типа, видят, что мы не получим следующую тысячу или миллион x из этой парадигмы.

Um, I do think, like, uh, it is interesting that, uh, for a while I was, I was considering the theory that models capped out at two, 2 trillion, and I think that’s proving to be wrong. And well then if I’m wrong, how wrong? How wrong am I? Do we do 200 trillion? Do we do two quarter trillion, whatever? Um, and I don’t think we have the straight answer to that, but like, uh, it’s interesting that we are continuing to scale number of pers when everyone kind of assu like can see that we’re not going to get like the next thousand or 1 million x from this paradigm.

Так что, типа, другие, типа, лаборатории этого мира работают над другими. Хм, улучшениями архитектуры моделей. Нам нужен другой закон масштабирования, я полагаю, потому что, типа, мы, я, я чувствую, что люди уже уже чувствуют, что мы выдохлись на этом. Типа, конец, конечное состояние этого — мы превращаем большую часть мира в дата-центры, и, типа, не знаю.

So like the others, like the alias of the world are working on other. Um, model architecture improvements. We need a different scaling law, I guess, because like, we’re, I, I feel like people already already feel like we’re tapped out on this. Like the, the end, the end state of this is we turn most of the world into data centers and like, I don’t know.

Не знаю, хотим ли мы этого.

I don’t know if we want that.

[00:44:08] Jacob Effron: Да, я имею в виду, э-э, если, если, если, если отдача от интеллекта там есть, может, э-э, может, не так уж плохо.

[00:44:08] Jacob Effron: Yeah, I mean, uh, if the, if, if, if the return of intelligence are there, maybe, uh, maybe not so bad.

[00:44:13] swyx: Я, я, я думаю, есть просто чистый объём, типа, типа, нем-масштабируемости, которая, типа, ломает чувствительность людей прямо сейчас. Хм, особенно в плане, типа, длин контекста.

[00:44:13] swyx: I, I, I think there, there’s just a sheer amount of like, like un scalability that like is wrangling people’s sensibilities right now. Um, especially in terms of like context lengths.

Хм, моя классическая цитата в том, что длина контекста — это, типа, самый медленный фактор масштабирования в LLM.

Um, my classic quote is that context length is like the slowest scaling factor in, in lms.

[00:44:30] Jacob Effron: Да.

[00:44:30] Jacob Effron: Yeah.

[00:44:30] swyx: Хм, мы, типа, мы заняли, может. Три года, чтобы пройти от, типа, 4000 длины контекста до миллиона, и на этом всё. Да. Типа, у Gemini была длина контекста в миллион токенов уже два года, хм, и никто ею не пользуется.

[00:44:30] swyx: Um, we, like, we took maybe. Three years to go from like 4,000 context length to a million and that’s about it. Yeah. Like Gemini has had a million token context length for two years now. Um, and no one’s using it.

Типа, так что, типа, да, это память. Память, наверное, будет, типа, самым большим ограничивающим ограничением на всех этих штуках.

Like, so like yeah, it’s memory. Memory is probably gonna be the, the biggest limiting constraint on all these things.

[00:44:50] Jacob Effron: Да. Определённо кажется, что так. Мне, наверное, любопытно, за последний год с тех пор как ты записывался в последний раз, типа, в чём одна вещь, насчёт которой ты изменил своё мнение?

[00:44:50] Jacob Effron: Yeah. Certainly seems that way. I guess I’m curious over the last year since you recorded last, like what’s one thing you’ve changed your mind on?

[00:44:57] swyx: Я чувствую, что я был вроде как настроен по-медвежьи на открытые модели в прошлом году.

[00:44:57] swyx: I feel like I was kind of bearish on open models like last year.

Хм, в смысле, типа, я, я только что сделал подкаст с Ankur

Um, in a sense of, like, I, I had just done the podcast with an Al

[00:45:07] Jacob Effron: Да.

[00:45:07] Jacob Effron: Yeah.

[00:45:08] swyx: из Braintrust, где он, и он, я имею в виду, знаешь, у него хороший срез всех топовых AI-компаний, и он говорит, рыночная доля open source — 5% и снижается. Хм, я думаю, это изменилось. Я думаю, оно растёт. Хм, и даже если,

[00:45:08] swyx: Of Braintrust where he, and he, I mean, you know, he has a good cross section of all the top AI companies and he says market share of open source is 5% and going down. Um, I think that’s changed. I think it’s going up. Um, and even if,

[00:45:22] Jacob Effron: даже хотя разрыв в возможностях, кажется, увеличивается.

[00:45:22] Jacob Effron: even though the capability gap does seem to be increasing.

Тратя на

Spending on the

[00:45:26] swyx: время. Трудно сказать. Да, это, это реально трудно сказать. Потому что, типа, окей, для, для слушателей, увеличивающийся разрыв в возможностях — это, типа, на публичных бенчмарках. И, скажем, ты сравниваешь Mythos с, типа, не знаю, gpt-oss или, типа, GLM 5.1. И, хм, это, это реально трудно сказать. Потому что даже если бы они сближались, ты также не поверил бы, что они сближаются настолько сильно, потому что очень легко гейминговать бенчмарки.

[00:45:26] swyx: time. It’s hard to tell. Yeah, it’s, it’s really hard to tell. ‘cause like, okay, for, for listeners, capability gap increasing is like on public benchmarks. And let’s say you’re comparing mythos versus like, I don’t know, G-T-O-S-S or like GLM 5.1. And, um, it’s, it is really hard to tell. ‘cause even if they were closing, you will also not believe that they were closing that much because it’s very easy to gain the benchmarks.

Да. Так что ты просто реально, реально не знаешь. Хм, всё, что ты знаешь, это, типа. Э-э, есть как бы объективная статистика OpenRouter насчёт, типа, что люди выбирают на свободном рынке. И люди действительно выбирают некоторые из этих открытых моделей в значительном объёме, за исключением того, что многие из них сильно дисконтированы. Так что тебе нужно вроде как скорректировать по цене, э-э, эти штуки.

Yeah. So you just don’t really, really know. Um, all you know is like. Uh, there’s somewhat objective open router stats on like what people choose in a free market. And people do choose some of these open models in significant volume, except that a lot of them are heavily discounted. So you need to kind of like price adjust, uh, these things.

Так что даже если, даже если бы это было правдой, в чём я, я не уверен, типа, я, я, я чувствую, что числа просто вверх теперь, а не вниз. Э-э, я думаю, что. Разделение между тем, что делают топовые агентские лаборатории, и средним стартапом в AI, или средней GPT-обёрткой (GPT wrapper) значительно настолько, что тебе не стоит переживать о, о, о, своего рода среднем по индустрии числе.

So even if, even if that were true, which I, I’m not sure, like I, I, I feel like the numbers just up now instead of down. Uh, I think the. Separation between what the top tier agent labs are doing versus the average startup in ai or the average GPT wrapper is significant enough that you should not worry about the, the, the sort of mean industry number.

И тебе стоит, тебе стоит когортировать вещи на, типа, вот медиана здесь, здесь, типа, нижние 80% и здесь топ-20%. И топ-20% ведут себя очень иначе, чем нижний процент. И поэтому топ-20% — это, что всё, что меня волнует, хм, это. Определённо движется к более открытым моделям. Хм, Fireworks и Together рвут всех.

And you should, you should cohort things into like, here’s the median here, here’s like the bottom 80% and here’s the top 20%. And top 20% acts very differently than the pome percent. And so top 20% is, which is what I all I care about, um, is. Definitely going towards more open models. Um, the fireworks and the togethers are crushing.

Хм, и, э-э, и так будут и все файнтюнеры, верно? Так что, типа, хм, я думаю, может, в прошлый раз мы даже говорили вещи вроде, файнтюнинг как сервис не работает. Ну, теперь это будет работать. Это, это производная от открытого рынка, э-э, рынка открытых моделей.

Um, and, uh, and so will all the fine tuners, right? So like, um, I think maybe last time we even said things like, fine tuning is a service doesn’t work. Well, now it’s gonna work. It’s, it’s a derivative of the open market, uh, open models market.

[00:47:01] Jacob Effron: Ну, и к тому же при масштабировании нагрузки до точки, где люди заботятся о стоимости и скорости, знаешь, всё больше и больше.

[00:47:01] Jacob Effron: Well, and also in the workload scaling to the point where people care about cost and speed, you know, more and more.

[00:47:06] swyx: Да.

[00:47:06] swyx: Yeah.

[00:47:06] Jacob Effron: И что, типа, знаешь, переход от просто чистого обнаружения кейсов использования вроде, что могут делать эти модели, к, окей, мы знаем, что они будут делать на масштабе, теперь давай делать их дешевле и быстрее.

[00:47:06] Jacob Effron: And that like the, you know, moving from just pure use case discovery of like, what can these models do to, okay, we know what they’re gonna do at scale now let’s do ‘em cheaper and faster.

[00:47:14] swyx: Да. Да. Хм, так что, так что, типа, э-э, это изменение, я, я думаю, наверное, самое значительное в, в моём сознании. И, типа, я, я всегда люблю делать мысленную математику, типа, э-э, это что.

[00:47:14] swyx: Yeah. Yeah. Um, so, so like, uh, that change I, I think, is probably the most significant in, in my mind. And like, I, I always like to do the mental math of like, uh, this is what.

Подумай о, э-э, планировании learning rate, типа, когда ты ошибся однажды. Да. В чём ещё ты был неправ? Хм, и я, я вроде как прорабатываю это. Я, для меня, та, та, другая штука была про кодинг, хм, насчёт которого я очевидно теперь развернулся на полные 360, но я думаю, типа. Люди недостаточно ценят тёмные фабрики (dark factories), которые, не знаю, обсуждал ли ты в подкасте ещё.

Think about, uh, scheduling a learning rate, like when you’ve been wrong once. Yeah. What else were you wrong on? Um, and I, I’m kind of working through it. I, I, to me, the, the, the other thing was the coding one, um, which obviously I, I have now come full 360 on, but I think like. People are not appreciating dark factories enough, which I don’t know if you’ve discussed in the pod yet.

[00:47:44] Jacob Effron: Нет.

[00:47:44] Jacob Effron: No.

[00:47:45] swyx: Хм, э-э, и так что это вроде как сильный термин DM / Simon Willison. Э-э, общая идея в том, окей, есть разные уровни психоза AI-кодинга, который ты можешь иметь, хм, самый первый уровень, который я, кстати, впервые встретил в Cognition пять месяцев назад, был ноль. Э-э, кода, написанного человеком. Да.

[00:47:45] swyx: Um, uh, and so this is a kind of a strong DM slash Simon Willis term. Uh, the, the general idea is, okay, there’s different levels of AI coding psychosis. You can have, um, the, the very first level, which I, I, by the way I encountered first in cognition five months ago was zero. Uh, human written code. Yeah.

Верно. Что, типа, кажется разумной штукой теперь, было менее разумно пять месяцев назад. Следующий фронтир, который звучит так же безумно сегодня, как, как ноль кода в, в прошлом, — это ноль человеческого ревью.

Right. Which like, seems like a reasonable thing now was less reasonable five months ago. The next frontier that sounds as crazy today as it as, as zero coding was in in the past is zero Human review.

[00:48:17] Jacob Effron: Да.

[00:48:17] Jacob Effron: Yeah.

[00:48:18] swyx: Типа, просто, просто закоммитить это без даже. Ревью, и очень мало людей это делают, но OpenAI это исследует, и я чувствую, что это, это определённо единственный масштабируемый способ это делать.

[00:48:18] swyx: Like, just, just check it in without even. Reviewing it, and very few people are doing that, but opening Eyes is, is exploring this and I feel like it’s, it’s definitely the only scalable way to do this.

Э-э, что это просто означает, типа, тебе приходится просто вроде как перевернуть SSDLC или поменять большие объёмы того, что, что ты обычно делаешь. Хм. Что, наверное, вещи, которые тебе стоило делать в любом случае. Больше тестирования, больше, знаешь, больше автоматизированной верификации или что там. Но, типа, это фронтир, на котором, типа, когда ты разблокировал это в своих компаниях, хм, ты просто будешь производить гораздо больший объём софта, чем, чем у тебя когда-либо был.

Uh, which it just means like you have to just kind of like flip the S-S-D-L-C or change large amounts of what, what you normally do. Um. Which is probably things you should have done anyway. More testing, more, you know, more automated verification or whatever. But like that is a frontier at which, like when you have unlocked that in your companies, um, you are just gonna produce much more quantity of software than than you’ve ever had.

Э-э, и это будет, типа, настолько много, настолько одноразово, настолько дёшево, что ты, наверное, сможешь много инновировать в качестве тоже. Типа, что, что количество помогает тебе дойти до качества.

Uh, and it’s gonna be like so much, so disposable, so cheap that you can probably innovate in quality a lot as well. Like that that quantity helps you get to quality.

[00:49:00] Jacob Effron: Да.

[00:49:00] Jacob Effron: Yeah.

[00:49:01] swyx: С чем, я думаю, людям очень некомфортно. Потому что, типа, люди ассоциируют большее количество со slop.

[00:49:01] swyx: Which I think people are very uncomfortable with. ‘cause like people associate more quantity with slop.

[00:49:07] Jacob Effron: Верно. Нет, это назад к ровно тому обсуждению, что у нас было про, типа, реакцию на эти токен-максинг-табло и, и идею, что, типа, сегодня, может, это не самый, э-э, самый, самый, самый лучший признак, э-э, продуктивности и эффективности, но в будущем

[00:49:07] Jacob Effron: Right. No, it’s back to exactly the discussion we’re having on like the reaction to these token maxing scoreboards and the, and the idea that like, today, maybe that’s not the most, uh, the, the, the, the best sign of, of, of productivity in efficiency, but going forward

[00:49:18] swyx: да, ты, но тебя всё равно за это вознаграждают.

[00:49:18] swyx: yeah, you, but you still get rewarded for it.

Так что они, типа, да пофиг, что там. Но, типа, э-э, я, я, я думаю, типа, те, те люди, которые, кто, кто справляются лучше всего, кто справляется лучше всего, кто справляется наиболее хорошо в 2026-м, — это не циники, которые говорят, типа, о, это просто slop, я не буду в этом участвовать. Они такие: окей, типа, это происходит, со, со мной или без меня. Направь это в правильную сторону.

So they’re like, fuck it, whatever. But like, uh, I, I, I think like the, the, the people who are, who are doing well, who do well, who do most well in 2026, are not the cynics who go like, oh, that’s just slop. I’m not gonna participate in that. They’re like, okay, like this is happening with, with or without me. Bend this the right way.

[00:49:36] Jacob Effron: Да, нет, мне это нравится. Хм, я имею в виду, я думаю, для, для меня, типа, любая вроде как связанная штука на, на стороне open source моделей — это, что так долго я реально не думал, что имеет какой-либо смысл делать какой-либо RL, пост-тренировку, предобучение, что угодно, что можно сделать, чтобы, типа, улучшить вроде как общее качество. Точно для, типа, задержки и стоимости это всегда имело смысл для меня.

[00:49:36] Jacob Effron: Yeah, no, I love that. Um, I mean, I think for, for me, like any kind of related thing on, on the open source model side is for so long, I really didn’t think it made any sense to do any sort of RL post-training, pre-training, anything you could do to like improve kind of overall quality. Certainly for like latency and cost, it always made sense to me.

Но для общего качества, типа, боже, ты просто получаешь это бесплатно в моделях, типа, три, шесть месяцев спустя. Я, я думаю, насчёт чего я начинаю менять свою песню немного — это. Знаешь, слыша, как все эти прикладные компании говорят, типа, знаешь, мы строим штуки и потом выбрасываем их три месяца спустя, по, по мере того как модели улучшаются.

But for overall quality, like God, you just get that for free in the models like three, six months later. I, I think what I’m starting to change my tune on a little bit is. You know, hearing all these app companies talk about, like, you know, we build stuff and then we throw it out three months later, as, as like the models improve.

Ты такой: окей, ну тогда то, что ты делаешь для улучшения возможностей, — это просто другая версия того же, верно? Типа, я всё ещё не думаю, что, типа, твой RL или, типа, пост-трейн сделает так, что у тебя будет лучшая модель на, типа. Годы и годы вперёд. Но может, я, я думаю, тебе всё ещё нужно быть довольно строгим в, типа, это ли единственная лучшая штука, которую ты можешь сделать, чтобы решить проблему клиента?

You’re like, okay, well then what you’re doing for capability improvement is just another version of that, right? Like, I still don’t think that like your RL or like post train is gonna make you have a better model for like. Years and years to come. But maybe I, I think you still have to be pretty rigorous on like, is that the single best thing you can do to solve a customer problem?

И, типа, знаешь, зачастую, типа, это буквально просто, типа, теперь, типа, добавь больше данных и, типа, скорми больше данных, даже через коннекторы, этим моделям, или, типа, не знаю, сделай какой-то умный инжиниринг на бэкенде или что там. Но если единственная лучшая штука, которую ты можешь сделать за этот трёхмесячный период, чтобы улучшить исходы твоего клиента, — это, знаешь, пост-тренировка каким-то образом, который, типа, реально улучшает вывод модели, даже если ты выбросишь её три месяца спустя, потому что общие модели подтянутся туда.

And like, you know, oftentimes, like, it’s literally just like now, like add more data and like feed more data even via connectors to these models or like, I don’t know, do some clever engineering on the back end or whatever it is. But at the single best thing you can do for that three month time period to improve your customer’s outcomes is, you know, post-training in some way that like really improves the output of model even if you throw it out three months later because the general models get up there.

Это всё равно могло стоить того, чтобы сделать. И поэтому я думаю, я, типа, более открыт к

It still might have been worth doing. And so I think I’m like more open to

[00:50:45] swyx: ты, ты выбрасываешь результаты, но ты не выбрасываешь сырые данные.

[00:50:45] swyx: you, you throw out the results, but you don’t throw out the raw data.

[00:50:47] Jacob Effron: Полностью.

[00:50:47] Jacob Effron: Totally.

[00:50:48] swyx: И, типа, так что, типа

[00:50:48] swyx: And like, so like

[00:50:48] Jacob Effron: Верно. Потом ты просто прогоняешь это снова. И поэтому по сути есть некоторый, очевидно, на уровне стоимости в, типа, $10 миллионов, может, это слишком много, но есть некоторый уровень стоимости, где

[00:50:48] Jacob Effron: Right. Then you just run it again. And so basically there’s some, obviously at the level of cost of like $10 million, maybe that’s too much, but there’s some level of cost where

[00:50:55] swyx: Нет,

[00:50:55] swyx: No,

[00:50:55] Jacob Effron: это, это

[00:50:55] Jacob Effron: it’s the, it’s

[00:50:56] swyx: даже не 10 миллионов,

[00:50:56] swyx: not even 10 million,

[00:50:56] Jacob Effron: верно?

[00:50:56] Jacob Effron: right?

Нет, конечно нет. Э-э, знаешь,

No, of course it’s not. Uh, you know,

[00:50:58] swyx: да.

[00:50:58] swyx: yeah.

[00:50:58] Jacob Effron: Есть очевидно некоторый уровень инвестиций, э-э, на котором это эквивалент просто, типа, посадить четырёх инженеров строить что-то на три месяца.

[00:50:58] Jacob Effron: There’s obviously some level of investment, uh, at which it’s the equivalent of just like staffing four engineers to go build something for three months.

[00:51:04] swyx: Да. Э-э, так что другая штука, которую я реально, э-э, для, для слушателей, я просто оставлю некоторые, некоторые капли инфы. Э-э, посмотри на, типа, на длинную траекторию, работа по синтетическим рубрикам (synthetic rubrics), которую люди делают, очень важна, э-э, включая, э-э, что-то, что называется Doctor GRPO.

[00:51:04] swyx: Yeah. Uh, so the other thing I really, uh, for, for listeners, I’m just gonna leave some, some droplets of info. Uh, look into like the, the long trajectory, the synthetic rubrics work that people are doing is very important, uh, including, uh, something that’s called Doctor GRPO.

Я просто, я просто оставлю эти ключевые поисковые термины здесь. Хм, я, я думаю, это, то, что это значит, — что RL уходит гораздо более многошаговым (multi-turn), чем. Люди думают, и это значит, что ты можешь кастомизировать модели в гораздо более конкретных измерениях, чем традиционный, назовём это SFT, или, э-э, э-э, знаешь, типа, вроде как поверхностный RL, хм, который делали год назад.

I’ll just, I’ll just leave those key search terms in there. Um, I, I think it, what it means is that RL is going much more multi turn than. People think, and that means that you can customize the models in way more specific dimensions than traditional, let’s call it SFT, or uh, uh, you know, like a, a sort of shallow rl, um, that was done in a year ago.

Хм, так что, типа, сотни шагов.

Um, so like hundreds of turns.

[00:51:44] Jacob Effron: Да.

[00:51:44] Jacob Effron: Yeah.

[00:51:45] swyx: Э-э, и, и, и я думаю, что это ведёт тебя по пути, типа, полной доменной специфичности.

[00:51:45] swyx: Uh, and, and, and I think that that leads you down a path of like complete domain specificity.

[00:51:50] Jacob Effron: Что ещё? Типа, ты, знаешь, э-э, из этих, типа, нерешённых вопросов в AI сегодня, ты, типа, ищешь, знаешь, в следующем году? Ты, ты, э-э, знаешь, пристально следишь за,

[00:51:50] Jacob Effron: What else? Like are you, you know, uh, of these like unanswered questions in AI today? Are you like looking for, you know, in the next year? Are you, you, uh, you know, paying close attention to,

[00:51:58] swyx: Я, у меня есть несколько тезисов насчёт, типа, что?

[00:51:58] swyx: I, I have a few thesis for like, what?

Является своего рода следующим фронтиром. Э-э, один — это память, которую, память и персонализацию мы обсуждали. Другой — это реально, э-э, world models, по которым мы сделали маленькую небольшую серию, от Fei-Fei Li. Да, конечно. До, э-э, даже Moon Lake. Хм, и, э-э, общая интуиция, и есть много дебатов насчёт, типа. Относительной важности этого.

Is the sort of next frontier. Uh, one is memory, which memory and personalization we talked about. The other is really, uh, world models, which we’ve done a small little series on from Fefe Lee. Yeah, of course. To, uh, even Moon Lake. Um, and, uh, general intuition and there’s a lot of debate as to like. The relative importance of this.

Я думаю, многое из этого, это проявляется как, типа, 3D статичные миры, которые ты вроде как населяешь на какое-то время, и ты ходишь вокруг, и они, типа, круто, но, типа, как это помогает мне с моим B2B SaaS? Верно. И

I think a lot of it, it manifests as like 3D static walls that you kind of inhabit for a little bit and you walk around and they’re like, cool, but like, how does this help me with my B2B SaaS? Right. And

[00:52:29] Jacob Effron: это, типа, весь хайп сейчас — это робототехника, верно?

[00:52:29] Jacob Effron: it’s like all the hype now is robotics, right?

[00:52:31] swyx: Да. Хм, и есть, очевидно, корреляция между, э-э, world models и воплощённым (embodied).

[00:52:31] swyx: Yeah. Um, and there’s a, obviously a correlation between, uh, role models and embodied.

Э-э, зрением и опытом, что ведёт к робототехнике. Э-э, но я думаю, world models очень интересны просто в улучшении самого интеллекта. Хм, от следующей, от парадигмы предсказания следующего токена. Хм, и поэтому я думаю, люди вроде как тестируют свои края вокруг этого. Одна из наших топовых статей в этом году пока что была об adversarial reward models.

Uh, vision and experiences, which leads to robotics. Uh, but I think role models is very interesting in just in improving intelligence itself. Um, from the next, from the next token prediction paradigm. Um, and so I think people are kind of testing their edges around that. One of our top articles this year so far has been on adversarial award models.

Хм. Я, я всё же думаю, типа, э-э, если ты ничего другого не делаешь, просто прочти эссе Fei-Fei о пространственном интеллекте (spatial intelligence), о том, почему, хм, LLM не нужно, не имеют его. И она, она может, она может пока не иметь решения, но у неё есть правильная постановка проблемы. Да. И поэтому все остальные пытаются решить эту постановку проблемы своим собственным способом.

Um. I, I do think, like, uh, if you don’t do anything else, just read FE’S essay on spatial intelligence on why, um, LMS don’t need, don’t have it. And she is, she may, she may not have the solution yet, but she has the right problems statement. Yeah. And so everyone else is trying to solve that problem statement in their own way.

Хм. И посмотрим, кто победит. Но, типа, я, я не думаю, что тебе сослужит хорошую службу приравнивать world models к робототехнике, или world models к играм, или какому-то, типа, э-э, или, типа, текущим проявлениям, потому что на кону гораздо более важная. Концепция интеллекта, чем просто ответы на вопросы.

Um. And let’s see who wins. But like, I, I don’t think it does you any favor to equate role models to robotics or role models to gaming or some kind of like, uh, or like the current manifestations because what is at stake is a much more important. Conception of intelligence than just answering questions.

Это, понимает ли, понимает ли, понимает ли, понимает ли AI, что такое стол? Типа, что, что такое материя, что такое физика? Это почти как, для, для тех, кто фанаты кино, это как «Умница Уилл Хантинг», где, хм, Matt Damon, типа, знает всё, потому что он прочитал это в книге, но он никогда не жил. Отличная,

It is, does, does, does, does the AI understand what a table is? Like, what, what matter is, what physics is? It is almost like for, for those who are movie fans, it’s like Google Hunting where, um, Matt Damon like knows everything because he read it in a book, but he’s never lived. Great,

[00:53:54] Jacob Effron: отличная сцена с

[00:53:54] Jacob Effron: great scene with

[00:53:55] swyx: Robin Williams.

[00:53:55] swyx: Robin Williams.

С Robin Williams, и я, я смотрю на эту сцену и думаю, типа, это в точности, разница между, типа, очень интеллектуальной LLM, которая знает всё, но ничего не пережила.

With Robin Williams and I, I look at that scene and I go like, that’s exactly the, the, the difference between like a very intelligent LLM who knows everything but hasn’t experienced anything.

[00:54:04] Jacob Effron: Вау. Это потрясающая нота, на которой закончить. Э-э, это, ты использовал это раньше? Это здорово.

[00:54:04] Jacob Effron: Wow. That’s an awesome note to end on. Uh, that’s a, have you used that before? That’s great.

[00:54:08] swyx: Да. Так что, так что одна штука, которую я сделал с Latent Space, — это я перешёл к, типа, э-э, добавлению ежедневных заметок.

[00:54:08] swyx: Yeah. So, so one thing I’ve done with Lean Space is I moved to like, uh, adding daily writeups.

Да. И поэтому однажды, в один из разов, когда я делал эту ежедневную заметку, я написал это.

Yeah. And so one, one of the times I was doing this daily writeup, I wrote that.

[00:54:16] Jacob Effron: Это отличная

[00:54:16] Jacob Effron: That’s a great

[00:54:17] swyx: штука. Мне нравится

[00:54:17] swyx: one. I love

[00:54:17] Jacob Effron: это. Хм, что ж, это было очень весело. Огромное спасибо

[00:54:17] Jacob Effron: that. Um, well, so it’s been a ton of fun. Thanks so much

[00:54:19] swyx: за, за то, что пришёл, мужик.

[00:54:19] swyx: for, for Coming Man.

[00:54:21] Jacob Effron: Я Jacob Effron, и это был Unsupervised Learning. Подкаст, где я получаю возможность говорить с самыми умными людьми в AI и задавать им кучу вопросов о том, что происходит с моделями и что это значит для бизнеса в мире.

[00:54:21] Jacob Effron: I’m Jacob Effron and this has been Unsupervised Learning. A podcast where I get to talk to the smartest people in AI and ask them tons of questions about what’s happening with models and what it means for businesses in the world.

Как я надеюсь, понятно, я получаю кучу удовольствия, делая это. Это проект по вечерам и выходным в дополнение к моей основной работе инвестором в RedPoint, но наша способность залучать этих невероятных гостей по-настоящему исходит от таких людей, как вы, подписывающихся на подкаст, делящихся им с друзьями. Это по-настоящему то, что в конечном счёте заставляет всю эту штуку работать.

As I hope is clear, I have a ton of fun doing this. It’s a nights and weekends project in addition to my day job as an investor at RedPoint, but our ability to get these incredible guests on really comes from folks like you subscribing to the podcast, sharing it with friends. It’s really what ultimately makes this whole thing work.

И поэтому, пожалуйста, подумайте о том, чтобы это сделать. И огромное спасибо за вашу поддержку и за то, что слушаете. Увидимся в следующем эпизоде.

And so please consider doing that. And thank you so much for your support and listening. We’ll see you next episode.

Discussion about this episode

Обсуждение этого эпизода