Bad Analogies
Паки Маккормик из Not Boring критикует распространённую аналогию, согласно которой убыточные AI-лаборатории вроде OpenAI и Anthropic — это «новый Amazon». Он показывает, что успех Amazon строился на уникальной стратегии: отрицательном оборотном капитале, доминировании в логистике и отсутствии конкурентов в стратегии, тогда как WeWork по той же логике обанкротилась, а Uber выжил благодаря сетевым эффектам. OpenAI достиг $2 млрд выручки в месяц, Anthropic вырос с $9 млрд до $19 млрд run rate с конца 2025 по февраль 2026, но автор сомневается, что хоть одна лаборатория сможет вырваться вперёд, так как все молятся одному «алтарю Scaling Laws» и используют одинаковое оружие. Он также скептичен в отношении тезиса Леопольда «прямые линии на графиках» и аргумента о ASI к 2027 году. Через десять лет OpenAI и Anthropic могут оказаться как самыми ценными компаниями мира, так и «AOL» эпохи ИИ — а главный бизнес может построить тот, кто скупит дешёвые токены после краха, как Рокфеллер скупал излишки железнодорожных мощностей.
Bad Analogies
Плохие аналогии
Not Every Money-Burning Company is Amazon
Не каждая прожигающая деньги компания — это Amazon
Welcome to the 514 newly Not Boring people who have joined us since our last essay! Join 261,204 smart, curious folks by subscribing here:
Добро пожаловать 514 новым подписчикам Not Boring, присоединившимся к нам после прошлого эссе! Присоединяйтесь к 261 204 умным и любознательным людям, подписавшись здесь:
Hi friends 👋,
Привет, друзья 👋,
Happy Thursday! I wasn’t planning on sending an essay this week. I wanted to give you a little time to breathe after World Models and Electromagnetism.
Хорошего четверга! Я не планировал отправлять эссе на этой неделе. Хотел дать вам немного времени перевести дух после World Models и Electromagnetism.
But then I saw someone make a bad point on the internet, and it was a particular bad point that has always bugged me, so I whipped up a short and sweet rebuttal. In short: not every company that burns a lot of money is the next Amazon. (a bit of a strawman, I admit, except this analogy keeps popping up!)
Но потом я увидел, как кто-то высказал в интернете плохой тезис — причём именно тот плохой тезис, который меня всегда раздражал, — и быстро накидал короткое и ёмкое опровержение. Если коротко: не каждая компания, сжигающая много денег, — это следующий Amazon. (Признаюсь, это немного соломенное чучело, разве что эта аналогия всё время всплывает!)
Let’s get to it.
Приступим.
Framer is the design-first, no-code website builder that lets anyone ship a production-ready site in minutes. Whether you’re starting with a template or a blank canvas, Framer gives you total creative control with no coding required. Add animations, localize with one click, and collaborate in real-time with your whole team. You can even A/B test and track clicks with built-in analytics.
Framer — это no-code конструктор сайтов с дизайн-приоритетом, который позволяет любому за считанные минуты выпустить готовый к продакшену сайт. Начинаете ли вы с шаблона или с чистого холста — Framer даёт полный творческий контроль без единой строчки кода. Добавляйте анимации, локализуйте одним кликом и работайте с командой в реальном времени. Можно даже проводить A/B-тесты и отслеживать клики со встроенной аналитикой.
Bad Analogies
Плохие аналогии
I saw an interaction on twitter the other day that I’m not going to share here because these specific people don’t deserve to be singled out because almost everyone is guilty of something similar.
На днях я увидел в твиттере одно обсуждение, которым не буду делиться здесь — конкретные участники не заслуживают того, чтобы их выделять, ведь почти каждый виновен в чём-то подобном.
Basically, one person said, “It’s amazing that OpenAI was able to raise $122 billion when they don’t have a single business that works,” and the other person replied, “Yeah they do they have a bunch of different business lines doing billions of dollars in revenue,” and the OP responded, “Yes but none of them is profitable, they’re losing a lot of money,” and the replier replied, “You could have said the same thing about Amazon!”
По сути, один человек написал: «Удивительно, что OpenAI смогла привлечь $122 млрд, не имея ни одного работающего бизнеса». Второй ответил: «Да они есть, у них куча бизнес-направлений с миллиардной выручкой». Первый возразил: «Да, но ни одно из них не прибыльное, они теряют кучу денег». А второй парировал: «Так же можно было сказать про Amazon!»
Amazon’s success has done a great deal of harm to a great number of companies.
Успех Amazon нанёс огромный вред огромному количеству компаний.
Obviously, it’s done more good. AWS is a miracle. But go with me.
Очевидно, пользы он принёс больше. AWS — это чудо. Но потерпите, я объясню.
Jeff Bezos is a generational entrepreneur who came from a hedge fund and made a very calculated decision to lose money in the short term if it meant making more of it in the long term. In his 1997 Letter to Shareholders, his first as a public company CEO, he makes the trade-off he’s willing to make clear: “When forced to choose between optimizing the appearance of our GAAP accounting and maximizing the present value of future cash flows, we’ll take the cash flows.”
Джефф Безос — предприниматель уровня поколения, пришедший из хедж-фонда и принявший весьма расчётливое решение: терять деньги в краткосрочной перспективе, если это означает заработать больше в долгосрочной. В своём письме акционерам 1997 года, первом в качестве CEO публичной компании, он чётко проговаривает свой выбор: «Когда нас вынуждают выбирать между оптимизацией внешнего вида GAAP-отчётности и максимизацией приведённой стоимости будущих денежных потоков, мы выберем денежные потоки».
He spends his entire 2004 Letter to Shareholders walking investors through the logic.
Всё письмо акционерам 2004 года он посвящает тому, чтобы провести инвесторов через эту логику.
Earnings don’t directly translate into cash flows, and shares are worth only the present value of their future cash flows. Working capital and capital expenditures matter too, and a company can actually destroy shareholder value by growing earnings if the capital investments required exceed the present value of the cash flow derived from them.
Прибыль не конвертируется напрямую в денежные потоки, а акции стоят ровно столько, сколько составляет приведённая стоимость их будущих денежных потоков. Оборотный капитал и капитальные затраты тоже важны, и компания может на самом деле уничтожать акционерную стоимость, наращивая прибыль, если требуемые капитальные инвестиции превышают приведённую стоимость денежного потока, который они генерируют.
Bezos had his hands firmly on the wheel, and a negative working capital engine at his back. There are a million little details that made Bezos’ plan work, all of which, and the connections between them, were taken into consideration. Get to scale category-by-category, starting with the ones best suited to the internet, build an unmatched distribution and logistics network, drive down prices and delivery times, get more scale, grow the distribution network, drive down prices, make the “divinely discontent” customers discontent with anything slower or more expensive than what they’d come to expect with Amazon, get them hooked on Prime, paying a subscription and ordering more, keep pressing the advantage, grow FCF per share. All the while, thanks to negative working capital, growth generated cash, cash funded more infrastructure, infrastructure enabled lower prices and faster delivery, which drove more growth.
Безос крепко держал руки на руле, а за спиной у него работал двигатель отрицательного оборотного капитала. Миллион мелких деталей сделали план Безоса работоспособным — и все они, и связи между ними, были учтены. Выходить на масштаб категория за категорией, начиная с тех, что лучше всего подходят интернету, строить непревзойдённую дистрибьюторскую и логистическую сеть, снижать цены и сроки доставки, наращивать масштаб, расширять сеть, снижать цены, делать «божественно недовольных» покупателей недовольными всем, что медленнее или дороже того, к чему они привыкли с Amazon, подсаживать их на Prime, чтобы они платили подписку и заказывали больше, продолжать давить и увеличивать FCF на акцию. И всё это время благодаря отрицательному оборотному капиталу рост генерировал деньги, деньги финансировали инфраструктуру, инфраструктура позволяла снижать цены и ускорять доставку, что подталкивало дальнейший рост.
We all know the Amazon story to some extent, right? I don’t need to go into more detail than that for now. We could tell a similar story about Facebook: they had no revenue! they didn’t even have a business model!
Все мы в той или иной мере знаем историю Amazon, верно? Мне не нужно сейчас углубляться в детали. Похожую историю можно рассказать про Facebook: у них не было выручки! У них даже не было бизнес-модели!
You could, and many have, use this to justify all manner of sins in your business, in a business in which you’ve invested, or, in the case of the AI labs, in a business that a bunch of weirdos on the internet seem to feel is their duty to defend.
Этим можно — и многие так делают — оправдывать любые грехи в собственном бизнесе, в бизнесе, в который вы инвестировали, или, в случае AI-лабораторий, в бизнесе, который, как кажется, кучка чудаков в интернете считает своим долгом защищать.
I am perhaps a bit sensitive to this after spending six years pre-not boring in the same industry as WeWork. WeWork lost a lot of money, and so people compared WeWork to Amazon, and maybe there’s an argument to be made that of course you need to spend a lot of money in real estate because you need to do construction and furnish spaces and buy a lot of beer and tequila upfront but then you have this whole network of long-term leases that will generate cashflow for years to come. Bezos wasn’t afraid of spending money today for cashflow tomorrow, why should Neumann be? But we often put in offers on the same spaces as WeWork, and we had these super finely tuned underwriting models, and looking at our underwriting models versus the prices they paid to outbid us on certain spaces it was clear that no matter how optimistic your monthly revenue projections, there was just no way they were going to make money on each space. That was before you took into account the custom builds they were fronting for customers who signed two-year deals (builds that would potentially need to be redone for the next one) or the 100% commissions they were paying brokers for an entire year’s worth of revenue on any customer they brought in. Adam Neumann went on Rick Rubin recently, and it was incredible and made me like him more and even made me bullish on Flow, but even Adam Neumann admitted that he let the economics get away from him in the halcyon days of 2018 and 2019.
Возможно, я особенно чувствителен к этому после шести лет до Not Boring в той же индустрии, что и WeWork. WeWork теряла кучу денег, и поэтому WeWork сравнивали с Amazon, и, наверное, можно привести аргумент, что да, конечно, в недвижимости приходится много тратить, ведь нужно вести стройку и обставлять помещения и покупать кучу пива и текилы заранее, но потом у тебя появляется целая сеть долгосрочных аренд, которая будет генерировать кэшфлоу на годы вперёд. Безос не боялся тратить сегодня ради кэшфлоу завтра — почему же должен бояться Нойманн? Но мы часто подавали оферы на те же помещения, что и WeWork, и у нас были до миллиметра отлаженные модели андеррайтинга, и при сравнении наших моделей с теми ценами, которые они платили, перебивая нас, было совершенно ясно: каким бы оптимистичным ни был прогноз по месячной выручке, заработать на каждом помещении у них просто не было шансов. И это до того, как учесть кастомные ремонты, которые они оплачивали клиентам, подписывавшим двухлетние контракты (ремонты, которые потенциально пришлось бы переделывать для следующего арендатора), или 100%-ные комиссии брокерам за весь годовой доход с каждого приведённого ими клиента. Адам Нойманн недавно сходил к Рику Рубину — это было невероятно и заставило меня относиться к нему лучше и даже занять бычью позицию по Flow, но даже сам Адам Нойманн признал, что в безмятежные дни 2018-го и 2019-го упустил экономику из рук.
If you had justified a WeWork investment to yourself by analogizing to Amazon and repeating “It takes money to make money,” you would have lost it all in the 2023 bankruptcy. Maybe the cleaned up company makes a lot more sense today than the bloated one did then, I haven’t looked at it so I don’t know, but if it does, it’s certainly not because it’s like Amazon.
Если бы вы оправдывали для себя инвестицию в WeWork аналогией с Amazon и повторяли «Деньги делают деньги», вы бы потеряли всё в банкротстве 2023 года. Может быть, очищенная сегодня компания имеет куда больше смысла, чем раздутая тогда, — я не изучал её, так что не знаю, — но если и так, то уж точно не потому, что она похожа на Amazon.
Of course, analogies can be a useful starting point. “This thing that I might have otherwise dismissed out of hand is probably worth a closer look, because things that have looked this obviously wrong in the past have turned out to look pretty good” is a good way to think.
Конечно, аналогии могут быть полезной отправной точкой. «Эта штука, от которой я мог бы сходу отмахнуться, вероятно, заслуживает более внимательного взгляда — потому что вещи, которые в прошлом выглядели столь же очевидно неправильно, оказывались вполне хорошими» — это нормальный способ мыслить.
Uber, too, lost a shitload of money. Uber lost way more money than WeWork. WeWork lost like $2-3 billion in its worst year. Uber burned $9.1 billion in 2022. Uber’s losses made WeWork’s look like rookie numbers.
Uber тоже потерял кучу денег. Uber потерял намного больше, чем WeWork. В худший год WeWork теряла около $2–3 млрд. Uber сжёг $9,1 млрд в 2022 году. На фоне убытков Uber потери WeWork выглядели как баловство новичков.
And yet… Uber is still a publicly traded company, with a market cap hovering around $150 billion.
И всё же… Uber до сих пор торгуется на бирже, с капитализацией около $150 млрд.
If you’d looked at Uber and said, “Hey, Amazon lost money too, let me take a closer look,” and then realized that Uber was burning money in actually kind of the same way that Amazon was, to get its product as close to customers as possible in order to improve the customer experience, particularly if you’d looked during the depths of 2022 when it was burning so much cash, you could have made a smart investment.
Если бы вы посмотрели на Uber и сказали: «Эй, Amazon тоже терял деньги, дай-ка я присмотрюсь», а потом поняли, что Uber жжёт деньги в общем-то тем же способом, что и Amazon — чтобы максимально приблизить продукт к клиенту и улучшить customer experience, — особенно если бы вы посмотрели в самые мрачные глубины 2022-го, когда сжигалось столько кэша, вы могли бы сделать умную инвестицию.
Then again, using Uber as an analogy – literally, as in Uber-for-X – has kept the startup graveyard operators in business. The one successful company that could be called an Uber-for-X is DoorDash, and it worked explicitly because the team looked at Uber, said “there’s something interesting here,” and then tuned it to fit the situation at hand. Instead of competing in dense urban markets, they took the model to underserved suburbs, where competition was lower, CACs were lower, average order values were higher, retention was higher (fewer alternatives), pickups and dropoffs were easier (stores and homes have driveways and parking lots), and then, per Dan Hockenmaier, they executed relentlessly: “They made deliveries just a little faster and more reliable every week. They scrutinized the quality of every one of their restaurants and dashers. They optimized cost out of the system and gave it back to customers in the form of Dashpass (which launched in 2018 at the start of this chart).”
С другой стороны, использование Uber как аналогии — буквально, в формате Uber-for-X — кормит операторов стартового кладбища. Единственная успешная компания, которую можно назвать Uber-for-X, — это DoorDash, и сработала она именно потому, что команда посмотрела на Uber, сказала «здесь есть что-то интересное», а затем настроила это под свою конкретную ситуацию. Вместо того чтобы конкурировать на плотных городских рынках, они перенесли модель в недообслуживаемые пригороды, где конкуренция была ниже, CAC ниже, средний чек выше, удержание выше (меньше альтернатив), а самовывозы и доставки проще (у магазинов и домов есть подъездные дорожки и парковки), а дальше, как пишет Dan Hockenmaier, они исполняли беспощадно: «Они делали доставки чуть быстрее и надёжнее каждую неделю. Они скрупулёзно следили за качеством каждого ресторана и каждого дашера. Они выжимали издержки из системы и возвращали их клиентам в виде Dashpass (который запустился в 2018-м, в начале этого графика)».
So are frontier AI labs good or bad businesses? I don’t know. Smarter minds than mine are doing a lot of non-analogical work trying to answer this question. The economy depends on it.
Итак, передовые AI-лаборатории — хороший это бизнес или плохой? Я не знаю. Умы получше моего проделывают много неаналогической работы, чтобы ответить на этот вопрос. От него зависит экономика.
I do know that they’re not definitely bad businesses because they’re losing money.
Я знаю одно: они не являются однозначно плохими бизнесами просто потому, что теряют деньги.
They are certainly generating a lot of revenue very quickly, and growing at rates that are unprecedented at their scale. Anthropic grew from a $9 billion run rate at the end of 2025 to a $19 billion run rate in February (and rumors are it went much higher in March). In announcing its $122 billion fundraise, OpenAI said, “Within a year of launching ChatGPT, we reached $1B in revenue. By the end of 2024 we were generating $1B per quarter. We are now generating $2B in revenue per month. At this stage, we are growing revenue four times faster than the companies who defined the Internet and mobile eras, including Alphabet and Meta.”
Они определённо генерируют много выручки очень быстро и растут темпами, беспрецедентными для своего масштаба. Anthropic выросла с $9 млрд run rate на конец 2025 года до $19 млрд run rate в феврале (а по слухам, в марте показатель стал заметно выше). Объявляя о привлечении $122 млрд, OpenAI сообщила: «В течение года после запуска ChatGPT мы достигли $1 млрд выручки. К концу 2024 года мы генерировали $1 млрд в квартал. Сейчас мы генерируем $2 млрд выручки в месяц. На этом этапе мы растим выручку в четыре раза быстрее, чем компании, определившие интернет- и мобильную эпохи, включая Alphabet и Meta».
To dismiss those numbers because of a little cash burn would be just as dumb as saying that cash burn is the same as Amazon’s.
Отмахиваться от этих цифр из-за небольшого кэш-бёрна было бы так же глупо, как утверждать, что этот кэш-бёрн — то же самое, что у Amazon.
On the other hand, it’s worth looking more closely at the burn to understand what you get for it.
С другой стороны, стоит присмотреться к этому бёрну повнимательнее и понять, что вы получаете за него.
Amazon was a high fixed-cost business with variable revenue. The more customers it served, the cheaper each marginal customer got. Each time you ask Claude to build you an app that tells you when to do your laundry, it costs Anthropic money. Each time you ask(ed) Sora to make you a video of Sam Altman twerking, it cost OpenAI money (and scarce compute that could be used for other things), which is why they shut it down. That said, margins at both Anthropic and OpenAI are improving, and with every point in margin, that variable cost problem gets less painful.
Amazon был бизнесом с высокими постоянными издержками и переменной выручкой. Чем больше клиентов он обслуживал, тем дешевле обходился каждый предельный клиент. Каждый раз, когда вы просите Claude собрать вам приложение, которое подсказывает, когда стирать бельё, это стоит денег Anthropic. Каждый раз, когда вы (раньше) просили Sora сделать вам видео, где Сэм Альтман трясёт задом, это стоило денег OpenAI (и дефицитных вычислений, которые могли бы пойти на другие задачи), поэтому они и закрыли его. При этом маржа и у Anthropic, и у OpenAI улучшается, и с каждым пунктом маржи проблема переменных издержек становится менее болезненной.
One thing to consider is that API tokens are likely a much better business because Anthropic charges based on tokens consumed. Funnily, when I asked Claude about this, it linked me to a public artifact of research someone else had done with Claude, which said that average users of Pro and Max make Anthropic money, Heavy users of Pro and Max lose Anthropic money, and the API business (which is 70-75% of revenue) produces “50–65% gross margins on Sonnet workloads and 35–50% on Opus workloads.” Caveat emptor. This is a monster business, but I wonder how much it benefits from another bad analogy: linesofcodemaxxxxxing.
Стоит учесть, что API-токены, вероятно, гораздо лучший бизнес, потому что Anthropic берёт плату за количество потреблённых токенов. Забавно, что когда я спросил Claude об этом, он направил меня к публичному артефакту чужого исследования, сделанного с помощью Claude, где говорилось, что средние пользователи Pro и Max приносят Anthropic деньги, тяжёлые пользователи Pro и Max приносят Anthropic убытки, а API-бизнес (составляющий 70–75% выручки) даёт «50–65% валовой маржи на Sonnet-нагрузках и 35–50% на Opus-нагрузках». Caveat emptor. Это монструозный бизнес, но мне интересно, насколько он выигрывает от ещё одной плохой аналогии: linesofcodemaxxxxxing.
In the olden days, lines of code (LOC) were expensive to produce. Only a select few even knew how. There were more problems to solve than people or LOCs to solve them, so companies would create a backlog and their engineers would crank through them by producing more LOCs. The lines of code themselves were not the valuable thing; they were valuable insofar as they were used to solve problems the company needed to solve. You could look at a successful software company, see that they’d written a lot of code, and lazily analogize: LOCs are correlated with success, lines of code are themselves a goal. Goodhart’s Law strikes again.
В стародавние времена строки кода (LOC) были дороги в производстве. Знали, как их писать, лишь избранные. Проблем, которые нужно было решать, было больше, чем людей или LOC, и компании накапливали бэклог, а их инженеры прогоняли его, выпуская всё больше LOC. Сами по себе строки кода ценностью не были; они были ценны лишь постольку, поскольку решали проблемы, которые нужно было решить компании. Можно было посмотреть на успешную софтверную компанию, увидеть, что она написала много кода, и лениво провести аналогию: LOC коррелируют с успехом, строки кода сами по себе — цель. Закон Гудхарта снова в действии.
“You gotta be tokenmaxxxxxing,” they’ll tell you. I do wonder if this part of the business slows down once the psychosis breaks and we have maxxxxed all that we can maxxxx. At some point, when you’ve gone too deep, the ghost of Jeff Bezos appears and asks you what any of these tokens you’re maxxxxing has done for your customers.
«Надо tokenmaxxxxxing-овать», — скажут вам. Мне действительно интересно, не замедлится ли эта часть бизнеса, когда психоз спадёт и мы максимизируем всё, что можно было максимизировать. В какой-то момент, когда вы зашли слишком далеко, появляется призрак Джеффа Безоса и спрашивает: а что все эти токены, которые вы максимизируете, сделали для ваших клиентов?
Anyway, another thing about Amazon’s business is that while they had a ton of direct competitors - Barnes & Noble, eBay, Walmart, a graveyard of dot com competitors - they had no real competition in their strategy. If Bezos was right that getting to scale category-by-category, starting with the ones best suited to the internet, building an unmatched distribution and logistics network, driving down prices and delivery times, getting more scale, growing the distribution network, driving down prices, making the “divinely discontent” customers discontent with anything slower or more expensive than what they’d come to expect with Amazon, getting them hooked on Prime, paying a subscription and ordering more, continuing to press the advantage, and growing FCF per share proved to be the winning strategy, Amazon would emerge on the other side of all that spend as the only company with all of that in place, and with the pricing power and control over the levers of profitability that come with domination.
К слову, ещё одна особенность бизнеса Amazon в том, что, хотя у них была куча прямых конкурентов — Barnes & Noble, eBay, Walmart, целое кладбище dot-com-конкурентов, — у них не было реального конкурента в стратегии. Если Безос был прав, что выход на масштаб категория за категорией, начиная с тех, что лучше всего подходят интернету, построение непревзойдённой дистрибьюторской и логистической сети, снижение цен и сроков доставки, наращивание масштаба, расширение сети, снижение цен, превращение «божественно недовольных» клиентов в недовольных всем, что медленнее или дороже того, к чему они привыкли с Amazon, подсаживание их на Prime, чтобы они платили подписку и заказывали больше, продолжение давления и рост FCF на акцию — окажется выигрышной стратегией, то Amazon выйдет из всего этого расходного марафона как единственная компания, у которой всё это есть, с ценовой властью и контролем над рычагами прибыльности, какие даёт доминирование.
Uber had direct competition, but it was weaker, and Uber was making a very explicit bet that scale and network effects were all that would matter. They were right, too, and emerged on the other side of all that spend as the only company with the right network in place, and with the pricing power and control over the levers of profitability that come with domination.
У Uber были прямые конкуренты, но более слабые, и Uber делал очень явную ставку: масштаб и сетевые эффекты — это всё, что имеет значение. Они оказались правы и вышли с другой стороны всех этих расходов как единственная компания с нужной сетью на месте, с ценовой властью и контролем над рычагами прибыльности, какие даёт доминирование.
Could you say the same for any of the AI labs?
Можно ли сказать то же самое о какой-либо из AI-лабораторий?
We don’t have to spend a lot of time answering this. There is a lot of direct competition. The strategies seem to be very similar from the outside. Sure, different companies play with targeting different end users, and maybe OpenAI will turn ads into a big business while Anthropic owns the enterprise (although it looks like OpenAI is pushing all of its resources towards competing directly for coding and enterprise), but the core strategy is spend a lot on CapEx now to build increasingly strong models and maybe God is on the other side of all of that spend.
Долго отвечать на этот вопрос не нужно. Прямой конкуренции много. Стратегии со стороны выглядят очень похожими. Конечно, разные компании играются с разными конечными пользователями, и, может быть, OpenAI превратит рекламу в большой бизнес, а Anthropic возьмёт enterprise (хотя, похоже, OpenAI бросает все ресурсы, чтобы напрямую конкурировать в кодинге и enterprise), но базовая стратегия одна — тратить много на CapEx сейчас, чтобы строить всё более сильные модели, и, может быть, на другой стороне всех этих трат окажется Бог.
Ask any of the polytheistic religions whether competition among the gods is any less intense. And if we’re playing gods, Google is probably Zeus. Meta is Hermes - god of commerce, god of thieves, trickster god making everyone else’s shit more expensive. Should we do DeepSeek? Sun Wukong, the Monkey God who stole and devoured the peaches of immortality until the Jade Emperor begged Buddha to intervene, and Buddha trapped him under a mountain.
Спросите у любой политеистической религии, менее ли интенсивна конкуренция между богами. И если уж мы играем в богов — Google, наверное, Зевс. Meta — Гермес: бог торговли, бог воров, бог-трикстер, делающий всё чужое более дорогим. Возьмём DeepSeek? Сунь Укун, Царь обезьян, который воровал и поедал персики бессмертия, пока Нефритовый Император не упросил Будду вмешаться, и Будда не запер его под горой.
Our competition is multidenominational, and everyone is fighting with basically the same weapons. Every major lab, it seems, prays at the same altar, the Altar of Scaling Laws.
Наша конкуренция мультиконфессиональна, и все сражаются практически одним и тем же оружием. Каждая крупная лаборатория, похоже, молится у одного алтаря — Алтаря Scaling Laws.
But! You say. But! Recursive self-improvement! Fast takeoff! Those tokens aren’t just producing code — they’re creating a proprietary data flywheel! There will be One True God.
Но! — скажете вы. Но! Рекурсивное самоулучшение! Быстрый взлёт! Эти токены не просто производят код — они создают проприетарный маховик данных! Будет Единый Истинный Бог.
Maybe!
Может быть!
Another reason I am allergic to some of this analogizing and extrapolating is because I have done it myself. I, too, have sinned. I have analogized crypto protocols to companies that didn’t fit just right. I have written I, Exponential and Compounding Crazy. As much as you think you love a good exponential, I can assure you I love them more. So when I ever dare question whether AI might hit a ceiling before it makes us irrelevant meatbags, and am met with the inevitable, “You don’t get exponentials! This is exactly like X! Have you even seen the Tim Urban chart?!” just know that I know these tricks. I have learned their painful lessons.
Ещё одна причина, по которой у меня аллергия на часть этого аналогизирования и экстраполяций, — я и сам так делал. Я тоже грешил. Я аналогизировал крипто-протоколы с компаниями, к которым они не вполне подходили. Я написал I, Exponential и Compounding Crazy. Как бы сильно вы ни любили хорошую экспоненту, я люблю её больше. Так что когда я вдруг осмеливаюсь поставить под сомнение, не упрётся ли AI в потолок до того, как сделает нас бесполезными мешками мяса, и слышу неизбежное: «Ты не понимаешь экспоненты! Это в точности как X! Ты хоть смотрел график Тима Урбана?!» — просто знайте: я знаю эти трюки. Я выучил их болезненные уроки.
Not all exponentials are created equal. Does God think forever or does he know all in an instant?
Не все экспоненты равны. Думает ли Бог вечно — или знает всё в одно мгновение?
I have been pushing back against Leopold’s assertion that believing ASI will come soon after 2027 “doesn’t require believing in sci-fi; it just requires believing in straight lines on a graph” since he first tweeted it. (to be fair, he’s made billions more dollars than me in the interim.)
Я возражаю против утверждения Леопольда, что вера в скорое появление ASI вслед за 2027 годом «не требует веры в научную фантастику; требуется лишь верить в прямые линии на графике», с тех пор как он впервые написал об этом в твиттере. (Справедливости ради, он за это время заработал на миллиарды долларов больше меня.)
Just this week, METR’s Joel Becker wrote a post attempting to provide an intuition for the “Straight lines on graphs” argument. The point is that even if it doesn’t make sense, the line will continue to go up. We’ll figure out ways. But my point is that even if the models can think longer, it doesn’t mean that we will birth God. I think we’re going to end up with really excellent software, which is great, instead of an all-knowing and all-loving AI.
Буквально на этой неделе Joel Becker из METR опубликовал пост, в котором пытался дать интуицию аргумента «Straight lines on graphs». Суть в том, что даже если это не выглядит логичным, линия будет продолжать идти вверх. Мы что-нибудь придумаем. Но мой посыл в том, что даже если модели смогут думать дольше, это не значит, что мы родим Бога. Я думаю, мы получим действительно отличный софт, что прекрасно, а не всезнающий и всепрощающий AI.
AND, more relevant to the Amazon discussion, if each lab’s model can think longer and get smarter at roughly the same rate, without any clear runaway winner, then the situation is not analogous to Amazon, or even Uber, who ate short-term pain for long-term strategic solitude.
И, что более релевантно для разговора об Amazon, если модели каждой из лабораторий могут думать дольше и становиться умнее примерно с одинаковой скоростью, без явного победителя в отрыве, — то ситуация не аналогична ни Amazon, ни даже Uber, которые проглотили краткосрочную боль ради долгосрочного стратегического одиночества.
I don’t mean to pick on the AI labs, I don’t even think they themselves are the ones perpetrating this malanalogous thinking, it’s just that they’re the only thing anyone is talking about so they are the richest source of bad analogies. And I really don’t know how it’s going to play out. There is a chance we wake up in a decade and OpenAI and Anthropic are the most valuable companies in the world. There is also a chance that they are the AOLs of this whole thing. There’s a chance that the biggest business in a decade is the one that bought all the cheap tokens after the crash, the way Rockefeller bought all the excess rail capacity worth buying.
Я не хочу нападать на AI-лаборатории, я даже не думаю, что они сами — главные распространители этого плохо-аналогичного мышления; просто о них только и говорят, поэтому они — самый богатый источник плохих аналогий. И я действительно не знаю, как всё это сыграет. Есть шанс, что через десять лет мы проснёмся, а OpenAI и Anthropic — самые ценные компании в мире. Есть и шанс, что они окажутся «AOL» всей этой истории. Есть шанс, что крупнейшим бизнесом через десять лет окажется тот, кто скупит все дешёвые токены после краха — так же, как Рокфеллер скупал все избыточные железнодорожные мощности, которые имело смысл скупать.
AOL and Rockefeller are analogies, too, huh? Avoiding them is hard, because they truly are useful starting points. They’re so easy to reach for, in fact, that on their own, they are at best consensus and at worst dangerous.
AOL и Рокфеллер — это ведь тоже аналогии, а? Избегать их трудно, потому что они и правда полезные отправные точки. Они настолько легкодоступны, что сами по себе в лучшем случае консенсусны, а в худшем — опасны.
It’s the work you do from those starting points that will decide whether you end up the next Hummer Winblad or the next J.P. Morgan. (damnit)
Именно работа, которую вы проделываете, отталкиваясь от этих отправных точек, решит, окажетесь ли вы следующим Hummer Winblad или следующим J.P. Morgan. (чёрт)
That’s all for today. If you liked what you read, join us in not boring world:
На сегодня всё. Если вам понравилось прочитанное, присоединяйтесь к нам в не-скучный мир:
We’ll be back in your inbox tomorrow with a Weekly Dose.
Завтра вернёмся к вам в инбокс с Weekly Dose.
Thanks for reading,
Спасибо, что прочитали,
Packy
Packy