The SpaceX IPO and Data Centers in Space

The SpaceX IPO and Data Centers in Space

IPO SpaceX и дата-центры в космосе

Listen to Podcast

Слушать подкаст

Listen to this post:

Прослушать этот пост:

It’s hardly the biggest problem in the world — or perhaps the height of privilege to consider it a problem at all — but one of the most annoying consumer experiences is booking an Uber Black and realizing you got assigned a Tesla Model Y (Uber finally stopped allowing new Model Y’s onto Black last year). Buckle up for an uncomfortable back seat, basic plastic finishes, and, all-too-often, potential car sickness from a driver who hasn’t completely mastered the Tesla’s aggressive regenerative braking.

Это вряд ли самая большая проблема в мире — а возможно, и верх привилегированности считать это проблемой вообще, — но один из самых раздражающих потребительских опытов — заказать Uber Black и обнаружить, что вам назначили Tesla Model Y (Uber наконец перестал допускать новые Model Y в категорию Black в прошлом году). Приготовьтесь к неудобному заднему сиденью, простенькой пластиковой отделке и — слишком часто — потенциальному укачиванию от водителя, который не до конца освоил агрессивное рекуперативное торможение Tesla.

Still, the fact that the Model Y ever made it to the Black level is a testament to the brand Elon Musk built. Back in 2016, when 300,000 people dropped $1,000 each in a matter of hours to reserve an as-yet-unreleased Model 3, I explained that the phenomenon was because It’s a Tesla:

Тем не менее сам факт, что Model Y когда-то попала на уровень Black, свидетельствует о бренде, который построил Elon Musk. В 2016 году, когда 300 000 человек за считанные часы внесли по $1 000 за резервирование ещё не выпущенной Model 3, я объяснил, что этот феномен произошёл потому, что это Tesla:

The real payoff of Musk’s “Master Plan” is the fact that Tesla means something: yes, it stands for sustainability and caring for the environment, but more important is that Tesla also means amazing performance and Silicon Valley cool. To be sure, Tesla’s focus on the high end has helped them move down the cost curve, but it was Musk’s insistence on making “An electric car without compromises” that ultimately led to 276,000 people reserving a Model 3, many without even seeing the car: after all, it’s a Tesla.

Настоящая отдача от «Генерального плана» Маска — тот факт, что Tesla что-то значит: да, это означает устойчивое развитие и заботу об окружающей среде, но важнее то, что Tesla также означает потрясающую производительность и куловость Кремниевой долины. Безусловно, фокус Tesla на премиальном сегменте помог им двигаться вниз по кривой затрат, но именно настойчивость Маска в создании «электромобиля без компромиссов» в конечном счёте привела к тому, что 276 000 человек зарезервировали Model 3, многие даже не увидев машину: в конце концов, это Tesla.

This is the same brand halo that landed what is, if we’re honest, a pretty basic car on the Uber Black list. What actually makes these cars compelling is the extent to which they are computers on wheels: I know plenty of very rich people who drive a Tesla not for the finishes but rather the Full Self-Driving (Supervised); there is nothing like it on the market, at least when it comes to cars you can own.

Именно этот ореол бренда привёл, если честно, довольно простой автомобиль в список Uber Black. На самом деле эти машины привлекательны тем, в какой степени они являются компьютерами на колёсах: я знаю немало очень состоятельных людей, которые водят Tesla не ради отделки, а ради Full Self-Driving (Supervised) — ничего подобного нет на рынке, по крайней мере среди машин, которые можно купить в собственность.

Tesla appears to be doubling down on this point of differentiation: the company stopped production of the Models S and X earlier this year, focusing production resources on the CyberCab and robots; if you want your car to drive itself, you’ll get the same model as everyone else. It reminds me of Andy Warhol’s famous quote:

Tesla, похоже, делает ставку на это конкурентное преимущество: компания прекратила производство моделей S и X в начале этого года, перенаправив производственные ресурсы на CyberCab и роботов; если вы хотите, чтобы ваш автомобиль ездил сам, вы получите ту же модель, что и все остальные. Это напоминает мне знаменитую цитату Энди Уорхола:

What’s great about this country is that America started the tradition where the richest consumers buy essentially the same things as the poorest. You can be watching TV and see Coca-Cola, and you know that the President drinks Coke, Liz Taylor drinks Coke, and just think, you can drink Coke, too. A Coke is a Coke and no amount of money can get you a better Coke than the one the bum on the corner is drinking. All the Cokes are the same and all the Cokes are good. Liz Taylor knows it, the President knows it, the bum knows it, and you know it.

Замечательно в этой стране то, что Америка положила начало традиции, при которой самые богатые потребители покупают по сути то же самое, что и самые бедные. Вы можете смотреть телевизор и видеть Coca-Cola, и вы знаете, что президент пьёт колу, Liz Taylor пьёт колу, и подумайте — вы тоже можете пить колу. Кола есть кола, и никакие деньги не помогут вам получить колу лучше, чем та, которую пьёт бродяга на углу. Вся кола одинаковая, и вся кола хорошая. Liz Taylor это знает, президент это знает, бродяга это знает, и вы это знаете.

That “tradition” is scale, and America is indeed better at it than any other country in the world; and, amongst Americans, no one pursues and seeks to leverage scale quite like Musk.

Эта «традиция» — масштаб, и Америка действительно справляется с ним лучше любой другой страны в мире; а среди американцев никто не стремится к масштабу и не умеет его использовать так, как Маск.

Starlink and Airlines

Starlink и авиакомпании

From a press release from American Airlines:

Из пресс-релиза American Airlines:

American Airlines today announced a sweeping modernization of its narrowbody inflight customer experience with the installation of Starlink, the fastest Wi-Fi in the sky, on more than 500 narrowbody aircraft beginning in Q1 2027. Starlink is widely regarded as the world’s most advanced satellite constellation using a low Earth orbit to deliver broadband Internet capable of supporting inflight streaming, online gaming, collaborative meeting tools and more. With thousands of satellites in low Earth orbit, Starlink can deliver multigigabit connectivity to aircraft using its Aero Terminal, which can support up to 1 Gbps per antenna.

“As a premium global airline, we are continuously seeking out world-class partners like Starlink to deliver what our customers need and want,” said American Airlines Chief Customer Officer Heather Garboden. “The addition of Starlink solidifies American as a leading airline in keeping passengers connected in flight.” As part of American’s commitment to an elevated onboard experience, Starlink will enable seamless streaming, browsing and real-time communication capabilities across American’s domestic and short-haul international routes.

American Airlines сегодня объявила о масштабной модернизации бортового клиентского опыта на узкофюзеляжных самолётах с установкой Starlink — самого быстрого Wi-Fi в небе — на более чем 500 узкофюзеляжных воздушных судах, начиная с первого квартала 2027 года. Starlink повсеместно признаётся самой передовой спутниковой группировкой в мире, использующей низкую околоземную орбиту для предоставления широкополосного интернета, способного поддерживать потоковое вещание в полёте, онлайн-игры, инструменты для совместных совещаний и многое другое. С тысячами спутников на низкой околоземной орбите Starlink может обеспечить мультигигабитное подключение для воздушных судов с помощью терминала Aero Terminal, поддерживающего до 1 Гбит/с на антенну. «Как премиальная глобальная авиакомпания, мы постоянно ищем партнёров мирового класса, таких как Starlink, чтобы предоставлять нашим клиентам то, что им нужно и чего они хотят», — заявила директор по клиентскому опыту American Airlines Heather Garboden. «Добавление Starlink укрепляет позицию American как ведущей авиакомпании в обеспечении связи пассажиров в полёте». В рамках приверженности American улучшенному бортовому опыту, Starlink обеспечит бесперебойное потоковое вещание, просмотр интернета и возможности коммуникации в реальном времени на внутренних и ближнемагистральных международных маршрутах American.

I linked to the press release just for the amusement of American Airlines, which has in recent years built its strategy around offering anything-but-premium on routes you need, billing their Starlink deal as a commitment to “an elevated onboard experience.” That may have been the argument for United’s Starlink deal when it was announced in 2024, but by this point it’s tablestakes, which is surely exactly how Musk wants it.

Я дал ссылку на пресс-релиз просто ради забавности ситуации: American Airlines, которая в последние годы строила свою стратегию на предложении чего угодно, кроме премиума, на нужных вам маршрутах, подаёт свою сделку со Starlink как приверженность «улучшенному бортовому опыту». Это мог быть аргумент для сделки United со Starlink, когда её объявили в 2024 году, но к этому моменту это стандарт отрасли, и именно так, безусловно, Маск и хочет.

Starlink is the consumer-facing business of SpaceX, generating $8.7 billion in revenue last year and $4.4 billion in profit; while it’s not totally clear exactly how SpaceX accounts for launch costs, obviously Starlink benefits greatly from the fact that it has access to SpaceX’s launch capacity. That launch capacity has resulted in over ten thousand active satellites in low Earth orbit, delivering low latency high speed Internet anywhere in the world — including in the air. That’s the carrot for airlines; the stick is the prospect of everyone else having the same service, and customers making flight decisions based on the quality of Internet access available.

Starlink — это потребительский бизнес SpaceX, принёсший $8,7 млрд выручки в прошлом году и $4,4 млрд прибыли; хотя не совсем ясно, как именно SpaceX учитывает стоимость запусков, очевидно, что Starlink существенно выигрывает от доступа к пусковым мощностям SpaceX. Эти мощности обеспечили вывод на низкую околоземную орбиту более десяти тысяч активных спутников, обеспечивающих высокоскоростной интернет с низкой задержкой в любой точке мира — в том числе в воздухе. Это пряник для авиакомпаний; кнут — перспектива того, что все остальные будут иметь тот же сервис, а пассажиры начнут выбирать рейсы исходя из качества доступного интернета.

There is a similarity to Tesla in this way. Musk companies at their best don’t win the game; they change the rules through scale, such that billionaires buy economy cars because they actually drive themselves (with supervision), and airlines transform the consumer experience on their own dime. Musk makes all-in bets — whether that be in terms of launch capacity or in autonomous driving — not by making rational short-term business decisions, but by starting with the desired end state and working backwards.

В этом есть сходство с Tesla. Компании Маска в лучшем виде не выигрывают игру — они меняют правила через масштаб, так что миллиардеры покупают массовые автомобили, потому что те действительно ездят сами (под присмотром), а авиакомпании трансформируют клиентский опыт за свой счёт. Маск делает ставки ва-банк — будь то в пусковых мощностях или в автономном вождении — не принимая рациональные краткосрочные бизнес-решения, а начиная с желаемого конечного состояния и двигаясь назад.

SpaceX’s Silly S-1

Нелепый S-1 SpaceX

Tech has a long history of silly charts — there is an entire category known as Bezos charts — and the SpaceX S-1 has one that made me laugh. It came in the discussion of SpaceX’s total addressable market:

В технологической индустрии давняя история нелепых графиков — существует целая категория, известная как графики Безоса — и в S-1 SpaceX есть один, который меня рассмешил. Он появился в разделе об общем адресуемом рынке SpaceX:

We believe we have identified the largest actionable total addressable market (“TAM”) in human history. We estimate that our quantifiable TAM is $28.5 trillion, consisting of $370 billion in Space from space-enabled solutions; $1.6 trillion in Connectivity across $870 billion in Starlink Broadband and $740 billion in Starlink Mobile as well as additional opportunities in enterprise and government; $26.5 trillion in AI across $2.4 trillion in AI infrastructure, $760 billion in consumer subscriptions, $600 billion in digital advertising, and $22.7 trillion in enterprise applications. For illustrative purposes of sizing our addressable market opportunity, we exclude China and Russia from our global estimates.

Мы считаем, что выявили крупнейший операционно адресуемый рынок (TAM) в истории человечества. Мы оцениваем наш количественно измеримый TAM в $28,5 трлн, состоящий из $370 млрд в сегменте космоса от решений на основе космических технологий; $1,6 трлн в сегменте связи — $870 млрд в Starlink Broadband и $740 млрд в Starlink Mobile, а также дополнительные возможности в корпоративном и государственном секторах; $26,5 трлн в сегменте ИИ — $2,4 трлн в инфраструктуре ИИ, $760 млрд в потребительских подписках, $600 млрд в цифровой рекламе и $22,7 трлн в корпоративных приложениях. В иллюстративных целях для оценки нашего адресуемого рынка мы исключаем Китай и Россию из глобальных оценок.

This image is approximately to scale vertically, but certainly not horizontally: I could use the help in really wrapping my mind around the $26.5 trillion AI opportunity, given it’s more than 13 times the space and connectivity opportunity combined!

Это изображение приблизительно соответствует масштабу по вертикали, но определённо не по горизонтали: мне бы пригодилась помощь, чтобы по-настоящему осмыслить возможность ИИ на $26,5 трлн, учитывая, что это более чем в 13 раз превышает космический и коммуникационный сегменты вместе взятые!

In all seriousness, the numbers are obviously absurd, but then again, everything about this IPO is absurd. SpaceX is seeking a $2 trillion valuation on a mere $18.67 billion in revenue with $4.9 billion in losses last year, and growth actually slowed from 35% to 33%. That slowdown happened despite the addition of xAI (and thus also X), which tipped the company from a small profit to that massive loss, thanks to $5.1 billion in AI R&D expense. That R&D, keep in mind, went towards building a model that is in 5th place, and whose entire founding team recently left the company. But sure, $26.5 trillion AI opportunity!

Если серьёзно, цифры, очевидно, абсурдны, но опять же, всё в этом IPO абсурдно. SpaceX стремится к оценке в $2 трлн при скромных $18,67 млрд выручки с убытками в $4,9 млрд за прошлый год, а рост фактически замедлился с 35% до 33%. Это замедление произошло несмотря на присоединение xAI (а значит, и X), которое перевело компанию из небольшой прибыли в эти масштабные убытки из-за $5,1 млрд расходов на R&D в области ИИ. Эти R&D-расходы, заметим, пошли на создание модели, которая находится на 5-м месте и чья вся команда основателей недавно покинула компанию. Но конечно, возможность ИИ на $26,5 трлн!

This is not to say that SpaceX won’t get its desired valuation. Tesla’s valuation never made any sense right up until the Models 3 and Y actually worked out, causing Tesla’s share price to soar (and even then it was hard to ever build a financial model that justified the new share price). Musk’s ability to make his own reality starts with investors; from 2021’s Mistakes and Memes and comparing Apple and Tesla:

Это не значит, что SpaceX не получит желаемую оценку. Оценка Tesla никогда не имела смысла — вплоть до того момента, когда модели 3 и Y действительно взлетели, вызвав стремительный рост акций Tesla (и даже тогда было сложно построить финансовую модель, оправдывающую новую цену). Способность Маска создавать собственную реальность начинается с инвесторов; из статьи 2021 года Mistakes and Memes, сравнивающей Apple и Tesla:

This comparison works as far as it goes, but it doesn’t tell the entire story: after all, Apple’s brand was derived from decades building products, which had made it the most profitable company in the world. Tesla, meanwhile, always seemed to be weeks from going bankrupt, at least until it issued ever more stock, strengthening the conviction of Tesla skeptics and shorts.

That, though, was the crazy thing: you would think that issuing stock would lead to Tesla’s stock price slumping; after all, existing shares were being diluted. Time after time, though, Tesla announcements about stock issuances would lead to the stock going up. It didn’t make any sense, at least if you thought about the stock as representing a company.

It turned out, though, that TSLA was itself a meme, one about a car company, but also sustainability, and most of all, about Elon Musk himself. Issuing more stock was not diluting existing shareholders; it was extending the opportunity to propagate the TSLA meme to that many more people, and while Musk’s haters multiplied, so did his fans. The Internet, after all, is about abundance, not scarcity. The end result is that instead of infrastructure leading to a movement, a movement, via the stock market, funded the building out of infrastructure.

Это сравнение работает до определённого предела, но не раскрывает всей картины: в конце концов, бренд Apple складывался десятилетиями создания продуктов, которые сделали её самой прибыльной компанией в мире. Tesla же, казалось, всегда была в нескольких неделях от банкротства — по крайней мере до тех пор, пока не выпускала всё новые акции, укрепляя убеждённость скептиков и шортистов Tesla. Однако в этом-то и было безумие: казалось бы, выпуск акций должен приводить к падению цены акций Tesla — ведь доли существующих акционеров размываются. Но раз за разом объявления Tesla о выпуске акций приводили к росту котировок. Это не имело никакого смысла, по крайней мере если думать об акции как о доле в компании. Однако оказалось, что TSLA сама по себе была мемом — мемом об автомобильной компании, но также об устойчивом развитии и, прежде всего, о самом Elon Musk. Выпуск новых акций не размывал доли существующих акционеров — он расширял возможность распространять мем TSLA на ещё больше людей, и хотя ненавистников Маска множилось, множилось и его фанатов. Интернет, в конце концов, — это изобилие, а не дефицит. В результате вместо того, чтобы инфраструктура порождала движение, движение через фондовый рынок финансировало строительство инфраструктуры.

I explained in that Article why I generally did not cover Tesla’s financial results, and the reasoning extends to why I don’t expect to cover SpaceX’s: Musk is the master of memes, and is himself a meme. He offers a dream — Mars, fully autonomous vehicles, an addressable market of $28.5 trillion — and positions his companies and their stock as access to that dream, and through the alchemy of capital markets, transforms shared delusion into mass market reality.

В той статье я объяснил, почему в целом не освещал финансовые результаты Tesla, и та же логика распространяется на то, почему я не планирую освещать результаты SpaceX: Маск — мастер мемов и сам является мемом. Он предлагает мечту — Марс, полностью автономные автомобили, адресуемый рынок в $28,5 трлн — и позиционирует свои компании и их акции как доступ к этой мечте, и через алхимию рынков капитала превращает коллективную иллюзию в массовую реальность.

Musk’s track record matters in this regard. Building an electric car company was possible, as was full self-driving (supervised); at the same time there were ever increasing government mandates and programs around decreasing emissions that acted as the stick to Tesla’s carrot. Similarly, landing rockets was possible, and the new market creation downstream from correspondingly lower launch costs was comprehensible. That Musk succeeded in both instances gives him the benefit of the doubt.

Послужной список Маска важен в этом отношении. Создание компании по производству электромобилей было возможным, как и полное автономное вождение (под присмотром); при этом существовали всё возрастающие государственные мандаты и программы по сокращению выбросов, которые действовали как кнут к прянику Tesla. Аналогично, посадка ракет была возможна, а создание нового рынка вследствие соответствующего снижения стоимости запуска было понятным. То, что Маск преуспел в обоих случаях, даёт ему кредит доверия.

The question that matters, then, is not if the numbers make sense right now (they absolutely do not); what matters is if the dream is even possible, and if there are actual reasons to think it might happen. I think that data centers in space meet these conditions.

Вопрос, который действительно важен, — не в том, имеют ли смысл цифры прямо сейчас (определённо нет); важно, возможна ли вообще эта мечта и есть ли реальные основания полагать, что она может осуществиться. Я считаю, что дата-центры в космосе отвечают этим условиям.

The Case for Data Centers in Space

Аргументы в пользу дата-центров в космосе

The first question about data centers in space is if they are even possible, and I think the answer is clearly yes. The key thing to consider is that there is no requirement that these data centers look anything like data centers on earth. On earth we build massive buildings full of GPUs with massive infrastructure for cooling those GPUs and massive power plants (or a connection to a grid which connects to massive power plants) to power those GPUs. The idea of transporting these massive structures to space sounds implausible, and it is!

Первый вопрос о дата-центрах в космосе — возможны ли они вообще, и я думаю, что ответ однозначно да. Ключевое соображение: нет никакого требования, чтобы эти дата-центры выглядели как дата-центры на Земле. На Земле мы строим огромные здания, набитые GPU, с массивной инфраструктурой для охлаждения этих GPU и массивными электростанциями (или подключением к сети, связанной с массивными электростанциями) для их питания. Идея транспортировки этих громадных сооружений в космос звучит неправдоподобно — и так оно и есть!

However, there is no reason that space data centers would look like data centers on earth. What makes far more sense is to think about an individual satellite as something akin to a rack. Right now the largest Starlink satellite in orbit is the V2 Mini Direct-to-Cell, which measures 7.4 meters by 2.7 meters by 0.3 meters (estimated); an NVL72 rack from Nvidia, meanwhile, measures 2.2 meters by 1.1 meters by 0.6 meters, so we’re already in the right size range. The V2 Mini Direct-to-Cell consumes (and dissipates) up to an estimated 25kW of energy; the NVL72 up to 135kW, and it can fit a 1 trillion parameter model quantized to FP4.

Однако нет причин, по которым космические дата-центры должны выглядеть как наземные. Гораздо разумнее думать об отдельном спутнике как о чём-то вроде стойки. Сейчас крупнейший спутник Starlink на орбите — V2 Mini Direct-to-Cell — имеет размеры примерно 7,4 × 2,7 × 0,3 метра (оценочно); стойка NVL72 от Nvidia, в свою очередь, имеет размеры 2,2 × 1,1 × 0,6 метра, так что мы уже в нужном диапазоне размеров. V2 Mini Direct-to-Cell потребляет (и рассеивает) до примерно 25 кВт энергии; NVL72 — до 135 кВт, и в неё помещается модель с 1 триллионом параметров, квантизированная до FP4.

The big shortcoming for a rack-satellite is power and its dissipation, but going from 25kW to 135kW is certainly within the realm of possibility — and given that you don’t need much of the cooling and power distribution usage on earth, something closer to 100kW might deliver similar performance. There are other issues to address, including the problem of radiation screwing with calculations, reliability, etc., although those two concerns could be addressed in part by using larger chips (which are less efficient, but also use less power); these rack-satellites will also be disposable, like Starlink satellites, ameliorating reliability issues. The key factor, however, is that a fleet of racks, interconnected with lasers (as Starlink’s already are), each with their own solar panels and radiator arrays for cooling (deploying 200+ square meters of radiators per rack will be a huge challenge), is possible.

Главный недостаток спутника-стойки — энергопотребление и теплоотвод, но переход от 25 кВт к 135 кВт вполне в пределах возможного — а учитывая, что значительная часть энергии на охлаждение и распределение питания на Земле не нужна, что-то ближе к 100 кВт может обеспечить сопоставимую производительность. Есть и другие проблемы, включая влияние радиации на вычисления, надёжность и т.д., хотя обе эти проблемы частично решаются использованием более крупных чипов (менее эффективных, но потребляющих меньше энергии); эти спутники-стойки также будут одноразовыми, как спутники Starlink, что смягчает проблемы надёжности. Однако ключевой фактор в том, что флот стоек, соединённых лазерами (как уже соединены спутники Starlink), каждая со своими солнечными панелями и радиаторными массивами для охлаждения (развёртывание более 200 м² радиаторов на стойку будет огромным вызовом), — это возможно.

The next question about data centers in space is if there is a use case for them — the carrot — and I already made the argument that there is in The Inference Shift. Specifically, there are three types of workloads developing around LLMs: training, answer inference, and agentic inference. From the section making the case for “agentic inference”:

Следующий вопрос о дата-центрах в космосе — есть ли для них сценарий использования, то есть пряник, — и я уже привёл аргументы в статье The Inference Shift. В частности, вокруг LLM формируются три типа нагрузок: обучение, инференс для ответов и агентный инференс. Из раздела, обосновывающего «агентный инференс»:

Critically, this articulation of an agentic-specific memory hierarchy implies a necessary trade-off of speed for capacity. Here’s the thing, though: lower speed isn’t nearly as important a consideration if there isn’t a human in the loop. If an agent is waiting around for a job that is being run overnight, the agent doesn’t know or care about the user experience impact; what is most important is being able to accomplish a task, and if entirely new approaches to memory make that possible, then delays are fine.

If delays are fine, then all of the focus on pure compute power and high-bandwidth memory seems out of place: if latency isn’t the top priority, then slower and cheaper memory — like traditional DRAM, for example — makes a lot more sense. And if the entire system is mostly waiting on memory, then chips don’t need to be as fast as the cutting edge either. This represents a profound shift in future architectures, but it also doesn’t mean that current architectures are going away:

• Training will continue to matter, and Nvidia’s current architecture, including high-speed compute, large amounts of high-bandwidth memory, and high-speed networking, will likely continue to dominate.
• Answer inference will be a meaningful market, albeit a relatively small one, and speed from chips like Cerebras or Groq (I explained how Nvidia is deploying Groq’s LPUs here) will be very useful.
• Agentic inference will gradually unbundle the GPU, which alternates between stranding high-bandwidth memory (during the prefill process) and stranding compute (during the decode process), in favor of increasingly sophisticated memory hierarchies dominated by high capacity and relatively lower cost memory types, with “good enough” compute; indeed, if anything it will be the speed of CPUs for things like tool use that will matter more than the speed of GPUs.

At the same time, these categories won’t be equal in size or importance. Specifically, agentic inference will be the largest market by far, because that is the market that won’t be limited by humans or time. Today’s agents are fancy answer inference; in the future true agentic inference will be work done by computers according to dictates given by other computers, and the market size scales not with humans but with compute.

Принципиально важно, что эта формулировка специфичной для агентов иерархии памяти подразумевает необходимый компромисс между скоростью и ёмкостью. Однако вот в чём дело: меньшая скорость не столь критична, если в процессе нет человека. Если агент ждёт задачу, которая выполняется за ночь, агенту всё равно, как это влияет на пользовательский опыт; важнее всего — возможность выполнить задачу, и если принципиально новые подходы к памяти это обеспечивают, то задержки приемлемы. Если задержки приемлемы, то весь фокус на чистой вычислительной мощности и памяти с высокой пропускной способностью выглядит неуместным: если задержка не в приоритете, то более медленная и дешёвая память — например, традиционная DRAM — имеет гораздо больше смысла. А если вся система в основном ждёт память, то и чипы не обязательно должны быть на острие прогресса. Это представляет собой глубокий сдвиг в будущих архитектурах, но это не значит, что нынешние архитектуры исчезнут: обучение по-прежнему будет важным, и текущая архитектура Nvidia — включая высокоскоростные вычисления, большие объёмы памяти с высокой пропускной способностью и высокоскоростные сети — вероятно, продолжит доминировать. Инференс для ответов будет значимым рынком, хотя и относительно небольшим, и скорость чипов вроде Cerebras или Groq (я объяснял, как Nvidia развёртывает LPU Groq здесь) будет очень полезна. Агентный инференс постепенно разделит GPU, который чередует простой памяти с высокой пропускной способностью (во время фазы prefill) и простой вычислительных мощностей (во время фазы decode), в пользу всё более сложных иерархий памяти с доминированием высокоёмкой и относительно недорогой памяти при «достаточных» вычислениях; более того, значение будет иметь скорее скорость CPU для таких вещей, как использование инструментов, чем скорость GPU. В то же время эти категории не будут равны по размеру и значимости. В частности, агентный инференс станет крупнейшим рынком с большим отрывом, потому что именно этот рынок не будет ограничен людьми или временем. Сегодняшние агенты — это модный инференс для ответов; в будущем настоящий агентный инференс — это работа, выполняемая компьютерами по указаниям других компьютеров, и размер рынка масштабируется не с количеством людей, а с количеством вычислений.

It’s agentic inference that makes the most sense for racks in space, and conveniently enough, that is also the market that is likely to be the largest in the long run.

Именно агентный инференс имеет наибольший смысл для стоек в космосе, и, что удобно, это также рынок, который в долгосрочной перспективе, вероятно, будет крупнейшим.

The third question about data centers in space is if there is a stick. Specifically, while I think that racks-in-space are both a lot more viable than people think, and a lot more relevant to agentic inference than current modes of compute, it is at the end of the day cheaper and easier to build on earth, all things being equal.

Третий вопрос о дата-центрах в космосе — есть ли кнут. В частности, хотя я считаю, что стойки в космосе и гораздо жизнеспособнее, чем думают люди, и гораздо релевантнее для агентного инференса, чем нынешние модели вычислений, при прочих равных строить на Земле всё же дешевле и проще.

All things are not equal, however: right now we are at the very beginning of the AI buildout and already one of the biggest constraints is not just power (expected), but zoning (unexpected). I wrote in an Update last week:

Однако прочие условия не равны: прямо сейчас мы находимся в самом начале строительства инфраструктуры ИИ, и уже одним из главных ограничений является не только энергия (ожидаемо), но и зонирование (неожиданно). Я писал в обновлении на прошлой неделе:

That leads to an interesting contrast to globalization: when companies were closing down American factories and laying off workers and moving operations to China, none of the affected towns or workers had a say. They just suddenly no longer had a job, and a huge number of cities across the Rust Belt no longer had a reason to exist. People simply had to move, or worse, retreat to things like alcohol or drugs.

AI, however, is the opposite: building data centers requires permission, which is to say that people actually have a say. Again, I am not at all saying that these people are well informed about data centers, or about the economic impact on their communities, much less the economic impact of AI generally; what I am noting is that people who didn’t have a say in globalization are suddenly finding they do have a say about AI, and it’s not a surprise they are expressing their disapproval by blocking data centers.

Это приводит к интересному контрасту с глобализацией: когда компании закрывали американские фабрики, увольняли рабочих и переносили производство в Китай, ни один из пострадавших городов или работников не имел права голоса. Они просто внезапно оставались без работы, а огромное количество городов по всему «Ржавому поясу» теряли смысл существования. Людям приходилось просто переезжать или, что хуже, погружаться в алкоголь или наркотики. ИИ же — полная противоположность: строительство дата-центров требует разрешения, то есть у людей действительно есть право голоса. Повторюсь, я вовсе не утверждаю, что эти люди хорошо информированы о дата-центрах, об экономическом влиянии на их сообщества и тем более об экономическом влиянии ИИ в целом; я отмечаю, что люди, не имевшие голоса при глобализации, внезапно обнаружили, что имеют голос в вопросах ИИ, и неудивительно, что они выражают своё недовольство, блокируя строительство дата-центров.

In that Update I made the case that data center builders — and by extension the companies that use them — should straight up pay people for permission to build data centers in their communities. At a minimum, however, that increases the costs of terrestrial data centers. What seems very plausible in the long run is that the demand for compute ends up being so large that there eventually is nowhere left to build, making the vast expanses of space not just an alternative but in fact the only choice.

В том обновлении я привёл аргумент, что застройщики дата-центров — и, соответственно, компании, которые их используют — должны просто платить людям за разрешение строить дата-центры в их сообществах. Как минимум это увеличивает стоимость наземных дата-центров. В долгосрочной перспективе весьма вероятно, что спрос на вычислительные мощности окажется настолько велик, что в конце концов не останется места для строительства, и тогда бескрайние просторы космоса станут не просто альтернативой, а единственным вариантом.

An IPO Worth Supporting

IPO, достойное поддержки

If all of this happens — and there are a lot of “if”s here! — then suddenly that $2 trillion valuation starts looking reasonable. SpaceX is already monetizing xAI’s first data center, Colossus 1, to the tune of $15 billion/year for 300MW of capacity; that’s 3,000 racks-in-space. Anthropic, meanwhile, will probably make 3x the revenue on that capacity; it remains to be seen if xAI can get back in the state-of-the-art game, but if so then the amount of revenue it can generate per rack-in-space will be commensurately higher. Even without xAI, however, SpaceX has the potential to be a monopoly provider of marginal compute capacity.

Если всё это произойдёт — а здесь очень много «если»! — тогда оценка в $2 трлн внезапно начинает выглядеть обоснованной. SpaceX уже монетизирует первый дата-центр xAI, Colossus 1, на сумму $15 млрд/год при мощности 300 МВт; это 3 000 стоек в космосе. Anthropic, в свою очередь, вероятно, получит в 3 раза больше выручки на этих мощностях; ещё предстоит увидеть, сможет ли xAI вернуться в игру на уровне state-of-the-art, но если да, то объём выручки на стойку в космосе будет соразмерно выше. Даже без xAI у SpaceX есть потенциал стать монопольным поставщиком маржинальных вычислительных мощностей.

There are, needless to say, a massive number of assumptions baked into this argument, including assuming a huge number of engineering challenges are solved, Starship actually works, SpaceX gets sufficient supply of the right kinds of chips, compute demand is massively larger, agentic inference unbundles current architectures, and data center opponents are successful. The risk attached to all of these assumptions should discount the valuation you put on this business, which is to say I still think this IPO is nuts.

Надо ли говорить, что в этот аргумент заложено огромное количество допущений, включая предположение о решении множества инженерных задач, фактическую работоспособность Starship, получение SpaceX достаточного количества нужных чипов, кратно возросший спрос на вычисления, разделение текущих архитектур агентным инференсом и успех противников строительства дата-центров. Риск, связанный со всеми этими допущениями, должен дисконтировать оценку, которую вы присваиваете этому бизнесу, то есть я по-прежнему считаю это IPO безумным.

At the same time, I’m glad it exists, for multiple reasons. The first one is the most obvious one: Musk, for all of his faults, has already pushed humanity forward on multiple vectors, including electric cars, self-driving, reusable rockets, satellite Internet, etc., and I’m excited to see him try and do more.

В то же время я рад, что оно существует, по нескольким причинам. Первая — самая очевидная: Маск, при всех его недостатках, уже продвинул человечество вперёд по множеству направлений, включая электромобили, автономное вождение, многоразовые ракеты, спутниковый интернет и т.д., и мне интересно наблюдать, как он пытается сделать ещё больше.

The second is that I am in fact concerned about our ability to muster enough compute to fully realize the gains from AI, and am very worried about a replay of nuclear power, where our failure to build denied us the opportunity to even imagine what could be invented in a world of unlimited energy; the fact Musk is proposing an alternative path to unlimited compute is a relief.

Второе — я действительно обеспокоен нашей способностью собрать достаточно вычислительных мощностей для полной реализации преимуществ ИИ и очень опасаюсь повторения истории с атомной энергетикой, когда наш отказ строить лишил нас возможности даже представить, что можно было бы изобрести в мире неограниченной энергии; то, что Маск предлагает альтернативный путь к неограниченным вычислениям, — это облегчение.

The third is that I appreciate the extent to which this IPO is a return to what an IPO should be: the opportunity for people to contribute capital to actually build the business, and to benefit if it works out. As I noted, I can’t make a financial model that necessarily justifies this valuation, particularly based on current financials, but neither can a VC investing in the Series A of a company. SpaceX has already invented a lot, and its early investors are going to make a lot of money with this IPO; at the same time, there is still so much more to invent that there remains a lot of upside — and, to be very clear, a lot of risk. It’s a testament to SpaceX’s ambitions that retail investors get to play VC.

Третье — мне импонирует то, в какой степени это IPO — возврат к тому, чем IPO должно быть: возможностью для людей вложить капитал в реальное строительство бизнеса и получить выгоду, если всё сработает. Как я отметил, я не могу построить финансовую модель, которая непременно оправдывает эту оценку, особенно исходя из текущих финансовых показателей, но и венчурный инвестор на раунде Series A компании тоже не может. SpaceX уже многое изобрела, и её ранние инвесторы заработают много денег на этом IPO; в то же время впереди ещё столько изобретений, что остаётся огромный потенциал роста — и, если говорить прямо, огромный риск. Показательно для амбиций SpaceX, что розничные инвесторы получают возможность побыть венчурными.

And hey, you get Mars upside for free!

А ещё вы получаете потенциал Марса бесплатно!