Who Owns the Generative AI Platform? | Andreessen Horowitz

Who Owns the Generative AI Platform?

Кому принадлежит платформа генеративного ИИ?

日本語

We’re starting to see the very early stages of a tech stack emerge in generative artificial intelligence (AI). Hundreds of new startups are rushing into the market to develop foundation models, build AI-native apps, and stand up infrastructure/tooling.

Мы начинаем видеть самые ранние стадии формирования технологического стека в генеративном искусственном интеллекте (ИИ). Сотни новых стартапов устремляются на рынок, чтобы разрабатывать фундаментальные модели, создавать AI-native приложения и поднимать инфраструктуру и инструментарий.

Many hot technology trends get over-hyped far before the market catches up. But the generative AI boom has been accompanied by real gains in real markets, and real traction from real companies. Models like Stable Diffusion and ChatGPT are setting historical records for user growth, and several applications have reached $100 million of annualized revenue less than a year after launch. Side-by-side comparisons show AI models outperforming humans in some tasks by multiple orders of magnitude. 

Многие модные технологические тренды раздуваются задолго до того, как рынок их догоняет. Но бум генеративного ИИ сопровождается реальными достижениями на реальных рынках и реальной тягой у реальных компаний. Такие модели, как Stable Diffusion и ChatGPT, ставят исторические рекорды по росту пользователей, а несколько приложений достигли $100 млн годовой выручки менее чем через год после запуска. Сравнения бок о бок показывают, что AI-модели превосходят людей в некоторых задачах на несколько порядков.

So, there is enough early data to suggest massive transformation is taking place. What we don’t know, and what has now become the critical question, is: Where in this market will value accrue?

Итак, ранних данных уже достаточно, чтобы предположить, что происходит масштабная трансформация. Чего мы не знаем — и что стало критическим вопросом, — это: В каком месте этого рынка будет накапливаться ценность?

Over the last year, we’ve met with dozens of startup founders and operators in large companies who deal directly with generative AI. We’ve observed that infrastructure vendors are likely the biggest winners in this market so far, capturing the majority of dollars flowing through the stack. Application companies are growing topline revenues very quickly but often struggle with retention, product differentiation, and gross margins. And most model providers, though responsible for the very existence of this market, haven’t yet achieved large commercial scale.

За прошедший год мы встретились с десятками основателей стартапов и руководителей крупных компаний, которые напрямую работают с генеративным ИИ. Мы заметили, что поставщики инфраструктуры, вероятно, являются крупнейшими победителями на этом рынке на текущий момент, забирая большую часть денежного потока через стек. Компании-приложения очень быстро наращивают выручку, но часто сталкиваются с проблемами удержания, дифференциации продукта и валовой маржи. А большинство поставщиков моделей, хотя именно они отвечают за само существование этого рынка, ещё не достигли крупного коммерческого масштаба.

In other words, the companies creating the most value — i.e. training generative AI models and applying them in new apps — haven’t captured most of it. Predicting what will happen next is much harder. But we think the key thing to understand is which parts of the stack are truly differentiated and defensible. This will have a major impact on market structure (i.e. horizontal vs. vertical company development) and the drivers of long-term value (e.g. margins and retention). So far, we’ve had a hard time finding structural defensibility anywhere in the stack, outside of traditional moats for incumbents.

Иными словами, компании, создающие наибольшую ценность — то есть обучающие модели генеративного ИИ и применяющие их в новых приложениях, — пока не захватили её большую часть. Предсказывать, что будет дальше, гораздо сложнее. Но, на наш взгляд, ключевое — понять, какие части стека действительно дифференцированы и защитимы. Это окажет серьёзное влияние на структуру рынка (то есть горизонтальное против вертикального развития компаний) и на драйверы долгосрочной ценности (например, маржу и удержание). Пока что нам с трудом удаётся найти структурную защитимость где-либо в стеке, кроме традиционных рвов у действующих игроков.

We are incredibly bullish on generative AI and believe it will have a massive impact in the software industry and beyond. The goal of this post is to map out the dynamics of the market and start to answer the broader questions about generative AI business models.

Мы невероятно оптимистичны по поводу генеративного ИИ и верим, что он окажет огромное влияние на индустрию ПО и за её пределами. Цель этого поста — описать динамику рынка и начать отвечать на более широкие вопросы о бизнес-моделях генеративного ИИ.

High-level tech stack: Infrastructure, models, and apps

Технологический стек на высоком уровне: инфраструктура, модели и приложения

To understand how the generative AI market is taking shape, we first need to define how the stack looks today. Here’s our preliminary view.

Чтобы понять, как формируется рынок генеративного ИИ, сначала нужно определить, как сегодня выглядит стек. Вот наш предварительный взгляд.

The stack can be divided into three layers:

Стек можно разделить на три слоя:

Приложения, интегрирующие модели генеративного ИИ в продукт, обращённый к пользователю, — либо запускающие собственные пайплайны моделей («сквозные приложения»), либо опирающиеся на сторонний API. Модели, питающие AI-продукты, доступные либо как проприетарные API, либо как чекпоинты с открытым исходным кодом (которые, в свою очередь, требуют решения для хостинга). Поставщики инфраструктуры (то есть облачные платформы и производители оборудования), которые запускают рабочие нагрузки обучения и инференса для моделей генеративного ИИ.

It’s important to note: This is not a market map, but a framework to analyze the market. In each category, we’ve listed a few examples of well-known vendors. We haven’t made any attempt to be comprehensive or list all the amazing generative AI applications that have been released. We’re also not going deep here on MLops or LLMops tooling, which is not yet highly standardized and will be addressed in a future post.

Важно отметить: это не карта рынка, а фреймворк для его анализа. В каждой категории мы привели несколько примеров известных вендоров. Мы не пытались быть исчерпывающими или перечислить все потрясающие приложения генеративного ИИ, которые были выпущены. Также мы здесь не углубляемся в инструментарий MLops или LLMops, который пока не сильно стандартизирован и будет рассмотрен в будущем посте.

The first wave of generative AI apps are starting to reach scale, but struggle with retention and differentiation

Первая волна приложений генеративного ИИ начинает достигать масштаба, но сталкивается с проблемами удержания и дифференциации

In prior technology cycles, the conventional wisdom was that to build a large, independent company, you must own the end-customer — whether that meant individual consumers or B2B buyers. It’s tempting to believe that the biggest companies in generative AI will also be end-user applications. So far, it’s not clear that’s the case.

В предыдущих технологических циклах общепринятая мудрость состояла в том, что для построения крупной независимой компании нужно владеть конечным клиентом — будь то индивидуальные потребители или B2B-покупатели. Заманчиво полагать, что крупнейшими компаниями в генеративном ИИ также станут приложения для конечных пользователей. Пока неочевидно, что это так.

To be sure, the growth of generative AI applications has been staggering, propelled by sheer novelty and a plethora of use cases. In fact, we’re aware of at least three product categories that have already exceeded $100 million of annualized revenue: image generation, copywriting, and code writing.

Безусловно, рост приложений генеративного ИИ ошеломителен, подпитываемый чистой новизной и множеством сценариев использования. Фактически нам известны как минимум три категории продуктов, уже превысившие $100 млн годовой выручки: генерация изображений, копирайтинг и написание кода.

However, growth alone is not enough to build durable software companies. Critically, growth must be profitable — in the sense that users and customers, once they sign up, generate profits (high gross margins) and stick around for a long time (high retention). In the absence of strong technical differentiation, B2B and B2C apps drive long-term customer value through network effects, holding onto data, or building increasingly complex workflows.

Однако одного роста недостаточно для построения долговечных софтверных компаний. Критически важно, чтобы рост был прибыльным — в том смысле, что пользователи и клиенты после регистрации генерируют прибыль (высокая валовая маржа) и остаются надолго (высокое удержание). При отсутствии сильной технической дифференциации B2B- и B2C-приложения создают долгосрочную ценность для клиента через сетевые эффекты, удержание данных или построение всё более сложных рабочих процессов.

In generative AI, those assumptions don’t necessarily hold true. Across app companies we’ve spoken with, there’s a wide range of gross margins — as high as 90% in a few cases but more often as low as 50-60%, driven largely by the cost of model inference. Top-of-funnel growth has been amazing, but it’s unclear if current customer acquisition strategies will be scalable — we’re already seeing paid acquisition efficacy and retention start to tail off. Many apps are also relatively undifferentiated, since they rely on similar underlying AI models and haven’t discovered obvious network effects, or data/workflows, that are hard for competitors to duplicate.

В генеративном ИИ эти допущения не обязательно справедливы. Среди компаний-приложений, с которыми мы общались, разброс валовой маржи широк — до 90% в нескольких случаях, но чаще всего на уровне 50–60%, в основном из-за стоимости инференса моделей. Рост на верху воронки был потрясающим, но неясно, будут ли текущие стратегии привлечения клиентов масштабируемы — мы уже видим, что эффективность платного привлечения и удержание начинают спадать. Многие приложения также относительно недифференцированы, поскольку опираются на схожие базовые AI-модели и не обнаружили очевидных сетевых эффектов или данных/рабочих процессов, которые конкурентам было бы сложно воспроизвести.

So, it’s not yet obvious that selling end-user apps is the only, or even the best, path to building a sustainable generative AI business. Margins should improve as competition and efficiency in language models increases (more on this below). Retention should increase as AI tourists leave the market. And there’s a strong argument to be made that vertically integrated apps have an advantage in driving differentiation. But there’s a lot still to prove out.

Так что пока неочевидно, что продажа приложений конечным пользователям — единственный или даже лучший путь построения устойчивого бизнеса в генеративном ИИ. Маржа должна улучшиться по мере роста конкуренции и эффективности языковых моделей (подробнее ниже). Удержание должно вырасти, когда «AI-туристы» покинут рынок. Существует и сильный аргумент в пользу того, что вертикально интегрированные приложения имеют преимущество в обеспечении дифференциации. Но многое ещё предстоит доказать.

Looking ahead, some of the big questions facing generative AI app companies include:

Заглядывая вперёд, среди главных вопросов, стоящих перед компаниями-приложениями генеративного ИИ:

Вертикальная интеграция («модель + приложение»). Потребление AI-моделей как сервиса позволяет разработчикам приложений быстро итерировать малой командой и менять поставщиков моделей по мере развития технологии. С другой стороны, некоторые разработчики утверждают, что продукт и есть модель, и что обучение с нуля — единственный способ создать защитимость, то есть путём постоянного дообучения на собственных продуктовых данных. Но это идёт ценой гораздо более высоких требований к капиталу и менее гибкой продуктовой команды. Создавать функции или приложения. Продукты генеративного ИИ принимают множество форм: десктоп-приложения, мобильные приложения, плагины для Figma/Photoshop, расширения для Chrome, даже боты для Discord. Интегрировать AI-продукты туда, где пользователи уже работают, легко, поскольку UI обычно — это просто текстовое поле. Какие из них станут самостоятельными компаниями, а какие будут поглощены крупными игроками вроде Microsoft или Google, уже встраивающими ИИ в свои продуктовые линейки? Управление через цикл хайпа. Пока неясно, заложен ли отток в текущее поколение продуктов генеративного ИИ или это артефакт раннего рынка. Или же спадёт ли всплеск интереса к генеративному ИИ по мере угасания хайпа. Эти вопросы имеют важные последствия для компаний-приложений, включая то, когда жать на газ в фандрейзинге, как агрессивно инвестировать в привлечение клиентов, какие пользовательские сегменты приоритизировать и когда заявлять о product-market fit.

Model providers invented generative AI, but haven’t reached large commercial scale

Поставщики моделей изобрели генеративный ИИ, но не достигли крупного коммерческого масштаба

What we now call generative AI wouldn’t exist without the brilliant research and engineering work done at places like Google, OpenAI, and Stability. Through novel model architectures and heroic efforts to scale training pipelines, we all benefit from the mind-blowing capabilities of current large language models (LLMs) and image-generation models.

То, что мы сейчас называем генеративным ИИ, не существовало бы без блестящей исследовательской и инженерной работы в таких местах, как Google, OpenAI и Stability. Благодаря новым архитектурам моделей и героическим усилиям по масштабированию пайплайнов обучения мы все пользуемся ошеломляющими возможностями современных больших языковых моделей (LLM) и моделей генерации изображений.

Yet the revenue associated with these companies is still relatively small compared to the usage and buzz. In image generation, Stable Diffusion has seen explosive community growth, supported by an ecosystem of user interfaces, hosted offerings, and fine-tuning methods. But Stability gives their major checkpoints away for free as a core tenet of their business. In natural language models, OpenAI dominates with GPT-3/3.5 and ChatGPT. But relatively few killer apps built on OpenAI exist so far, and prices have already dropped once.

При этом выручка этих компаний всё ещё относительно мала по сравнению с использованием и шумихой. В генерации изображений Stable Diffusion увидела взрывной рост сообщества при поддержке экосистемы пользовательских интерфейсов, хостинговых предложений и методов файнтюнинга. Но Stability бесплатно раздаёт свои основные чекпоинты как ключевой принцип своего бизнеса. В моделях для естественного языка OpenAI доминирует с GPT-3/3.5 и ChatGPT. Но пока существует относительно мало killer-приложений, построенных на OpenAI, а цены уже снижались один раз.

This may be just a temporary phenomenon. Stability is a new company that hasn’t focused yet on monetization. OpenAI has the potential to become a massive business, earning a significant portion of all NLP category revenues as more killer apps are built — especially if their integration into Microsoft’s product portfolio goes smoothly. Given the huge usage of these models, large-scale revenues may not be far behind.

Возможно, это лишь временное явление. Stability — молодая компания, пока не сосредоточенная на монетизации. У OpenAI есть потенциал стать огромным бизнесом, зарабатывая значительную долю всей выручки в категории NLP по мере появления новых killer-приложений — особенно если их интеграция в продуктовый портфель Microsoft пройдёт гладко. Учитывая огромное использование этих моделей, крупномасштабная выручка может быть не за горами.

But there are also countervailing forces. Models released as open source can be hosted by anyone, including outside companies that don’t bear the costs associated with large-scale model training (up to tens or hundreds of millions of dollars). And it’s not clear if any closed-source models can maintain their edge indefinitely. For example, we’re starting to see LLMs built by companies like Anthropic, Cohere, and Character.ai come closer to OpenAI levels of performance, trained on similar datasets (i.e. the internet) and with similar model architectures. The example of Stable Diffusion suggests that if open source models reach a sufficient level of performance and community support, then proprietary alternatives may find it hard to compete.

Но существуют и противодействующие силы. Модели, выпущенные с открытым исходным кодом, может хостить кто угодно, включая сторонние компании, не несущие затрат, связанных с крупномасштабным обучением моделей (до десятков или сотен миллионов долларов). И неясно, смогут ли модели с закрытым исходным кодом удерживать своё преимущество бесконечно. Например, мы начинаем видеть, как LLM, разработанные такими компаниями, как Anthropic, Cohere и Character.ai, приближаются к уровню производительности OpenAI, обучаясь на схожих датасетах (то есть интернете) и с похожими архитектурами моделей. Пример Stable Diffusion наводит на мысль, что если модели с открытым исходным кодом достигнут достаточного уровня производительности и поддержки сообщества, то проприетарным альтернативам может стать трудно конкурировать.

Perhaps the clearest takeaway for model providers, so far, is that commercialization is likely tied to hosting. Demand for proprietary APIs (e.g. from OpenAI) is growing rapidly. Hosting services for open-source models (e.g. Hugging Face and Replicate) are emerging as useful hubs to easily share and integrate models — and even have some indirect network effects between model producers and consumers. There’s also a strong hypothesis that it’s possible to monetize through fine-tuning and hosting agreements with enterprise customers.

Пожалуй, самый ясный вывод для поставщиков моделей на сегодня — коммерциализация, вероятно, привязана к хостингу. Спрос на проприетарные API (например, от OpenAI) быстро растёт. Хостинговые сервисы для open-source-моделей (например, Hugging Face и Replicate) появляются как удобные хабы для лёгкого обмена и интеграции моделей — и даже имеют некоторые косвенные сетевые эффекты между производителями и потребителями моделей. Существует также сильная гипотеза, что монетизировать можно через файнтюнинг и соглашения о хостинге с корпоративными клиентами.

Beyond that, though, there are a number of big questions facing model providers:

Однако, помимо этого, перед поставщиками моделей стоит ряд больших вопросов:

Коммодитизация. Существует распространённое мнение, что AI-модели со временем сойдутся по производительности. Из разговоров с разработчиками приложений ясно, что этого пока не произошло — у текстовых и графических моделей есть сильные лидеры. Их преимущества основаны не на уникальных архитектурах моделей, а на высоких требованиях к капиталу, проприетарных данных взаимодействия с продуктом и дефицитных AI-талантах. Будет ли это служить долговременным преимуществом? Риск «выпуска». Опираться на поставщиков моделей — отличный способ для компаний-приложений стартовать и даже расти. Но у них есть стимул строить и/или хостить собственные модели, как только они достигнут масштаба. И у многих поставщиков моделей сильно перекошенное распределение клиентов, где несколько приложений генерируют большую часть выручки. Что произойдёт, если/когда эти клиенты перейдут к собственной разработке ИИ? Важны ли деньги? Обещание генеративного ИИ настолько велико — и потенциально настолько опасно, — что многие поставщики моделей организовались как public benefit corporations (B-корпорации), выпустили доли с ограничением прибыли или иным образом явно встроили общественное благо в свою миссию. Это совершенно не помешало их усилиям по привлечению средств. Но есть разумная дискуссия о том, действительно ли большинство поставщиков моделей хочет захватывать ценность и должны ли они это делать.

Infrastructure vendors touch everything, and reap the rewards

Поставщики инфраструктуры касаются всего и пожинают плоды

Nearly everything in generative AI passes through a cloud-hosted GPU (or TPU) at some point. Whether for model providers / research labs running training workloads, hosting companies running inference/fine-tuning, or application companies doing some combination of both — FLOPS are the lifeblood of generative AI. For the first time in a very long time, progress on the most disruptive computing technology is massively compute bound.

Почти всё в генеративном ИИ в какой-то момент проходит через облачный GPU (или TPU). Будь то поставщики моделей / исследовательские лаборатории, запускающие нагрузки обучения, хостинговые компании, запускающие инференс/файнтюнинг, или компании-приложения, делающие некоторую комбинацию того и другого, — FLOPS — это кровь генеративного ИИ. Впервые за очень долгое время прогресс самой подрывной вычислительной технологии массово ограничен вычислительными ресурсами.

As a result, a lot of the money in the generative AI market ultimately flows through to infrastructure companies. To put some very rough numbers around it: We estimate that, on average, app companies spend around 20-40% of revenue on inference and per-customer fine-tuning. This is typically paid either directly to cloud providers for compute instances or to third-party model providers — who, in turn, spend about half their revenue on cloud infrastructure. So, it’s reasonable to guess that 10-20% of total revenue in generative AI today goes to cloud providers.

В результате значительная часть денег на рынке генеративного ИИ в конечном счёте перетекает к инфраструктурным компаниям. Если расставить вокруг этого очень грубые числа: по нашим оценкам, в среднем компании-приложения тратят около 20–40% выручки на инференс и файнтюнинг по клиентам. Обычно это либо платится напрямую облачным провайдерам за вычислительные инстансы, либо сторонним поставщикам моделей — которые, в свою очередь, тратят примерно половину своей выручки на облачную инфраструктуру. Поэтому разумно предположить, что 10–20% общей выручки в генеративном ИИ сегодня уходит к облачным провайдерам.

On top of this, startups training their own models have raised billions of dollars in venture capital — the majority of which (up to 80-90% in early rounds) is typically also spent with the cloud providers. Many public tech companies spend hundreds of millions per year on model training, either with external cloud providers or directly with hardware manufacturers.

Помимо этого, стартапы, обучающие собственные модели, привлекли миллиарды долларов венчурного капитала — большая часть которых (до 80–90% в ранних раундах) обычно также тратится у облачных провайдеров. Многие публичные технологические компании тратят сотни миллионов в год на обучение моделей — либо у внешних облачных провайдеров, либо напрямую у производителей оборудования.

This is what we’d call, in technical terms, “a lot of money” — especially for a nascent market. Most of it is spent at the Big 3 clouds: Amazon Web Services (AWS), Google Cloud Platform (GCP), and Microsoft Azure. These cloud providers collectively spend more than $100 billion per year in capex to ensure they have the most comprehensive, reliable, and cost-competitive platforms. In generative AI, in particular, they also benefit from supply constraints because they have preferential access to scarce hardware (e.g. Nvidia A100 and H100 GPUs).

Это то, что мы бы назвали, в технических терминах, «много денег» — особенно для зарождающегося рынка. Большая часть тратится в Big 3 облаков: Amazon Web Services (AWS), Google Cloud Platform (GCP) и Microsoft Azure. Эти облачные провайдеры совокупно тратят более $100 млрд в год в виде капитальных затрат, чтобы обеспечить самые комплексные, надёжные и конкурентоспособные по цене платформы. Особенно в генеративном ИИ они также выигрывают от ограничений предложения, поскольку имеют преимущественный доступ к дефицитному оборудованию (например, GPU Nvidia A100 и H100).

Interestingly, though, we are starting to see credible competition emerge. Challengers like Oracle have made inroads with big capex expenditures and sales incentives. And a few startups, like Coreweave and Lambda Labs, have grown rapidly with solutions targeted specifically at large model developers. They compete on cost, availability, and personalized support. They also expose more granular resource abstractions (i.e. containers), while the large clouds offer only VM instances due to GPU virtualization limits.

Интересно, однако, что начинает появляться достойная конкуренция. Претенденты вроде Oracle добились прогресса благодаря крупным капитальным расходам и стимулам для отдела продаж. А несколько стартапов, таких как Coreweave и Lambda Labs, быстро выросли с решениями, специально нацеленными на разработчиков крупных моделей. Они конкурируют по стоимости, доступности и персонализированной поддержке. Они также предоставляют более гранулярные абстракции ресурсов (то есть контейнеры), тогда как крупные облака из-за ограничений виртуализации GPU предлагают только VM-инстансы.

Behind the scenes, running the vast majority of AI workloads, is perhaps the biggest winner in generative AI so far: Nvidia. The company reported $3.8 billion of data center GPU revenue in the third quarter of its fiscal year 2023, including a meaningful portion for generative AI use cases. And they’ve built strong moats around this business via decades of investment in the GPU architecture, a robust software ecosystem, and deep usage in the academic community. One recent analysis found that Nvidia GPUs are cited in research papers 90 times more than the top AI chip startups combined.

За кулисами, обеспечивая подавляющее большинство AI-нагрузок, находится, возможно, крупнейший победитель в генеративном ИИ на сегодня: Nvidia. Компания отчиталась о $3,8 млрд выручки от GPU для дата-центров в третьем квартале 2023 финансового года, включая значительную долю на сценарии генеративного ИИ. И они построили крепкие рвы вокруг этого бизнеса через десятилетия инвестиций в GPU-архитектуру, надёжную программную экосистему и глубокое использование в академическом сообществе. Один недавний анализ показал, что GPU Nvidia упоминаются в исследовательских работах в 90 раз чаще, чем все ведущие стартапы AI-чипов вместе взятые.

Other hardware options do exist, including Google Tensor Processing Units (TPUs); AMD Instinct GPUs; AWS Inferentia and Trainium chips; and AI accelerators from startups like Cerebras, Sambanova, and Graphcore. Intel, late to the game, is also entering the market with their high-end Habana chips and Ponte Vecchio GPUs. But so far, few of these new chips have taken significant market share. The two exceptions to watch are Google, whose TPUs have gained traction in the Stable Diffusion community and in some large GCP deals, and TSMC, who is believed to manufacture all of the chips listed here, including Nvidia GPUs (Intel uses a mix of its own fabs and TSMC to make its chips).

Существуют и другие варианты оборудования, включая Google Tensor Processing Units (TPU); AMD Instinct GPU; чипы AWS Inferentia и Trainium; и AI-ускорители от стартапов вроде Cerebras, Sambanova и Graphcore. Intel, опоздавшая к старту, также выходит на рынок со своими высокопроизводительными чипами Habana и GPU Ponte Vecchio. Но пока немногие из этих новых чипов заняли значительную долю рынка. Два исключения, за которыми стоит следить, — это Google, чьи TPU набрали популярность в сообществе Stable Diffusion и в некоторых крупных сделках GCP, и TSMC, который, как считается, производит все перечисленные здесь чипы, включая GPU Nvidia (Intel использует смесь собственных фабрик и TSMC для производства своих чипов).

Infrastructure is, in other words, a lucrative, durable, and seemingly defensible layer in the stack. The big questions to answer for infra companies include:

Иными словами, инфраструктура — это прибыльный, долговечный и, по всей видимости, защитимый слой стека. Большие вопросы, на которые предстоит ответить инфраструктурным компаниям, включают:

Удержание stateless-нагрузок. GPU Nvidia одинаковы, где бы вы их ни арендовали. Большинство AI-нагрузок — stateless в том смысле, что инференс моделей не требует подключённых баз данных или хранилищ (кроме как для самих весов модели). Это означает, что AI-нагрузки могут быть более переносимы между облаками, чем традиционные нагрузки приложений. Как в этом контексте облачные провайдеры могут создать «липкость» и не дать клиентам перебежать к самому дешёвому варианту? Пережить конец дефицита чипов. Ценообразование облачных провайдеров и самой Nvidia поддерживается дефицитным предложением самых востребованных GPU. Один провайдер сказал нам, что прейскурантная цена на A100 фактически выросла с момента запуска, что крайне необычно для вычислительного оборудования. Когда это ограничение предложения в конце концов будет снято — через увеличение производства и/или принятие новых аппаратных платформ, — как это повлияет на облачных провайдеров? Сможет ли облако-претендент прорваться? Мы твёрдо верим, что вертикальные облака отнимут долю рынка у Big 3 благодаря более специализированным предложениям. В ИИ на сегодня претенденты завоевали ощутимую тягу через умеренную техническую дифференциацию и поддержку Nvidia, для которой действующие облачные провайдеры одновременно являются и крупнейшими клиентами, и зарождающимися конкурентами. Долгосрочный вопрос: достаточно ли этого, чтобы преодолеть преимущества масштаба Big 3?

So… where will value accrue?

Так… где же будет накапливаться ценность?

Of course, we don’t know yet. But based on the early data we have for generative AI, combined with our experience with earlier AI/ML companies, our intuition is the following. 

Конечно, мы пока не знаем. Но опираясь на ранние данные, которые у нас есть по генеративному ИИ, в сочетании с нашим опытом с более ранними AI/ML-компаниями, наша интуиция такова.

There don’t appear, today, to be any systemic moats in generative AI. As a first-order approximation, applications lack strong product differentiation because they use similar models; models face unclear long-term differentiation because they are trained on similar datasets with similar architectures; cloud providers lack deep technical differentiation because they run the same GPUs; and even the hardware companies manufacture their chips at the same fabs.

Сегодня в генеративном ИИ, похоже, нет никаких системных рвов. В первом приближении: приложениям не хватает сильной продуктовой дифференциации, поскольку они используют похожие модели; модели сталкиваются с неясной долгосрочной дифференциацией, так как обучаются на похожих датасетах с похожими архитектурами; облачным провайдерам не хватает глубокой технической дифференциации, потому что они запускают те же GPU; и даже производители оборудования делают свои чипы на тех же фабриках.

There are, of course, the standard moats: scale moats (“I have or can raise more money than you!”), supply-chain moats (“I have the GPUs, you don’t!”), ecosystem moats (“Everyone uses my software already!”), algorithmic moats (“We’re more clever than you!”), distribution moats (“I already have a sales team and more customers than you!”) and data pipeline moats (“I’ve crawled more of the internet than you!”). But none of these moats tend to be durable over the long term. And it’s too early to tell if strong, direct network effects are taking hold in any layer of the stack.

Есть, конечно, стандартные рвы: рвы масштаба («У меня есть или я могу привлечь больше денег, чем у тебя!»), рвы цепочки поставок («У меня есть GPU, а у тебя нет!»), экосистемные рвы («Все уже используют моё ПО!»), алгоритмические рвы («Мы умнее тебя!»), рвы дистрибуции («У меня уже есть команда продаж и больше клиентов, чем у тебя!») и рвы дата-пайплайнов («Я обошёл больше интернета, чем ты!»). Но ни один из этих рвов не склонен быть долговечным. И слишком рано говорить, формируются ли сильные прямые сетевые эффекты на каком-либо слое стека.

Based on the available data, it’s just not clear if there will be a long-term, winner-take-all dynamic in generative AI.

На основании имеющихся данных просто неясно, будет ли в генеративном ИИ долгосрочная динамика «победитель забирает всё».

This is weird. But to us, it’s good news. The potential size of this market is hard to grasp — somewhere between all software and all human endeavors — so we expect many, many players and healthy competition at all levels of the stack. We also expect both horizontal and vertical companies to succeed, with the best approach dictated by end-markets and end-users. For example, if the primary differentiation in the end-product is the AI itself, it’s likely that verticalization (i.e. tightly coupling the user-facing app to the home-grown model) will win out. Whereas if the AI is part of a larger, long-tail feature set, then it’s more likely horizontalization will occur. Of course, we should also see the building of more traditional moats over time — and we may even see new types of moats take hold.

Это странно. Но для нас это хорошая новость. Потенциальный размер этого рынка трудно осознать — где-то между всем ПО и всеми человеческими начинаниями — поэтому мы ожидаем множества игроков и здоровой конкуренции на всех уровнях стека. Мы также ожидаем, что преуспеют и горизонтальные, и вертикальные компании, причём лучший подход будет диктоваться конечными рынками и конечными пользователями. Например, если основная дифференциация в конечном продукте — это сам ИИ, то, вероятно, победит вертикализация (то есть тесная связка приложения, обращённого к пользователю, с собственной моделью). Если же ИИ является частью более крупного, лонгтейлового набора функций, то более вероятно, что произойдёт горизонтализация. Конечно, со временем мы должны также увидеть появление более традиционных рвов — и мы можем даже увидеть, как закрепятся новые типы рвов.

Whatever the case, one thing we’re certain about is that generative AI changes the game. We’re all learning the rules in real time, there is a tremendous amount of value that will be unlocked, and the tech landscape is going to look much, much different as a result. And we’re here for it!

В любом случае, в одном мы уверены: генеративный ИИ меняет правила игры. Мы все изучаем правила в реальном времени, будет разблокирован огромный объём ценности, и технологический ландшафт в результате будет выглядеть совсем, совсем иначе. И мы здесь ради этого!

All images in this post were created using Midjourney.

Все изображения в этом посте созданы с помощью Midjourney.

Matt Bornstein

Matt Bornstein

is a general partner at Andreessen Horowitz focused on AI and data systems.

— генеральный партнёр в Andreessen Horowitz, сосредоточенный на ИИ и системах данных.

Guido Appenzeller

Guido Appenzeller

is an investor at Andreessen Horowitz, where he focuses on AI, infrastructure, open source technology, and silicon.

— инвестор в Andreessen Horowitz, где он сосредоточен на ИИ, инфраструктуре, технологиях с открытым исходным кодом и кремнии.

Martin Casado

Martin Casado

is a general partner at Andreessen Horowitz, where he leads the firm’s infrastructure practice.

— генеральный партнёр в Andreessen Horowitz, где он возглавляет инфраструктурную практику фирмы.

new Is Software Losing Its Head?

новое Теряет ли софт голову?

Workday’s Last Workday?

Последний рабочий день Workday?

Why We Need Continual Learning

Почему нам нужно непрерывное обучение

Where Enterprises are Actually Adopting AI

Где предприятия на самом деле внедряют ИИ

Et Tu, Agent? Did You Install the Backdoor?

И ты, агент? Ты установил бэкдор?

Want More Infra?

Хотите больше об инфраструктуре?

Analysis and news covering the latest trends reshaping AI and infrastructure.

Анализ и новости, освещающие последние тенденции, перекраивающие ИИ и инфраструктуру.

The views expressed here are those of the individual AH Capital Management, L.L.C. (“a16z”) personnel quoted and are not the views of a16z or its affiliates. Certain information contained in here has been obtained from third-party sources, including from portfolio companies of funds managed by a16z. While taken from sources believed to be reliable, a16z has not independently verified such information and makes no representations about the enduring accuracy of the information or its appropriateness for a given situation. In addition, this content may include third-party advertisements; a16z has not reviewed such advertisements and does not endorse any advertising content contained therein.

Высказанные здесь взгляды принадлежат отдельным сотрудникам AH Capital Management, L.L.C. («a16z»), которых цитируют, и не являются взглядами a16z или её аффилированных лиц. Определённая информация, содержащаяся здесь, была получена из сторонних источников, в том числе от портфельных компаний фондов, управляемых a16z. Хотя она взята из источников, считающихся надёжными, a16z не верифицировала такую информацию независимо и не делает заявлений о её сохраняющейся точности или пригодности для конкретной ситуации. Кроме того, этот контент может содержать сторонние рекламные материалы; a16z не рассматривала такие рекламные материалы и не одобряет какое-либо рекламное содержание в них.

This content is provided for informational purposes only, and should not be relied upon as legal, business, investment, or tax advice. You should consult your own advisers as to those matters. References to any securities or digital assets are for illustrative purposes only, and do not constitute an investment recommendation or offer to provide investment advisory services. Furthermore, this content is not directed at nor intended for use by any investors or prospective investors, and may not under any circumstances be relied upon when making a decision to invest in any fund managed by a16z. (An offering to invest in an a16z fund will be made only by the private placement memorandum, subscription agreement, and other relevant documentation of any such fund and should be read in their entirety.) Any investments or portfolio companies mentioned, referred to, or described are not representative of all investments in vehicles managed by a16z, and there can be no assurance that the investments will be profitable or that other investments made in the future will have similar characteristics or results. A list of investments made by funds managed by Andreessen Horowitz (excluding investments for which the issuer has not provided permission for a16z to disclose publicly as well as unannounced investments in publicly traded digital assets) is available at https://a16z.com/investments/.

Этот контент предоставляется исключительно в информационных целях и не должен использоваться как юридическая, деловая, инвестиционная или налоговая консультация. По этим вопросам вам следует консультироваться с собственными советниками. Ссылки на любые ценные бумаги или цифровые активы приведены исключительно в иллюстративных целях и не представляют собой инвестиционную рекомендацию или предложение оказывать инвестиционно-консультационные услуги. Кроме того, этот контент не предназначен для использования и не направлен на каких-либо инвесторов или потенциальных инвесторов и ни при каких обстоятельствах не может использоваться при принятии решения об инвестировании в какой-либо фонд, управляемый a16z. (Предложение инвестировать в фонд a16z будет сделано только посредством меморандума о частном размещении, договора о подписке и другой соответствующей документации такого фонда, и они должны быть прочитаны полностью.) Любые упоминаемые, упомянутые или описанные инвестиции или портфельные компании не являются репрезентативными для всех инвестиций в инструменты, управляемые a16z, и не может быть гарантии, что инвестиции будут прибыльными или что другие инвестиции, сделанные в будущем, будут иметь схожие характеристики или результаты. Список инвестиций, сделанных фондами, управляемыми Andreessen Horowitz (за исключением инвестиций, для которых эмитент не предоставил a16z разрешение на публичное раскрытие, а также неанонсированных инвестиций в публично торгуемые цифровые активы), доступен по адресу https://a16z.com/investments/.

Charts and graphs provided within are for informational purposes solely and should not be relied upon when making any investment decision. Past performance is not indicative of future results. The content speaks only as of the date indicated. Any projections, estimates, forecasts, targets, prospects, and/or opinions expressed in these materials are subject to change without notice and may differ or be contrary to opinions expressed by others. Please see https://a16z.com/disclosures for additional important information.

Приводимые здесь диаграммы и графики предоставляются исключительно в информационных целях и не должны использоваться при принятии какого-либо инвестиционного решения. Прошлые результаты не являются показателем будущих результатов. Контент актуален только на указанную дату. Любые прогнозы, оценки, прогнозы, цели, перспективы и/или мнения, выраженные в этих материалах, могут изменяться без уведомления и могут отличаться или противоречить мнениям, высказанным другими лицами. Дополнительную важную информацию см. на https://a16z.com/disclosures.