Who Owns the Generative AI Platform? | Andreessen Horowitz
Статья a16z анализирует формирующийся стек генеративного ИИ, разделённый на три слоя: приложения, модели и инфраструктуру. Авторы отмечают, что главными бенефициарами рынка пока становятся поставщики инфраструктуры — облачные платформы (AWS, GCP, Azure) и производители чипов, прежде всего Nvidia, которая отчиталась о $3,8 млрд выручки от data-center GPU за третий квартал 2023 финансового года. Приложения вроде Stable Diffusion и ChatGPT быстро растут, отдельные продукты достигают $100 млн годовой выручки, но страдают от низкой удерживаемости, слабой дифференциации и валовой маржи 50–60% из-за стоимости инференса. Поставщики моделей (OpenAI, Stability, Anthropic, Cohere, Character.ai) создали технологию, но пока не вышли на крупные коммерческие масштабы. Авторы (Matt Bornstein, Guido Appenzeller, Martin Casado) приходят к выводу, что структурных рвов в стеке почти нет, и рынок, вероятно, будет фрагментированным с конкуренцией на всех уровнях.
Кому принадлежит платформа генеративного ИИ?
Мы начинаем видеть самые ранние стадии формирования технологического стека в генеративном искусственном интеллекте (ИИ). Сотни новых стартапов устремляются на рынок, чтобы разрабатывать фундаментальные модели, создавать AI-native приложения и поднимать инфраструктуру и инструментарий.
Многие модные технологические тренды раздуваются задолго до того, как рынок их догоняет. Но бум генеративного ИИ сопровождается реальными достижениями на реальных рынках и реальной тягой у реальных компаний. Такие модели, как Stable Diffusion и ChatGPT, ставят исторические рекорды по росту пользователей, а несколько приложений достигли $100 млн годовой выручки менее чем через год после запуска. Сравнения бок о бок показывают, что AI-модели превосходят людей в некоторых задачах на несколько порядков.
Итак, ранних данных уже достаточно, чтобы предположить, что происходит масштабная трансформация. Чего мы не знаем — и что стало критическим вопросом, — это: В каком месте этого рынка будет накапливаться ценность?
За прошедший год мы встретились с десятками основателей стартапов и руководителей крупных компаний, которые напрямую работают с генеративным ИИ. Мы заметили, что поставщики инфраструктуры, вероятно, являются крупнейшими победителями на этом рынке на текущий момент, забирая большую часть денежного потока через стек. Компании-приложения очень быстро наращивают выручку, но часто сталкиваются с проблемами удержания, дифференциации продукта и валовой маржи. А большинство поставщиков моделей, хотя именно они отвечают за само существование этого рынка, ещё не достигли крупного коммерческого масштаба.
Иными словами, компании, создающие наибольшую ценность — то есть обучающие модели генеративного ИИ и применяющие их в новых приложениях, — пока не захватили её большую часть. Предсказывать, что будет дальше, гораздо сложнее. Но, на наш взгляд, ключевое — понять, какие части стека действительно дифференцированы и защитимы. Это окажет серьёзное влияние на структуру рынка (то есть горизонтальное против вертикального развития компаний) и на драйверы долгосрочной ценности (например, маржу и удержание). Пока что нам с трудом удаётся найти структурную защитимость где-либо в стеке, кроме традиционных рвов у действующих игроков.
Мы невероятно оптимистичны по поводу генеративного ИИ и верим, что он окажет огромное влияние на индустрию ПО и за её пределами. Цель этого поста — описать динамику рынка и начать отвечать на более широкие вопросы о бизнес-моделях генеративного ИИ.
Технологический стек на высоком уровне: инфраструктура, модели и приложения
Чтобы понять, как формируется рынок генеративного ИИ, сначала нужно определить, как сегодня выглядит стек. Вот наш предварительный взгляд.
Стек можно разделить на три слоя:
Приложения, интегрирующие модели генеративного ИИ в продукт, обращённый к пользователю, — либо запускающие собственные пайплайны моделей («сквозные приложения»), либо опирающиеся на сторонний API. Модели, питающие AI-продукты, доступные либо как проприетарные API, либо как чекпоинты с открытым исходным кодом (которые, в свою очередь, требуют решения для хостинга). Поставщики инфраструктуры (то есть облачные платформы и производители оборудования), которые запускают рабочие нагрузки обучения и инференса для моделей генеративного ИИ.
Важно отметить: это не карта рынка, а фреймворк для его анализа. В каждой категории мы привели несколько примеров известных вендоров. Мы не пытались быть исчерпывающими или перечислить все потрясающие приложения генеративного ИИ, которые были выпущены. Также мы здесь не углубляемся в инструментарий MLops или LLMops, который пока не сильно стандартизирован и будет рассмотрен в будущем посте.
Первая волна приложений генеративного ИИ начинает достигать масштаба, но сталкивается с проблемами удержания и дифференциации
В предыдущих технологических циклах общепринятая мудрость состояла в том, что для построения крупной независимой компании нужно владеть конечным клиентом — будь то индивидуальные потребители или B2B-покупатели. Заманчиво полагать, что крупнейшими компаниями в генеративном ИИ также станут приложения для конечных пользователей. Пока неочевидно, что это так.
Безусловно, рост приложений генеративного ИИ ошеломителен, подпитываемый чистой новизной и множеством сценариев использования. Фактически нам известны как минимум три категории продуктов, уже превысившие $100 млн годовой выручки: генерация изображений, копирайтинг и написание кода.
Однако одного роста недостаточно для построения долговечных софтверных компаний. Критически важно, чтобы рост был прибыльным — в том смысле, что пользователи и клиенты после регистрации генерируют прибыль (высокая валовая маржа) и остаются надолго (высокое удержание). При отсутствии сильной технической дифференциации B2B- и B2C-приложения создают долгосрочную ценность для клиента через сетевые эффекты, удержание данных или построение всё более сложных рабочих процессов.
В генеративном ИИ эти допущения не обязательно справедливы. Среди компаний-приложений, с которыми мы общались, разброс валовой маржи широк — до 90% в нескольких случаях, но чаще всего на уровне 50–60%, в основном из-за стоимости инференса моделей. Рост на верху воронки был потрясающим, но неясно, будут ли текущие стратегии привлечения клиентов масштабируемы — мы уже видим, что эффективность платного привлечения и удержание начинают спадать. Многие приложения также относительно недифференцированы, поскольку опираются на схожие базовые AI-модели и не обнаружили очевидных сетевых эффектов или данных/рабочих процессов, которые конкурентам было бы сложно воспроизвести.
Так что пока неочевидно, что продажа приложений конечным пользователям — единственный или даже лучший путь построения устойчивого бизнеса в генеративном ИИ. Маржа должна улучшиться по мере роста конкуренции и эффективности языковых моделей (подробнее ниже). Удержание должно вырасти, когда «AI-туристы» покинут рынок. Существует и сильный аргумент в пользу того, что вертикально интегрированные приложения имеют преимущество в обеспечении дифференциации. Но многое ещё предстоит доказать.
Заглядывая вперёд, среди главных вопросов, стоящих перед компаниями-приложениями генеративного ИИ:
Вертикальная интеграция («модель + приложение»). Потребление AI-моделей как сервиса позволяет разработчикам приложений быстро итерировать малой командой и менять поставщиков моделей по мере развития технологии. С другой стороны, некоторые разработчики утверждают, что продукт и есть модель, и что обучение с нуля — единственный способ создать защитимость, то есть путём постоянного дообучения на собственных продуктовых данных. Но это идёт ценой гораздо более высоких требований к капиталу и менее гибкой продуктовой команды. Создавать функции или приложения. Продукты генеративного ИИ принимают множество форм: десктоп-приложения, мобильные приложения, плагины для Figma/Photoshop, расширения для Chrome, даже боты для Discord. Интегрировать AI-продукты туда, где пользователи уже работают, легко, поскольку UI обычно — это просто текстовое поле. Какие из них станут самостоятельными компаниями, а какие будут поглощены крупными игроками вроде Microsoft или Google, уже встраивающими ИИ в свои продуктовые линейки? Управление через цикл хайпа. Пока неясно, заложен ли отток в текущее поколение продуктов генеративного ИИ или это артефакт раннего рынка. Или же спадёт ли всплеск интереса к генеративному ИИ по мере угасания хайпа. Эти вопросы имеют важные последствия для компаний-приложений, включая то, когда жать на газ в фандрейзинге, как агрессивно инвестировать в привлечение клиентов, какие пользовательские сегменты приоритизировать и когда заявлять о product-market fit.
Поставщики моделей изобрели генеративный ИИ, но не достигли крупного коммерческого масштаба
То, что мы сейчас называем генеративным ИИ, не существовало бы без блестящей исследовательской и инженерной работы в таких местах, как Google, OpenAI и Stability. Благодаря новым архитектурам моделей и героическим усилиям по масштабированию пайплайнов обучения мы все пользуемся ошеломляющими возможностями современных больших языковых моделей (LLM) и моделей генерации изображений.
При этом выручка этих компаний всё ещё относительно мала по сравнению с использованием и шумихой. В генерации изображений Stable Diffusion увидела взрывной рост сообщества при поддержке экосистемы пользовательских интерфейсов, хостинговых предложений и методов файнтюнинга. Но Stability бесплатно раздаёт свои основные чекпоинты как ключевой принцип своего бизнеса. В моделях для естественного языка OpenAI доминирует с GPT-3/3.5 и ChatGPT. Но пока существует относительно мало killer-приложений, построенных на OpenAI, а цены уже снижались один раз.
Возможно, это лишь временное явление. Stability — молодая компания, пока не сосредоточенная на монетизации. У OpenAI есть потенциал стать огромным бизнесом, зарабатывая значительную долю всей выручки в категории NLP по мере появления новых killer-приложений — особенно если их интеграция в продуктовый портфель Microsoft пройдёт гладко. Учитывая огромное использование этих моделей, крупномасштабная выручка может быть не за горами.
Но существуют и противодействующие силы. Модели, выпущенные с открытым исходным кодом, может хостить кто угодно, включая сторонние компании, не несущие затрат, связанных с крупномасштабным обучением моделей (до десятков или сотен миллионов долларов). И неясно, смогут ли модели с закрытым исходным кодом удерживать своё преимущество бесконечно. Например, мы начинаем видеть, как LLM, разработанные такими компаниями, как Anthropic, Cohere и Character.ai, приближаются к уровню производительности OpenAI, обучаясь на схожих датасетах (то есть интернете) и с похожими архитектурами моделей. Пример Stable Diffusion наводит на мысль, что если модели с открытым исходным кодом достигнут достаточного уровня производительности и поддержки сообщества, то проприетарным альтернативам может стать трудно конкурировать.
Пожалуй, самый ясный вывод для поставщиков моделей на сегодня — коммерциализация, вероятно, привязана к хостингу. Спрос на проприетарные API (например, от OpenAI) быстро растёт. Хостинговые сервисы для open-source-моделей (например, Hugging Face и Replicate) появляются как удобные хабы для лёгкого обмена и интеграции моделей — и даже имеют некоторые косвенные сетевые эффекты между производителями и потребителями моделей. Существует также сильная гипотеза, что монетизировать можно через файнтюнинг и соглашения о хостинге с корпоративными клиентами.
Однако, помимо этого, перед поставщиками моделей стоит ряд больших вопросов:
Коммодитизация. Существует распространённое мнение, что AI-модели со временем сойдутся по производительности. Из разговоров с разработчиками приложений ясно, что этого пока не произошло — у текстовых и графических моделей есть сильные лидеры. Их преимущества основаны не на уникальных архитектурах моделей, а на высоких требованиях к капиталу, проприетарных данных взаимодействия с продуктом и дефицитных AI-талантах. Будет ли это служить долговременным преимуществом? Риск «выпуска». Опираться на поставщиков моделей — отличный способ для компаний-приложений стартовать и даже расти. Но у них есть стимул строить и/или хостить собственные модели, как только они достигнут масштаба. И у многих поставщиков моделей сильно перекошенное распределение клиентов, где несколько приложений генерируют большую часть выручки. Что произойдёт, если/когда эти клиенты перейдут к собственной разработке ИИ? Важны ли деньги? Обещание генеративного ИИ настолько велико — и потенциально настолько опасно, — что многие поставщики моделей организовались как public benefit corporations (B-корпорации), выпустили доли с ограничением прибыли или иным образом явно встроили общественное благо в свою миссию. Это совершенно не помешало их усилиям по привлечению средств. Но есть разумная дискуссия о том, действительно ли большинство поставщиков моделей хочет захватывать ценность и должны ли они это делать.
Поставщики инфраструктуры касаются всего и пожинают плоды
Почти всё в генеративном ИИ в какой-то момент проходит через облачный GPU (или TPU). Будь то поставщики моделей / исследовательские лаборатории, запускающие нагрузки обучения, хостинговые компании, запускающие инференс/файнтюнинг, или компании-приложения, делающие некоторую комбинацию того и другого, — FLOPS — это кровь генеративного ИИ. Впервые за очень долгое время прогресс самой подрывной вычислительной технологии массово ограничен вычислительными ресурсами.
В результате значительная часть денег на рынке генеративного ИИ в конечном счёте перетекает к инфраструктурным компаниям. Если расставить вокруг этого очень грубые числа: по нашим оценкам, в среднем компании-приложения тратят около 20–40% выручки на инференс и файнтюнинг по клиентам. Обычно это либо платится напрямую облачным провайдерам за вычислительные инстансы, либо сторонним поставщикам моделей — которые, в свою очередь, тратят примерно половину своей выручки на облачную инфраструктуру. Поэтому разумно предположить, что 10–20% общей выручки в генеративном ИИ сегодня уходит к облачным провайдерам.
Помимо этого, стартапы, обучающие собственные модели, привлекли миллиарды долларов венчурного капитала — большая часть которых (до 80–90% в ранних раундах) обычно также тратится у облачных провайдеров. Многие публичные технологические компании тратят сотни миллионов в год на обучение моделей — либо у внешних облачных провайдеров, либо напрямую у производителей оборудования.
Это то, что мы бы назвали, в технических терминах, «много денег» — особенно для зарождающегося рынка. Большая часть тратится в Big 3 облаков: Amazon Web Services (AWS), Google Cloud Platform (GCP) и Microsoft Azure. Эти облачные провайдеры совокупно тратят более $100 млрд в год в виде капитальных затрат, чтобы обеспечить самые комплексные, надёжные и конкурентоспособные по цене платформы. Особенно в генеративном ИИ они также выигрывают от ограничений предложения, поскольку имеют преимущественный доступ к дефицитному оборудованию (например, GPU Nvidia A100 и H100).
Интересно, однако, что начинает появляться достойная конкуренция. Претенденты вроде Oracle добились прогресса благодаря крупным капитальным расходам и стимулам для отдела продаж. А несколько стартапов, таких как Coreweave и Lambda Labs, быстро выросли с решениями, специально нацеленными на разработчиков крупных моделей. Они конкурируют по стоимости, доступности и персонализированной поддержке. Они также предоставляют более гранулярные абстракции ресурсов (то есть контейнеры), тогда как крупные облака из-за ограничений виртуализации GPU предлагают только VM-инстансы.
За кулисами, обеспечивая подавляющее большинство AI-нагрузок, находится, возможно, крупнейший победитель в генеративном ИИ на сегодня: Nvidia. Компания отчиталась о $3,8 млрд выручки от GPU для дата-центров в третьем квартале 2023 финансового года, включая значительную долю на сценарии генеративного ИИ. И они построили крепкие рвы вокруг этого бизнеса через десятилетия инвестиций в GPU-архитектуру, надёжную программную экосистему и глубокое использование в академическом сообществе. Один недавний анализ показал, что GPU Nvidia упоминаются в исследовательских работах в 90 раз чаще, чем все ведущие стартапы AI-чипов вместе взятые.
Существуют и другие варианты оборудования, включая Google Tensor Processing Units (TPU); AMD Instinct GPU; чипы AWS Inferentia и Trainium; и AI-ускорители от стартапов вроде Cerebras, Sambanova и Graphcore. Intel, опоздавшая к старту, также выходит на рынок со своими высокопроизводительными чипами Habana и GPU Ponte Vecchio. Но пока немногие из этих новых чипов заняли значительную долю рынка. Два исключения, за которыми стоит следить, — это Google, чьи TPU набрали популярность в сообществе Stable Diffusion и в некоторых крупных сделках GCP, и TSMC, который, как считается, производит все перечисленные здесь чипы, включая GPU Nvidia (Intel использует смесь собственных фабрик и TSMC для производства своих чипов).
Иными словами, инфраструктура — это прибыльный, долговечный и, по всей видимости, защитимый слой стека. Большие вопросы, на которые предстоит ответить инфраструктурным компаниям, включают:
Удержание stateless-нагрузок. GPU Nvidia одинаковы, где бы вы их ни арендовали. Большинство AI-нагрузок — stateless в том смысле, что инференс моделей не требует подключённых баз данных или хранилищ (кроме как для самих весов модели). Это означает, что AI-нагрузки могут быть более переносимы между облаками, чем традиционные нагрузки приложений. Как в этом контексте облачные провайдеры могут создать «липкость» и не дать клиентам перебежать к самому дешёвому варианту? Пережить конец дефицита чипов. Ценообразование облачных провайдеров и самой Nvidia поддерживается дефицитным предложением самых востребованных GPU. Один провайдер сказал нам, что прейскурантная цена на A100 фактически выросла с момента запуска, что крайне необычно для вычислительного оборудования. Когда это ограничение предложения в конце концов будет снято — через увеличение производства и/или принятие новых аппаратных платформ, — как это повлияет на облачных провайдеров? Сможет ли облако-претендент прорваться? Мы твёрдо верим, что вертикальные облака отнимут долю рынка у Big 3 благодаря более специализированным предложениям. В ИИ на сегодня претенденты завоевали ощутимую тягу через умеренную техническую дифференциацию и поддержку Nvidia, для которой действующие облачные провайдеры одновременно являются и крупнейшими клиентами, и зарождающимися конкурентами. Долгосрочный вопрос: достаточно ли этого, чтобы преодолеть преимущества масштаба Big 3?
Так… где же будет накапливаться ценность?
Конечно, мы пока не знаем. Но опираясь на ранние данные, которые у нас есть по генеративному ИИ, в сочетании с нашим опытом с более ранними AI/ML-компаниями, наша интуиция такова.
Сегодня в генеративном ИИ, похоже, нет никаких системных рвов. В первом приближении: приложениям не хватает сильной продуктовой дифференциации, поскольку они используют похожие модели; модели сталкиваются с неясной долгосрочной дифференциацией, так как обучаются на похожих датасетах с похожими архитектурами; облачным провайдерам не хватает глубокой технической дифференциации, потому что они запускают те же GPU; и даже производители оборудования делают свои чипы на тех же фабриках.
Есть, конечно, стандартные рвы: рвы масштаба («У меня есть или я могу привлечь больше денег, чем у тебя!»), рвы цепочки поставок («У меня есть GPU, а у тебя нет!»), экосистемные рвы («Все уже используют моё ПО!»), алгоритмические рвы («Мы умнее тебя!»), рвы дистрибуции («У меня уже есть команда продаж и больше клиентов, чем у тебя!») и рвы дата-пайплайнов («Я обошёл больше интернета, чем ты!»). Но ни один из этих рвов не склонен быть долговечным. И слишком рано говорить, формируются ли сильные прямые сетевые эффекты на каком-либо слое стека.
На основании имеющихся данных просто неясно, будет ли в генеративном ИИ долгосрочная динамика «победитель забирает всё».
Это странно. Но для нас это хорошая новость. Потенциальный размер этого рынка трудно осознать — где-то между всем ПО и всеми человеческими начинаниями — поэтому мы ожидаем множества игроков и здоровой конкуренции на всех уровнях стека. Мы также ожидаем, что преуспеют и горизонтальные, и вертикальные компании, причём лучший подход будет диктоваться конечными рынками и конечными пользователями. Например, если основная дифференциация в конечном продукте — это сам ИИ, то, вероятно, победит вертикализация (то есть тесная связка приложения, обращённого к пользователю, с собственной моделью). Если же ИИ является частью более крупного, лонгтейлового набора функций, то более вероятно, что произойдёт горизонтализация. Конечно, со временем мы должны также увидеть появление более традиционных рвов — и мы можем даже увидеть, как закрепятся новые типы рвов.
В любом случае, в одном мы уверены: генеративный ИИ меняет правила игры. Мы все изучаем правила в реальном времени, будет разблокирован огромный объём ценности, и технологический ландшафт в результате будет выглядеть совсем, совсем иначе. И мы здесь ради этого!
Все изображения в этом посте созданы с помощью Midjourney.
Matt Bornstein
— генеральный партнёр в Andreessen Horowitz, сосредоточенный на ИИ и системах данных.
Guido Appenzeller
— инвестор в Andreessen Horowitz, где он сосредоточен на ИИ, инфраструктуре, технологиях с открытым исходным кодом и кремнии.
Martin Casado
— генеральный партнёр в Andreessen Horowitz, где он возглавляет инфраструктурную практику фирмы.
новое Теряет ли софт голову?
Хотите больше об инфраструктуре?
Анализ и новости, освещающие последние тенденции, перекраивающие ИИ и инфраструктуру.
Высказанные здесь взгляды принадлежат отдельным сотрудникам AH Capital Management, L.L.C. («a16z»), которых цитируют, и не являются взглядами a16z или её аффилированных лиц. Определённая информация, содержащаяся здесь, была получена из сторонних источников, в том числе от портфельных компаний фондов, управляемых a16z. Хотя она взята из источников, считающихся надёжными, a16z не верифицировала такую информацию независимо и не делает заявлений о её сохраняющейся точности или пригодности для конкретной ситуации. Кроме того, этот контент может содержать сторонние рекламные материалы; a16z не рассматривала такие рекламные материалы и не одобряет какое-либо рекламное содержание в них.
Этот контент предоставляется исключительно в информационных целях и не должен использоваться как юридическая, деловая, инвестиционная или налоговая консультация. По этим вопросам вам следует консультироваться с собственными советниками. Ссылки на любые ценные бумаги или цифровые активы приведены исключительно в иллюстративных целях и не представляют собой инвестиционную рекомендацию или предложение оказывать инвестиционно-консультационные услуги. Кроме того, этот контент не предназначен для использования и не направлен на каких-либо инвесторов или потенциальных инвесторов и ни при каких обстоятельствах не может использоваться при принятии решения об инвестировании в какой-либо фонд, управляемый a16z. (Предложение инвестировать в фонд a16z будет сделано только посредством меморандума о частном размещении, договора о подписке и другой соответствующей документации такого фонда, и они должны быть прочитаны полностью.) Любые упоминаемые, упомянутые или описанные инвестиции или портфельные компании не являются репрезентативными для всех инвестиций в инструменты, управляемые a16z, и не может быть гарантии, что инвестиции будут прибыльными или что другие инвестиции, сделанные в будущем, будут иметь схожие характеристики или результаты. Список инвестиций, сделанных фондами, управляемыми Andreessen Horowitz (за исключением инвестиций, для которых эмитент не предоставил a16z разрешение на публичное раскрытие, а также неанонсированных инвестиций в публично торгуемые цифровые активы), доступен по адресу https://a16z.com/investments/.
Приводимые здесь диаграммы и графики предоставляются исключительно в информационных целях и не должны использоваться при принятии какого-либо инвестиционного решения. Прошлые результаты не являются показателем будущих результатов. Контент актуален только на указанную дату. Любые прогнозы, оценки, прогнозы, цели, перспективы и/или мнения, выраженные в этих материалах, могут изменяться без уведомления и могут отличаться или противоречить мнениям, высказанным другими лицами. Дополнительную важную информацию см. на https://a16z.com/disclosures.