Software After AI
Tomasz Tunguz утверждает, что эпоха классического SaaS уступает место «эпохе обвязки» (harness era): ИИ вытеснил управляемые базы данных с фиксированными воркфлоу, но его мощь нужно «приручить». Он выделяет семь составляющих этого приручения: контекст и память, инструменты и действия, оркестрация и цикл, состояние и персистентность, песочницы и вычисления, наблюдаемость и управление, оптимизация затрат и воркфлоу. Крупные лаборатории будут доминировать в отдельных категориях за счёт скорости и контроля над моделями, но тысячи рыночных ниш остаются открытыми для стартапов. Ключевой тезис: когда у каждой компании есть доступ к одной и той же модели, побеждают лучшие «наездники» — те, кто лучше всего выстроит обвязку вокруг ИИ.
Конец эпохи софта — это начало эпохи обвязки.
ИИ вытеснил SaaS — управляемые базы данных с фиксированными воркфлоу — интеллектом. Как мустанг, ИИ силён, но дик. Обуздать эту силу — значит приручить.
У этого приручения семь составляющих:
Контекст и память: общим моделям нужен специализированный поиск. Система, которая подбирает контекст для радиолога, — это не та система, которая подбирает его для помощника юриста. Иногда речь идёт о большом объёме краткосрочной памяти — над чем агент работал 45 секунд назад? В других случаях это масштабный поиск по изображениям — скажем, для радиологии или генерации видео. А иногда — полнотекстовый поиск по миллиарду документов. Такие системы будут специализированными для каждого конкретного сценария, чтобы обеспечить максимальную точность. Рядом с поиском стоит контекстная база данных — «книга рецептов» того, как на самом деле работает бизнес. Стандартные операционные процедуры, которые мы все носим в голове и приносим на работу каждый день, — это и есть те рецепты. Первоначально их зафиксировать и затем обновлять по мере изменения людей и процессов — в этом суть контекстной базы данных. Инструменты и действия: инструменты — это способ, которым агент воздействует на внешний мир. Рецепты в контекстной базе описывают, что делать. Инструменты — это ингредиенты и утварь, которые это делают. Современная обвязка предоставляет инструменты через реестр, валидирует аргументы, которые передаёт модель, направляет вызов, закрывает чувствительные действия за подтверждениями и парсит результат обратно в цикл агента. MCP стал соединительной тканью. Качество обвязки зависит от того, сколько инструментов она может безопасно предоставить и насколько чисто обрабатывает их сбои. Оркестрация и цикл: агентный цикл — это «думай, действуй, наблюдай, повторяй». Планирование, декомпозиция, суб-агенты, повторные попытки и условия остановки определяют, как выполняется работа. Мы также ожидаем, что наш софт улучшается по мере использования. Замкнутые циклы, которые учатся на каждом запуске, будут разделять вендоров. Состояние и персистентность: в крупном предприятии, где множество людей работают с системой, она должна быть устойчивой. Когда обвязка падает на шаге 7 из 10, она должна возобновиться с шага 8, а не стартовать с нуля. Файловые системы, чекпоинты, потоки сессий и хранилище артефактов — вот механизмы, предотвращающие потерю работы. Песочница и вычисления: каждому агенту нужна песочница для работы. Изолированные Unix-окружения, контролируемый сетевой выход и учётные данные, хранящиеся вне модели, — вот что делает песочницы безопасными, конфиденциальными и быстрыми в масштабе. Наблюдаемость и управление: нельзя доверять тому, чего не видишь. Трассировка каждого шага, логирование каждого вызова инструмента, запуск evals как регрессионных тестов и привлечение людей к принятию решений с наивысшими ставками — вот как демо становится продакшн-системой. Гарантийные ограничения обеспечивают соблюдение политик. Evals ловят регрессии раньше клиентов. Оптимизация затрат и воркфлоу: седьмая дисциплина — это архитектурное суждение. Что должно быть детерминированным, а что — нет? Какая модель подходит для каждого шага — передовая, средняя, малая или дообученная? Какие знания принадлежат навыкам, а какие — памяти?
Результат — новая конкурентная динамика в софтвере.
Это сработает не в каждой категории. Рынки, которые приоритизируют крупные лаборатории, выиграют от их способности быстро двигаться и прямого контроля над моделями. Но это оставляет тысячи отдельных рынков для стартапов.
Что происходит, когда у каждой компании есть доступ к одной и той же модели? Побеждают лучшие наездники.