Software After AI
Tomasz Tunguz утверждает, что эпоха классического SaaS уступает место «эпохе обвязки» (harness era): ИИ вытеснил управляемые базы данных с фиксированными воркфлоу, но его мощь нужно «приручить». Он выделяет семь составляющих этого приручения: контекст и память, инструменты и действия, оркестрация и цикл, состояние и персистентность, песочницы и вычисления, наблюдаемость и управление, оптимизация затрат и воркфлоу. Крупные лаборатории будут доминировать в отдельных категориях за счёт скорости и контроля над моделями, но тысячи рыночных ниш остаются открытыми для стартапов. Ключевой тезис: когда у каждой компании есть доступ к одной и той же модели, побеждают лучшие «наездники» — те, кто лучше всего выстроит обвязку вокруг ИИ.
The end of the software era is the beginning of the harness era.
Конец эпохи софта — это начало эпохи обвязки.
AI outmoded SaaS managed databases with fixed workflows with intelligence. Like a mustang, AI is powerful but wild. Harnessing the power means domestication.
ИИ вытеснил SaaS — управляемые базы данных с фиксированными воркфлоу — интеллектом. Как мустанг, ИИ силён, но дик. Обуздать эту силу — значит приручить.
There are seven parts to this domestication :
У этого приручения семь составляющих:
Context & memory : General models need bespoke retrieval. The system that fetches the right context for a radiologist is not the system that fetches it for a paralegal.
Sometimes it’s a lot of short-term memory. What was the agent working on 45 seconds ago? Other times it’s large-scale image retrieval, say for radiology or for video generation. Other times it’s a keyword search across a billion documents. Those systems will be bespoke to each individual use case to drive the best accuracy.
Sitting alongside retrieval is the context database, the recipe book of how each business actually runs. The standard operating procedures we all carry in our heads & bring to work every day are those recipes. Capturing them initially & evolving them as both people & process change is the essence of the context database.
Tools & action : Tools are how the agent affects the outside world. The recipes in the context database describe what to do. Tools are the ingredients & utensils that actually do it.
A modern harness exposes tools through a registry, validates the arguments the model passes, dispatches the call, gates sensitive actions behind approvals, & parses the result back into the agent’s loop. MCP has emerged as the connective tissue. The quality of a harness depends on how many tools it can safely expose & how cleanly it handles their failures.
Orchestration & loop : The agentic loop is think, act, observe, repeat. Planning, decomposition, sub-agents, retries, & stop conditions define how the work gets done.
We also expect our software to improve as we use it. Closed loop patterns that learn from each run will separate different vendors.
State & persistence : In a large-scale enterprise with lots of different people working on a system, the system needs to be resilient. When a harness crashes at step 7 of a 10 step task, it should resume at step 8, not restart from zero. File systems, checkpoints, session threads, & artifact storage are the mechanisms that prevent lost work.
Sandbox & compute : Each agent needs a sandbox in which to play. Isolated Unix workspaces, controlled network egress, & credentials that live outside the model are what make sandboxes secure, confidential, & fast at scale.
Observability & governance : You cannot trust what you cannot see. Tracing every step, logging every tool call, running evals as regression tests, & putting humans in the loop for the highest stakes decisions are how a demo becomes a production system. Guardrails enforce policy. Evals catch regressions before customers do.
Cost & workflow optimization : The seventh discipline is architectural judgment. What should be deterministic versus non-deterministic? Which model is the right one for each step, state of the art, medium, small, or fine-tuned? What knowledge belongs in skills versus in memory?
Контекст и память: общим моделям нужен специализированный поиск. Система, которая подбирает контекст для радиолога, — это не та система, которая подбирает его для помощника юриста. Иногда речь идёт о большом объёме краткосрочной памяти — над чем агент работал 45 секунд назад? В других случаях это масштабный поиск по изображениям — скажем, для радиологии или генерации видео. А иногда — полнотекстовый поиск по миллиарду документов. Такие системы будут специализированными для каждого конкретного сценария, чтобы обеспечить максимальную точность. Рядом с поиском стоит контекстная база данных — «книга рецептов» того, как на самом деле работает бизнес. Стандартные операционные процедуры, которые мы все носим в голове и приносим на работу каждый день, — это и есть те рецепты. Первоначально их зафиксировать и затем обновлять по мере изменения людей и процессов — в этом суть контекстной базы данных. Инструменты и действия: инструменты — это способ, которым агент воздействует на внешний мир. Рецепты в контекстной базе описывают, что делать. Инструменты — это ингредиенты и утварь, которые это делают. Современная обвязка предоставляет инструменты через реестр, валидирует аргументы, которые передаёт модель, направляет вызов, закрывает чувствительные действия за подтверждениями и парсит результат обратно в цикл агента. MCP стал соединительной тканью. Качество обвязки зависит от того, сколько инструментов она может безопасно предоставить и насколько чисто обрабатывает их сбои. Оркестрация и цикл: агентный цикл — это «думай, действуй, наблюдай, повторяй». Планирование, декомпозиция, суб-агенты, повторные попытки и условия остановки определяют, как выполняется работа. Мы также ожидаем, что наш софт улучшается по мере использования. Замкнутые циклы, которые учатся на каждом запуске, будут разделять вендоров. Состояние и персистентность: в крупном предприятии, где множество людей работают с системой, она должна быть устойчивой. Когда обвязка падает на шаге 7 из 10, она должна возобновиться с шага 8, а не стартовать с нуля. Файловые системы, чекпоинты, потоки сессий и хранилище артефактов — вот механизмы, предотвращающие потерю работы. Песочница и вычисления: каждому агенту нужна песочница для работы. Изолированные Unix-окружения, контролируемый сетевой выход и учётные данные, хранящиеся вне модели, — вот что делает песочницы безопасными, конфиденциальными и быстрыми в масштабе. Наблюдаемость и управление: нельзя доверять тому, чего не видишь. Трассировка каждого шага, логирование каждого вызова инструмента, запуск evals как регрессионных тестов и привлечение людей к принятию решений с наивысшими ставками — вот как демо становится продакшн-системой. Гарантийные ограничения обеспечивают соблюдение политик. Evals ловят регрессии раньше клиентов. Оптимизация затрат и воркфлоу: седьмая дисциплина — это архитектурное суждение. Что должно быть детерминированным, а что — нет? Какая модель подходит для каждого шага — передовая, средняя, малая или дообученная? Какие знания принадлежат навыкам, а какие — памяти?
The result is a new competitive dynamic in software.
Результат — новая конкурентная динамика в софтвере.
This won’t work in every category. The markets the major labs prioritize will benefit from their ability to move quickly & their direct control of the models. But that leaves thousands of separate markets up for startups.
Это сработает не в каждой категории. Рынки, которые приоритизируют крупные лаборатории, выиграют от их способности быстро двигаться и прямого контроля над моделями. Но это оставляет тысячи отдельных рынков для стартапов.
What happens when every company has access to the same model? The best riders win.
Что происходит, когда у каждой компании есть доступ к одной и той же модели? Побеждают лучшие наездники.