Data Center Intelligence at the Price of a Laptop
Автор описывает, как 28 февраля израсходовал 84 миллиона токенов через Kimi K2.5 — при тарифах Claude или OpenAI (около $9 за миллион токенов) это обошлось бы в $756 за один день работы. На этой неделе Alibaba выпустила открытую модель Qwen3.5-9B, которая соответствует Claude Opus 4.1 декабря 2025 года и запускается локально на 12 ГБ оперативной памяти. MacBook Pro за $5000 окупается примерно за месяц при среднем расходе 20 миллионов токенов в день, после чего предельная стоимость сводится к электричеству. Локальный инференс обеспечивает приватность, отсутствие логов и лимитов, но проигрывает в параллелизации — ноутбук обрабатывает один запрос за раз. Экономика смещается в сторону глубины, а не широты: меньше задач, дольше выполнение, дешевле. За три месяца граница между дата-центром и ноутбуком стёрлась, и расчёт «купить против арендовать» изменился.
I burned 84 million tokens on February 28th. Researching companies, drafting memos, running agents.
28 февраля я сжёг 84 миллиона токенов. Исследовал компании, готовил заметки, запускал агентов.
That’s running Kimi K2.5, a serverless model via API. At Claude1 or OpenAI2 rates, roughly $9 per million tokens blended, equivalent usage would cost $756 for a single day’s work. My peak days hit 80 million tokens. My average days run 20 million. Cloud inference at frontier-model pricing adds up fast.
Это работа Kimi K2.5 — бессерверной модели через API. По тарифам Claude1 или OpenAI2, примерно $9 за миллион токенов в среднем, эквивалентное использование стоило бы $756 за один рабочий день. В пиковые дни я доходил до 80 миллионов токенов. В средние дни — около 20 миллионов. Облачный инференс по ценам frontier-моделей складывается быстро.
This week, Alibaba released Qwen3.5-9B3, an open-source model that matches Claude Opus 4.1 from December 2025. It runs locally on 12GB of RAM. Three months ago, this capability required a data center. Now it requires a power outlet.
На этой неделе Alibaba выпустила Qwen3.5-9B3 — открытую модель, которая соответствует Claude Opus 4.1 декабря 2025 года. Она запускается локально на 12 ГБ оперативной памяти. Три месяца назад для такой возможности требовался дата-центр. Теперь требуется лишь розетка.
A $5,000 laptop, a MacBook Pro with enough memory to run Qwen locally, pays for itself after 556 million tokens. At my usage rate, that’s about a month. At 20 million tokens per day, it’s four weeks.
Ноутбук за $5000 — MacBook Pro с достаточным объёмом памяти, чтобы запускать Qwen локально, — окупается после 556 миллионов токенов. При моём темпе использования это около месяца. При 20 миллионах токенов в день — четыре недели.
After payback, the marginal cost drops to electricity.
После окупаемости предельная стоимость падает до затрат на электричество.
It isn’t an intelligence compromise. Reasoning, coding, agentic workflows, document processing, instruction following : the 9B model matches December’s frontier across the board.
И это не компромисс по интеллекту. Рассуждение, программирование, агентные рабочие процессы, обработка документов, следование инструкциям: 9B-модель соответствует декабрьскому frontier по всем направлениям.
What changes when frontier intelligence runs locally? Everything I send to cloud APIs today, drafting emails, researching companies, writing code, analyzing documents, stays on my machine. No API logs. No third-party retention. No outages. No rate limits.
Что меняется, когда frontier-интеллект работает локально? Всё, что я сегодня отправляю в облачные API — черновики писем, исследование компаний, написание кода, анализ документов — остаётся на моей машине. Никаких логов API. Никакого хранения у третьих сторон. Никаких сбоев. Никаких лимитов запросов.
The tradeoff is parallelization. Cloud APIs handle thousands of concurrent requests. A laptop runs one inference at a time. For simple tasks, summarization, drafting, Q&A, that’s fine.
Компромисс — в параллелизации. Облачные API обрабатывают тысячи одновременных запросов. Ноутбук выполняет один инференс за раз. Для простых задач — суммирование, черновики, Q&A — этого достаточно.
Queue them up. Let them run overnight. For complex agentic workflows that spawn dozens of parallel threads, local inference may not be worth the wait. The economics favor depth over breadth : fewer tasks, run longer, run cheaper.
Поставьте их в очередь. Пусть работают ночью. Для сложных агентных процессов, которые порождают десятки параллельных потоков, локальный инференс может не стоить ожидания. Экономика благоволит глубине, а не широте: меньше задач, дольше выполнение, дешевле.
Three months from data center to laptop. The buy-vs-rent math just changed.
Три месяца — от дата-центра до ноутбука. Математика «купить против арендовать» только что изменилась.