Data Center Intelligence at the Price of a Laptop
Автор описывает, как 28 февраля израсходовал 84 миллиона токенов через Kimi K2.5 — при тарифах Claude или OpenAI (около $9 за миллион токенов) это обошлось бы в $756 за один день работы. На этой неделе Alibaba выпустила открытую модель Qwen3.5-9B, которая соответствует Claude Opus 4.1 декабря 2025 года и запускается локально на 12 ГБ оперативной памяти. MacBook Pro за $5000 окупается примерно за месяц при среднем расходе 20 миллионов токенов в день, после чего предельная стоимость сводится к электричеству. Локальный инференс обеспечивает приватность, отсутствие логов и лимитов, но проигрывает в параллелизации — ноутбук обрабатывает один запрос за раз. Экономика смещается в сторону глубины, а не широты: меньше задач, дольше выполнение, дешевле. За три месяца граница между дата-центром и ноутбуком стёрлась, и расчёт «купить против арендовать» изменился.
28 февраля я сжёг 84 миллиона токенов. Исследовал компании, готовил заметки, запускал агентов.
Это работа Kimi K2.5 — бессерверной модели через API. По тарифам Claude1 или OpenAI2, примерно $9 за миллион токенов в среднем, эквивалентное использование стоило бы $756 за один рабочий день. В пиковые дни я доходил до 80 миллионов токенов. В средние дни — около 20 миллионов. Облачный инференс по ценам frontier-моделей складывается быстро.
На этой неделе Alibaba выпустила Qwen3.5-9B3 — открытую модель, которая соответствует Claude Opus 4.1 декабря 2025 года. Она запускается локально на 12 ГБ оперативной памяти. Три месяца назад для такой возможности требовался дата-центр. Теперь требуется лишь розетка.
Ноутбук за $5000 — MacBook Pro с достаточным объёмом памяти, чтобы запускать Qwen локально, — окупается после 556 миллионов токенов. При моём темпе использования это около месяца. При 20 миллионах токенов в день — четыре недели.
После окупаемости предельная стоимость падает до затрат на электричество.
И это не компромисс по интеллекту. Рассуждение, программирование, агентные рабочие процессы, обработка документов, следование инструкциям: 9B-модель соответствует декабрьскому frontier по всем направлениям.
Что меняется, когда frontier-интеллект работает локально? Всё, что я сегодня отправляю в облачные API — черновики писем, исследование компаний, написание кода, анализ документов — остаётся на моей машине. Никаких логов API. Никакого хранения у третьих сторон. Никаких сбоев. Никаких лимитов запросов.
Компромисс — в параллелизации. Облачные API обрабатывают тысячи одновременных запросов. Ноутбук выполняет один инференс за раз. Для простых задач — суммирование, черновики, Q&A — этого достаточно.
Поставьте их в очередь. Пусть работают ночью. Для сложных агентных процессов, которые порождают десятки параллельных потоков, локальный инференс может не стоить ожидания. Экономика благоволит глубине, а не широте: меньше задач, дольше выполнение, дешевле.
Три месяца — от дата-центра до ноутбука. Математика «купить против арендовать» только что изменилась.