newsmode
search
Меню
arrow_back Назад

Will I Be Paid in Tokens?

auto_awesomeКраткое саммари

Томаш Тангуз описывает, как его расходы на AI-инференс за два квартала выросли с $7 200 до $100 000 в годовом исчислении — из-за подписок на агентов и активного использования ИИ для выполнения задач. Переход на open-source-модель за выходные позволил сократить затраты до 12% от прежних. Технологические компании начинают включать расходы на инференс в компенсационный пакет инженеров наряду с зарплатой, бонусами и опционами — для 75-го перцентиля это может означать рост полной стоимости сотрудника на 21%. CFO неизбежно зададут вопрос: какую отдачу приносит каждый доллар, потраченный на токены? Автор считает, что в 2026 году инференс-расходы фактически станут частью оплаты труда.

Last quarter, my AI inference costs hit $100,000 annualized.

В прошлом квартале мои расходы на AI-инференс достигли $100 000 в годовом исчислении.

I started small. Six months earlier, I was spending $200 a month on Claude. Then I added three agent subscriptions : Codex, Gemini, & Claude Code. I was paying $600 a month.

Я начинал с малого. Полгода назад я тратил $200 в месяц на Claude. Потом добавил три подписки на агентов: Codex, Gemini и Claude Code. Выходило $600 в месяц.

Next I started using AI to transform my todo list into my done list, increasing tasks to 31 per day. $92 daily inference invoices started arriving. Then $400 per month on browser agents.

Затем я начал использовать ИИ, чтобы превращать список задач в список сделанного, доведя объём до 31 задачи в день. Стали приходить счета за инференс на $92 в день. Плюс $400 в месяц на браузерных агентов.

Within two quarters, my inference spend grew from $7,200 to $43,000 to over $100,000 run rate.

За два квартала мои расходы на инференс выросли с $7 200 до $43 000 и перешагнули отметку в $100 000 в годовом исчислении.

So I migrated to an open source model. It took a weekend. The key was building the right testing loops : I had six months of historical task data, so I could replay requests through the new model & hill-climb to parity with AI agents working through the night. By Sunday evening, they performed identically. At 12% of the cost.

Тогда я мигрировал на open-source-модель. Это заняло выходные. Ключом стали правильные циклы тестирования: у меня были данные по задачам за полгода, так что я мог прогонять запросы через новую модель и итеративно подтягивать её до паритета — AI-агенты работали над этим всю ночь. К вечеру воскресенья результаты были идентичны. При 12% от прежней стоимости.

I’m not the only one paying attention to this cost.

Я не единственный, кто обращает внимание на эти расходы.

Technology companies are adding a fourth component to engineering compensation : salary, bonus, options, & inference costs. Levels.fyi pegs the 75th percentile software engineer salary at $375k. Add $100k in inference & the fully loaded cost is $475k. That’s 21% in tokens.

Технологические компании добавляют четвёртый компонент в компенсацию инженеров: зарплата, бонус, опционы — и расходы на инференс. По данным Levels.fyi, зарплата инженера на 75-м перцентиле составляет $375 тыс. Добавьте $100 тыс. на инференс — и полная стоимость сотрудника вырастает до $475 тыс. Это 21% в токенах.

The question CFOs will pose : what am I getting for all this inference spend? Can I do it cheaper?

Вопрос, который зададут CFO: что я получаю за все эти расходы на инференс? Можно ли сделать дешевле?

If the metric for a new cloud is gross profit per GPU hour, the employee equivalent is : productive work per dollar of inference.

Если метрика нового облака — это валовая прибыль на GPU-час, то её аналог для сотрудника — продуктивная работа на доллар инференса.

For me, the answer is 31 tasks a day at $12k annually. The engineer still burning $100k? They’d better be 8x more productive!

Для меня ответ — 31 задача в день при $12 тыс. в год. Инженер, который по-прежнему тратит $100 тыс.? Ему лучше быть в 8 раз продуктивнее!

Will you be paid in tokens? In 2026, you likely will start to be.

Будут ли вам платить токенами? В 2026 году, скорее всего, это начнёт происходить.