How fast is 10 tokens per second really?
Саймон Уиллисон делится небольшим HTML-приложением Майка Веермана, которое наглядно демонстрирует скорость генерации токенов LLM в диапазоне от 5 до 800 токенов в секунду. Инструмент полезен, когда видишь рекламу модели вроде «30 токенов/секунду» и хочешь понять, как это выглядит на практике. Исходный код опубликован на GitHub. Запись датирована 20 мая 2026 года и относится к разделу ссылок блога. Также упоминаются недавние статьи автора: про Gemini 3.5 Flash, краткий обзор последних шести месяцев в LLM и заметки о сделке между xAI и Anthropic по дата-центру.
20th May 2026 - Link Blog
20 мая 2026 — Link Blog
How fast is 10 tokens per second really? (via) Neat little HTML app by Mike Veerman (source code here) which simulates LLM token output speeds from 5/second to 800/second.
Насколько быстры 10 токенов в секунду на самом деле? (через) Аккуратное небольшое HTML-приложение от Mike Veerman (исходный код здесь), которое симулирует скорость вывода токенов LLM от 5/секунду до 800/секунду.
Useful if you see a model advertised as "30 tokens/second" and want to get a feel for what that actually looks like.
Полезно, если вы видите модель, рекламируемую как «30 токенов/секунду», и хотите получить представление о том, как это реально выглядит.
Recent articles
Недавние статьи
Gemini 3.5 Flash: дороже, но Google планирует использовать её для всего — 19 мая 2026 Последние шесть месяцев в LLM за пять минут — 19 мая 2026 Заметки о сделке xAI/Anthropic по дата-центру — 7 мая 2026
This is a link post by Simon Willison, posted on 20th May 2026.
Это ссылочный пост от Simon Willison, опубликованный 20 мая 2026 года.
Monthly briefing
Ежемесячный дайджест
Sponsor me for $10/month and get a curated email digest of the month's most important LLM developments.
Поддержите меня за $10/месяц и получайте кураторскую email-рассылку с важнейшими событиями месяца в мире LLM.
Pay me to send you less!
Платите мне, чтобы я присылал вам меньше!
Раскрытие информации Колофон © 2002 2003 2004 2005 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019 2020 2021 2022 2023 2024 2025 2026