How fast is 10 tokens per second really?
Саймон Уиллисон делится небольшим HTML-приложением Майка Веермана, которое наглядно демонстрирует скорость генерации токенов LLM в диапазоне от 5 до 800 токенов в секунду. Инструмент полезен, когда видишь рекламу модели вроде «30 токенов/секунду» и хочешь понять, как это выглядит на практике. Исходный код опубликован на GitHub. Запись датирована 20 мая 2026 года и относится к разделу ссылок блога. Также упоминаются недавние статьи автора: про Gemini 3.5 Flash, краткий обзор последних шести месяцев в LLM и заметки о сделке между xAI и Anthropic по дата-центру.
20 мая 2026 — Link Blog
Насколько быстры 10 токенов в секунду на самом деле? (через) Аккуратное небольшое HTML-приложение от Mike Veerman (исходный код здесь), которое симулирует скорость вывода токенов LLM от 5/секунду до 800/секунду.
Полезно, если вы видите модель, рекламируемую как «30 токенов/секунду», и хотите получить представление о том, как это реально выглядит.
Недавние статьи
Gemini 3.5 Flash: дороже, но Google планирует использовать её для всего — 19 мая 2026 Последние шесть месяцев в LLM за пять минут — 19 мая 2026 Заметки о сделке xAI/Anthropic по дата-центру — 7 мая 2026
Это ссылочный пост от Simon Willison, опубликованный 20 мая 2026 года.
Ежемесячный дайджест
Поддержите меня за $10/месяц и получайте кураторскую email-рассылку с важнейшими событиями месяца в мире LLM.
Платите мне, чтобы я присылал вам меньше!