[AINews] Tasteful Tokenmaxxing

[AINews] Токенмаксинг со вкусом

спокойный день позволяет нам поразмышлять о главной теме, которую AI-лидеры обсуждают повсюду.

Сегодня проходит Cloud Next, и обучающие и инференс-версии Google TPUv8 были анонсированы, как и ожидалось; цифры ошеломляют, но в основном они лишь подчёркивают огромное аппаратное преимущество, которое десятилетие инвестиций дало GDM и любым моделям, которые они обучают и обслуживают.

За последние 2 дня, когда завершилась AIE Miami (следующий — Сингапур!), главные разговоры, которые мы слышали от AI-руководства (CTO, VP, основателей), крутились вокруг концепции «токенмаксинга» и того, как лидеры хотят, чтобы их команды использовали больше AI, НО без обратной стороны — стимулирования того ужасающего расточительства, которое наш друг Gergely Orosz описал в своём кейноуте на AIE.

Dex Horthy, автор терминов Context Engineering и «the Dumb Zone», публично отказался от своего крайне vibe-coding-одержимого призыва полугодовой давности и призвал людей пожалуйста, читайте код, сославшись на Alex Volkov и его Z/L-континуум с AIE Europe:

Не для протокола: многие старшие руководители, с которыми я общаюсь, скорее на стороне Zechner, чем на стороне Lopopolo в спектре Z/L — это не значит, что одна сторона верна для всех и в любой ситуации, и не значит, что так будет и дальше по мере прогресса моделей! Чтобы указать на самое очевидное: инженеры и инженерные руководители — это те, кто больше всего склонен раздувать драму из мелких архитектурных проблем качества, которую огромное количество дешёвой генерации кода и его ревью может и перевесить.

Сегодняшний гость LS, Mikhail Parakhin, CTO Shopify, предложил ещё один взгляд на «токенмаксинг со вкусом»: лучше идти вглубь (например, делать больше последовательных циклов автоисследования), чем вширь (например, решать задачу, запуская 5, 10, 50, 500 параллельных прогонов LLM-однорукого бандита). Стоит обдумать.

Новости AI за 21.04.2026–22.04.2026. Мы проверили 12 сабреддитов, 544 твиттера и больше никаких дискордов. Сайт AINews позволяет искать по всем прошлым выпускам. Напоминаем, что AINews теперь является разделом Latent Space. Вы можете подписаться/отписаться от email-рассылок разной частоты!

Обзор AI-Твиттера

Открытые модели: Qwen3.6-27B, OpenAI Privacy Filter и Xiaomi MiMo-V2.5

Qwen3.6-27B выходит как серьёзная локальная/открытая модель для кодинга: @Alibaba_Qwen выпустила Qwen3.6-27B — плотную модель под лицензией Apache 2.0 с режимами с рассуждением и без рассуждения и единым мультимодальным чекпоинтом. Alibaba утверждает, что она превосходит гораздо более крупную Qwen3.5-397B-A17B на основных кодинг-эвалах, включая SWE-bench Verified 77.2 против 76.2, SWE-bench Pro 53.5 против 50.9, Terminal-Bench 2.0 59.3 против 52.5 и SkillsBench 48.2 против 30.0. Она также поддерживает нативное визуально-языковое рассуждение по изображениям и видео. Экосистема отреагировала мгновенно: vLLM выпустил поддержку в день релиза, Unsloth опубликовал локальные GGUF под 18 ГБ RAM, ggml добавил поддержку в llama.cpp, а Ollama добавила упакованный релиз. Ранние отзывы пользователей от @KyleHessling1 и @simonw были заметно сильными для локальных задач фронтенда/дизайна и работы с изображениями.OpenAI тихо выкладывает в опенсорс практичную модель для приватности: множество наблюдателей отметили новый Privacy Filter от OpenAI — лёгкую открытую модель под Apache 2.0 для обнаружения и маскирования PII. По словам @altryne, @eliebakouch и @mervenoyann, это MoE-модель токен-классификации на 1.5B всего / 50M активных параметров с контекстным окном 128k, предназначенная для дешёвой редакции очень больших корпусов и логов. Это более интересный с операционной точки зрения релиз, чем обычная «маленькая открытая модель»: он нацелен на конкретную инфраструктурную проблему в enterprise/агентных конвейерах, где важна дешёвая предобработка на устройстве или с низкой стоимостью.Xiaomi подтягивает агентные открытые модели вверх: @XiaomiMiMo анонсировала MiMo-V2.5-Pro и MiMo-V2.5. Xiaomi позиционирует V2.5-Pro как большой скачок в разработке ПО и агентах с длинным горизонтом, ссылаясь на SWE-bench Pro 57.2, Claw-Eval 63.8 и τ3-Bench 72.9, с заявлениями о более чем 1000 автономных вызовов инструментов. Не-Pro-модель добавляет нативную омнимодальность и контекстное окно на 1M токенов. Arena быстро добавила MiMo-V2.5 в оценку Text/Vision/Code, а интеграция с Hermes/Nous последовала через @Teknium.

Google Cloud Next: TPU v8, платформа Gemini Enterprise Agent и Workspace Intelligence

Инфраструктурные анонсы Google оказались существенными, а не косметическими: @Google и @sundarpichai представили TPU 8-го поколения с раздельной архитектурой: TPU 8t для обучения и TPU 8i для инференса. Google заявляет, что 8t обеспечивает почти 3-кратную вычислительную мощность на под по сравнению с Ironwood, тогда как 8i объединяет 1152 TPU на под для инференса с низкой задержкой и многоагентных нагрузок с высокой пропускной способностью. Комментарий от @scaling01 подчеркнул дополнительное заявление: Google теперь может масштабироваться до миллиона TPU в одном кластере с TPU8t. Сигнал о продуктизации значит не меньше, чем само железо: Google явно выстраивает чипы, модели, агентный инструментарий и корпоративные плоскости управления в единое вертикально интегрированное предложение.Корпоративные агенты стали полноценной продуктовой поверхностью Google: @GoogleDeepMind и @Google запустили Gemini Enterprise Agent Platform, поданную как эволюцию Vertex AI в платформу для создания, управления и оптимизации агентов в масштабе. Она включает Agent Studio, доступ к 200+ моделям через Model Garden и поддержку текущего стека Google, включая Gemini 3.1 Pro, Gemini 3.1 Flash Image, Lyria 3, и Gemma 4. Связанные запуски включали Workspace Intelligence GA как семантический слой над документами/таблицами/встречами/почтой, Gemini Enterprise inbox/canvas/переиспользуемые навыки, Agentic Data Cloud, агенты безопасности с интеграцией Wiz и Gemini Embedding 2 GA — единую модель эмбеддингов для текста, изображений, видео, аудио и документов.

Агенты, харнессы, трейсы и командные рабочие процессы

Абстракция «агентного харнесса» крепнет у разных вендоров: OpenAI представила workspace-агентов в ChatGPT — общих агентов на базе Codex для команд, способных работать с документами, почтой, чатом, кодом и внешними системами, включая рабочие процессы на основе Slack и запланированные/фоновые задачи. Google сделала параллельный корпоративный шаг с Gemini Enterprise Agent Platform, а Cursor добавил вызов через Slack для запуска задач и потоковых обновлений. Паттерн сходится: облачные агенты, общий командный контекст, согласования и долго выполняющиеся задачи вместо чата с одним пользователем.Эргономика для разработчиков в плане независимости от харнесса/модели улучшилась: VS Code/Copilot выкатили поддержку собственных ключей/моделей на всех тарифах и для business/enterprise, что позволяет использовать провайдеров вроде Anthropic, Gemini, OpenAI, OpenRouter, Azure, Ollama и локальные бэкенды. Это стратегически важно, потому что, как отметил @omarsar0, большинство моделей всё ещё кажутся переобученными под собственные агентные харнессы. Russell Kaplan из Cognition привёл дополняющий бизнес-аргумент: корпоративные покупатели хотят гибкости в выборе моделей и инфраструктуры, охватывающей весь цикл SDLC, а не привязки к одной лаборатории.Трейсы/эвалы/самоулучшение становятся ключевым примитивом агентных данных: самая сильная ветка здесь возникла из обсуждения вокруг LangChain. @Vtrivedy10 утверждал, что трейсы фиксируют ошибки и неэффективность агентов, и что вычислительные ресурсы стоит направлять на анализ трейсов, чтобы генерировать более качественные эвалы, навыки и окружения; более длинное продолжение развернуло это в конкретный цикл, включающий майнинг трейсов, навыки, контекст-инжиниринг, субагентов и онлайн-эвалы. @ClementDelangue выступал за открытые трейсы как недостающую информационную основу для обучения открытых агентов, тогда как @gneubig продвигал стандартизацию ADP / Agent Data Protocol. LangChain также намекнул на более сильное направление продукта для тестирования/оценки через @hwchase17.

Пост-тренинг, RL и системы инференса

Perplexity и другие поделились большей частью плейбука пост-тренинга: @perplexity_ai опубликовала детали конвейера SFT + RL с дополнением поиском, который улучшает фактологичность, качество цитирования, следование инструкциям и эффективность; они говорят, что системы на базе Qwen могут сравняться с моделями семейства GPT или превзойти их по фактологичности при меньшей стоимости. @AravSrinivas добавил, что Perplexity теперь запускает в продакшене пост-тренированную модель на базе Qwen, которая объединяет маршрутизацию инструментов и суммаризацию и уже обслуживает значительную долю трафика. С исследовательской стороны @michaelyli__ представил Neural Garbage Collection, использующий RL для совместного обучения рассуждению и удержанию/вытеснению KV-кэша без проксирующих целей; @sirbayes сообщил о байесовском агенте прогнозирования лингвистических убеждений, сравнявшемся с человеческими суперфоркастерами на ForecastBench.Проблема «минимального редактирования» в кодинг-моделях получила полезную бенчмарк-проработку: @nrehiew_ представил работу по Over-Editing, когда кодинг-модели исправляют баги, переписывая слишком много кода. В исследовании конструируются минимально повреждённые задачи и измеряются избыточные правки с помощью patch-distance, а также добавлена Cognitive Complexity; выясняется, что GPT-5.4 переусердствует с правками больше всех, а Opus 4.6 — меньше всех, и что RL превосходит SFT, DPO и rejection sampling в обучении обобщаемому стилю минимального редактирования без катастрофического забывания. Это один из самых практичных вкладов в пост-тренинг/эвал в подборке, поскольку он нацелен на режим отказа, на который инженеры реально жалуются при ревью продакшен-кода.Работа над эффективностью инференса оставалась крайне активной: @cohere интегрировала продакшен-инференс W4A8 в vLLM, сообщив об ускорении TTFT до 58% и TPOT на 45% по сравнению с W4A16 на Hopper; детали включают поканальную FP8-квантизацию масштаба и CUTLASS LUT-деквантизацию. @WentaoGuo7 сообщил о приросте пропускной способности SonicMoE на Blackwell — на 54% / 35% выше fwd/bwd TFLOPS, чем у базового DeepGEMM — при сохранении эквивалентной плотной модели памяти активаций для равного числа активных параметров. @baseten представил RadixMLP для устранения общих префиксов в реранкинге с реалистичным ускорением в 1.4–1.6 раза.

Топ твитов (по вовлечённости)

Workspace-агенты OpenAI: @OpenAI запустила общих workspace-агентов на базе Codex для Business/Enterprise/Edu/преподавателей.Релиз Qwen3.6-27B: @Alibaba_Qwen анонсировала новую открытую 27B плотную модель с сильными заявлениями по кодингу и лицензией Apache 2.0.Google TPU v8: @sundarpichai представил TPU 8t / 8i со специализацией на обучении/инференсе.Flipbook / UI, стримящийся из модели: @zan2434 показал прототип, где экран рендерится в пиксели прямо из модели, а не из традиционных UI-стеков.OpenAI Privacy Filter: @scaling01 и другие отметили новую открытую модель OpenAI для обнаружения/редактирования PII на Hugging Face.

Обзор AI-Reddit

Обзор /r/LocalLlama + /r/localLLM

1. Релизы и бенчмарки моделей Qwen 3.6

Qwen 3.6 27B вышла (Активность: 2576): Qwen 3.6 27B, новая языковая модель, выпущена на Hugging Face. Эта модель имеет 27 billion parameters и призвана улучшить предыдущие итерации за счёт повышенных показателей производительности. Также доступна квантизованная версия, Qwen3.6-27B-FP8, которая позволяет более эффективно развёртывать модель в средах с ограниченными вычислительными ресурсами. Релиз включает детальные результаты бенчмарков, демонстрирующие её возможности в различных задачах. Сообщество выражает воодушевление по поводу релиза, некоторые пользователи отмечают значимость улучшений производительности модели и доступность квантизованной версии для более широкой доступности.Namra_7 поделился изображением бенчмарка для Qwen 3.6 27B, которое, вероятно, включает метрики производительности, такие как скорость инференса, точность или другую релевантную статистику. Однако конкретные детали бенчмарков в самом комментарии не описаны.challis88ocarina упомянул квантизованную версию Qwen 3.6 27B, доступную на Hugging Face в формате FP8. Квантизация может значительно уменьшить размер модели и повысить скорость инференса, делая её более эффективной для развёртывания без существенной потери точности. Приведённая ссылка ведёт в репозиторий модели на Hugging Face для дальнейшего изучения.Eyelbee выложил ещё одну ссылку на изображение, которое может содержать дополнительные визуальные данные или метрики производительности, связанные с Qwen 3.6 27B. Однако комментарий не даёт конкретных сведений о содержании изображения.Qwen3.6-27B выпущена! (Активность: 895): Qwen3.6-27B — это недавно выпущенная плотная открытая модель, которая преуспевает в задачах кодинга, превосходя свою предшественницу Qwen3.5-397B-A17B на основных кодинг-бенчмарках. Она обладает сильными способностями к рассуждению как в текстовых, так и в мультимодальных задачах и предлагает гибкость с режимами «с рассуждением» и «без рассуждения». Модель выпущена под лицензией Apache 2.0, что делает её полностью открытой и доступной для использования сообществом. Подробнее можно узнать в их блоге, на GitHub и Hugging Face. Комментарии отражают воодушевление и восхищение командой Qwen, пользователи выражают нетерпение использовать модель на своём оборудовании и предполагают, что вклад команды достоин памятника.ResearchCrafty1804 подчёркивает впечатляющую производительность Qwen3.6-27B, отмечая, что несмотря на всего 27 миллиардов параметров, она превосходит гораздо более крупную модель Qwen3.5-397B-A17B на нескольких кодинг-бенчмарках. В частности, она набирает 77.2 на SWE-bench Verified, 53.5 на SWE-bench Pro, 59.3 на Terminal-Bench 2.0 и 48.2 на SkillsBench, превосходя более крупную модель со значительным отрывом в каждом случае.bwjxjelsbd комментирует конкурентный ландшафт, выражая удовлетворение тем, что Alibaba продвигается вперёд с моделями Qwen после предполагаемых неудач META. Комментатор надеется на продолжение конкуренции и прозрачности, предполагая, что META стоит открыть исходники своего семейства моделей Muse, чтобы поддержать здоровую конкурентную среду.Qwen3.6-35B становится конкурентоспособной с облачными моделями при правильном агенте (Активность: 848): В посте обсуждается значительное улучшение производительности на бенчмарках модели Qwen3.6-35B при сочетании с агентом little-coder, достигающее 78.7% успешности на бенчмарке Polyglot, что помещает её в топ-10. Это улучшение подчёркивает влияние использования подходящих скаффолдов, предполагая, что локальные модели могут недопоказывать себя из-за несоответствия харнесса. Автор планирует протестировать дальше на Terminal Bench и GAIA для исследовательских возможностей. Полные детали и бенчмарки доступны на GitHub и Substack. Комментаторы выражают удивление приростом производительности от изменения скаффолда, ставя под вопрос валидность бенчмарков, которые не контролируют такие факторы. Также есть интерес к использованию pi.dev за его расширяемость в работе с моделями.DependentBat5432 отмечает значительное улучшение производительности Qwen3.6-35B при смене скаффолда, указывая на скачок с 19% до 78%. Это вызывает вопросы о валидности сравнений на бенчмарках, которые не контролируют такие переменные, предполагая, что выбор скаффолда может радикально влиять на производительность модели.Willing-Toe1942 сообщает, что Qwen3.6 при использовании с pi-кодинг-агентами работает почти вдвое лучше, чем opencode. Это сравнение включало такие задачи, как изменение HTML-кода и поиск онлайн-ресурсов с документацией, указывая на то, что выбор агента может значительно повысить эффективность модели в практических сценариях кодинга.kaeptnphlop упоминает сильную производительность Qwen-Coder-Next в сочетании с GitHub Copilot в VS Code, предполагая потенциал для дальнейшего изучения с другими инструментами вроде little-coder. Это подразумевает, что интеграция моделей Qwen с популярными средами разработки может эффективно использовать их сильные стороны.

Продолжите чтение с 7-дневным бесплатным пробным периодом

Подпишитесь на Latent.Space, чтобы продолжить чтение этого поста и получить 7 дней бесплатного доступа к полному архиву постов.