newsmode
search
Меню
arrow_back Назад

The Scaling Wall Was A Mirage

auto_awesomeКраткое саммари

Две новости этой недели пошатнули устоявшийся нарратив в ИИ: отчёт Nvidia и твит про Gemini. Весь 2025 год индустрия была убеждена, что законы масштабирования предобучения упёрлись в стену, но запуск Gemini 3 это опроверг — при том же триллионе параметров, что и у Gemini 2.5, модель резко прибавила в качестве, первой преодолела 1500 Elo на LMArena и обошла GPT-5.1 в 19 из 20 бенчмарков. Ориол Виньялс из Google DeepMind объяснил рост улучшениями и в pre-training, и в post-training, отметив, что разрыв между 2.5 и 3.0 — крупнейший в истории Google, и стен не видно. Отчёт Nvidia подкрепил спрос: компания видит $0,5 трлн выручки от Blackwell и Rubin до конца 2026 года и оценивает рынок ИИ-инфраструктуры в $3–4 трлн в год к концу десятилетия, при этом Blackwell Ultra обучает модели в 5 раз быстрее Hopper. Вместе эти два факта разрушают тезис о «стене масштабирования».

Два откровения на этой неделе пошатнули нарратив в ИИ: отчёт Nvidia о доходах и этот твит про Gemini.

Oriol Vinyals tweet about Gemini 3 scaling

Весь 2025 год индустрия ИИ была убеждена, что законы масштабирования предобучения упёрлись в стену. Модели переставали улучшаться от простого наращивания вычислений во время обучения.

Затем вышла Gemini 3. У модели то же число параметров, что и у Gemini 2.5, — один триллион, — однако она добилась колоссального прироста производительности. Это первая модель, преодолевшая 1500 Elo на LMArena и обошедшая GPT-5.1 в 19 из 20 бенчмарков.

Оriol Vinyals, вице-президент по исследованиям в Google DeepMind, объяснил прирост улучшениями как в pre-training, так и в post-training. Он добавил, что разрыв между 2.5 и 3.0 — самый большой, какой Google когда-либо видела, и никаких стен впереди не наблюдается.

Это самое сильное со времён o1 доказательство того, что масштабирование предобучения всё ещё работает, когда алгоритмические улучшения встречаются с более мощными вычислениями.

Во-вторых, отчёт Nvidia о доходах подкрепил наличие спроса.

На данный момент у нас есть видимость по $0,5 трлн выручки от Blackwell и Rubin с начала этого года и до конца календарного 2026 года. Поддерживая ежегодный ритм выпуска продуктов и сохраняя лидерство по производительности за счёт сквозного проектирования всего стека, мы считаем, что NVIDIA станет предпочтительным выбором для тех $3–4 трлн ежегодных вложений в ИИ-инфраструктуру, которые мы прогнозируем к концу десятилетия.

Облака распроданы, а наша установленная база GPU — как новых, так и предыдущих поколений, включая Blackwell, Hopper и Ampere, — задействована полностью. Рекордная выручка дата-центров за третий квартал в $51 млрд выросла на 66% год к году — внушительное достижение при наших масштабах.

Инфраструктура стремительно разгоняется до сотен миллиардов в следующем году, и Nvidia прогнозирует, что речь пойдёт о триллионах, ссылаясь на «$3–4 трлн в дата-центрах к 2030 году».

Как отмечает Gavin Baker, Nvidia подтвердила, что Blackwell Ultra обеспечивает обучение в 5 раз быстрее, чем Hopper.

Gemini 3 доказывает, что законы масштабирования в силе, поэтому дополнительная мощность Blackwell напрямую превратится в более высокие возможности моделей, а не только в экономию затрат.

Вместе эти два факта разрушают тезис о стене масштабирования.