METR’s Joel Becker on exponential Time Horizon Evals, Threat Models, and the Limits of AI Productivity
В подкасте Latent Space впервые выступает Joel Becker из организации METR, известной своим нашумевшим графиком временных горизонтов ИИ-агентов. Обсуждаются нюансы создания бенчмарков и экстраполяции результатов, включая известные смещения в работе METR по длинным горизонтам, которые недооцениваются в погоне за алармистскими интерпретациями. Помимо оценок временных горизонтов, затрагивается менее известная работа METR по оценке угроз и продуктивности разработчиков. Ведущие подчёркивают, что миллионы просмотров хайпового графика значительно превышают 69 тысяч просмотров уточнений от самих авторов. Также обсуждаются темы вычислительных затрат, алгоритмов, рынков предсказаний и планов METR на будущее.
METR’s Joel Becker on exponential Time Horizon Evals, Threat Models, and the Limits of AI Productivity
Joel Becker из METR об экспоненциальных оценках временных горизонтов, моделях угроз и пределах продуктивности ИИ
AIE Europe CFP and AIE World’s Fair paper submissions for CAIS peer review are due TODAY - do not delay! Last call ever.
AIE Europe CFP и подача статей на AIE World's Fair для рецензирования CAIS — дедлайн СЕГОДНЯ, не откладывайте! Последний шанс.
We’re excited to welcome METR for their first LS Pod, hopefully the first of many:
Мы рады впервые приветствовать METR в подкасте LS Pod — надеемся, это первый выпуск из многих:
METR are keepers of currently the single most infamous chart in AI:
METR — авторы, пожалуй, самого нашумевшего графика в ИИ на данный момент:
But every Latent Space reader should be sophisticated enough to know that the details matter and that hype and hyperbole go hand in hand in AI social media, because the millions of impressions that got, by people who don’t understand or care about the nuances, disclaimers, and error bars, far outreaches the 69k views on the corrections by the people who actually made the chart:
Но каждый читатель Latent Space должен быть достаточно искушённым, чтобы понимать: детали имеют значение, а хайп и преувеличения в ИИ-соцсетях идут рука об руку. Миллионы просмотров, набранные людьми, которые не понимают или не интересуются нюансами, оговорками и доверительными интервалами, значительно превышают 69 тысяч просмотров уточнений от людей, которые на самом деле создали этот график:
There’s a lot of nuance both in making benchmarks (as we discovered with OpenAI on our SWE-Bench Verified podcast) and in extrapolating results from them, especially where exponentials and sigmoids are concerned. METR’s Long Horizons work itself has known biases that the authors have responsibly disclosed, but go far too underappreciated in the pursuit of doomer chart porn.
Масса нюансов кроется как в создании бенчмарков (как мы выяснили вместе с OpenAI в нашем подкасте о SWE-Bench Verified), так и в экстраполяции результатов — особенно когда речь идёт об экспонентах и сигмоидах. Работа METR по длинным горизонтам сама по себе имеет известные смещения, о которых авторы ответственно заявили, но которые остаются крайне недооценёнными в погоне за алармистскими графиками.
If you’re interested in a short, sharable TED talk version of this pod, over at AIE CODE we were blessed to feature Joel twice, as a stage talk and with a longer form small workshop with Q&A:
Если вам интересна короткая версия этого подкаста в формате TED-выступления, которой можно поделиться, — на AIE CODE нам посчастливилось представить Joel дважды: в выступлении на сцене и в более развёрнутом мини-воркшопе с вопросами и ответами:
We also make sure cover some of METR’s lesser known work on Threat Evaluation but also Developer Productivity, where 2x friend of the pod and now Zyphra founder Quentin Anthony was the ONLY productive participant!
Мы также обязательно затрагиваем менее известную работу METR по оценке угроз, а также по продуктивности разработчиков, где двукратный друг подкаста и ныне основатель Zyphra Quentin Anthony оказался ЕДИНСТВЕННЫМ продуктивным участником!
Finally, if you’re the sort to read these show notes to the end, then you definitely deserve some pictures of Joel shredding the guitar at Love Band Karaoke which we mention at the end:
И наконец, если вы из тех, кто дочитывает заметки к выпуску до конца, — вы точно заслуживаете увидеть фотографии Joel, рубящего на гитаре на Love Band Karaoke, о котором мы упоминаем в конце:
Full Video Pod
Полная видеоверсия подкаста
Timestamps
Таймкоды
00:00 What METR Means
00:39 Podcast Intro With Joel
01:39 ME vs TR
03:33 Time Horizon Origin Story
04:56 Picking Tasks And Biases
09:13 Time Horizon Misconceptions
11:37 Opus 4.5 And Trendlines
14:27 Productivity Studies And Explosions
29:50 Compute Slows Progress
30:47 Algorithms Need Compute
32:45 Industry Spend and Data
34:57 Clusters and Shipping Timelines
36:44 Prediction Markets for Models
38:10 Manifold Alpha Story
43:04 Beyond Benchmarks Evals
51:39 METR Roadmap and Farewell
00:00 Что означает METR00:39 Вступление к подкасту с Joel01:39 ME vs TR03:33 История появления концепции временных горизонтов04:56 Выбор задач и смещения09:13 Заблуждения о временных горизонтах11:37 Opus 4.5 и линии трендов14:27 Исследования продуктивности и скачки29:50 Вычисления замедляют прогресс30:47 Алгоритмам нужны вычислительные ресурсы32:45 Расходы индустрии и данные34:57 Кластеры и сроки выпуска36:44 Рынки предсказаний для моделей38:10 История Manifold Alpha43:04 За пределами бенчмарков и оценок51:39 Планы METR и прощание
Transcript
Транскрипт
Listen to this episode with a 7-day free trial
Послушайте этот выпуск с 7-дневным бесплатным пробным периодом
Subscribe to Latent.Space to listen to this post and get 7 days of free access to the full post archives.
Подпишитесь на Latent.Space, чтобы прослушать этот выпуск и получить 7 дней бесплатного доступа к полному архиву публикаций.
