🔬Doing Vibe Physics — Alex Lupsasca, OpenAI
Алекс Лупсаска, физик-теоретик и лауреат Breakthrough Prize 2024 в номинации New Horizons, рассказывает, как GPT-5 за 30 минут воспроизвёл одну из его лучших работ, а позже решил задачу его научного руководителя Эндрю Строминджера из Гарварда быстрее, чем тот успел долететь до OpenAI. Команда сначала добилась прорыва с амплитудами «single-minus» для глюонов, а затем перенесла подход на гравитоны: ChatGPT сгенерировал 110 страниц новой физики за день, привнеся техники, неизвестные авторам. После трёх недель проверки родилась новая статья по квантовой гравитации, написанная менее чем за три дня. Лупсаска ушёл в саббатикал из Vanderbilt и присоединился к OpenAI, чтобы расширять границы применения AI в физике. Ключевой приём — «прайминг» модели разогревающей задачей из учебника, что качественно меняет её способности на научном фронтире.
🔬Doing Vibe Physics — Alex Lupsasca, OpenAI
🔬Vibe Physics в действии — Алекс Лупсаска, OpenAI
Some people are going crazy over GPT 5.5. Some people. This is the story of the Jagged Frontier. People who use AI to write emails or even code implementation work find the lift moderate whereas people pushing the limits of the model are figuring out that the limits just moved outwards.
Некоторые люди сходят с ума по GPT 5.5. Некоторые люди. Это история Jagged Frontier. Люди, использующие AI для написания писем или даже для кодинговой реализации, находят прирост умеренным, тогда как те, кто толкает модель до предела, обнаруживают, что пределы просто сдвинулись наружу.
Alex Lupsaska has been tracking this limit for a year and a half now. “When GPT5 came out, it was able to reproduce one of my best papers (that took a very long time to come up with) in 30 minutes.”
Алекс Лупсаска отслеживает этот предел уже полтора года. «Когда вышел GPT5, он смог воспроизвести одну из моих лучших статей (на которую у меня ушло очень много времени) за 30 минут».
But Alex also notes that this shift was mostly invisible.
Но Алекс также отмечает, что этот сдвиг остался в основном незамеченным.
I remember when GPT-5 came out… on Twitter, the reception was lukewarm. A lot of people were like, well, we expected a lot more, and it’s not better at writing email. And I remember thinking, well, okay, GPT-3 could write email. How much better can it get at writing email? That’s not the point. But at the science frontier, the capabilities were really taking off.
Я помню, когда вышел GPT-5… в Twitter приём был прохладным. Многие говорили: ну, мы ждали гораздо большего, и он не лучше пишет письма. И я помню, как думал: окей, GPT-3 умел писать письма. Насколько лучше он может стать в написании писем? Дело не в этом. Но на научном фронтире возможности действительно взлетали.
We walk through his paper and more with him in today’s Science pod! Watch here.
Мы разбираем его статью и многое другое вместе с ним в сегодняшнем выпуске Science pod! Смотрите здесь.
The “Oscar for physics”
«Оскар по физике»
Alex made an early splash in his career with breakthroughs in our understanding of black holes. He’s also known for Black Hole Explorer and an iPhone app that makes visualizing black holes fun and interactive to regular audiences. Alex won the 2024 New Horizons in Fundamental Physics Breakthrough Prize. Known as the “Oscar for physics” this is arguably the most prestigious prize an early stage theoretical physicist can win.1
Алекс рано заявил о себе в карьере прорывами в нашем понимании чёрных дыр. Он также известен по проекту Black Hole Explorer и приложению для iPhone, которое делает визуализацию чёрных дыр увлекательной и интерактивной для широкой аудитории. Алекс получил Breakthrough Prize 2024 New Horizons in Fundamental Physics. Известная как «Оскар по физике», это, пожалуй, самая престижная награда, которую может получить теоретик на раннем этапе карьеры.1
Alex first saw promise for AI in theoretical physics after he asked o3 for help on his research. In the podcast, Alex recalls asking GPT for help with a calculation that would have taken days, and getting a result in eleven minutes.
Алекс впервые увидел перспективы AI в теоретической физике, когда попросил o3 помочь со своим исследованием. В подкасте Алекс вспоминает, как просил GPT помочь с вычислением, на которое ушли бы дни, и получал результат за одиннадцать минут.
He immediately recognized how impactful AI would be for his work even as though his physicist colleagues and the larger community gave it a lukewarm or skeptical reception.
Он сразу осознал, насколько серьёзным окажется влияние AI на его работу, хотя его коллеги-физики и более широкое сообщество встретили это прохладно или скептически.
The Move 37 Moment for AI x Physics
Момент Move 37 для AI x Physics
GPT-5 had just been released, and Alex tried asking it to solve a problem in a just published paper. GPT-5 said no answer. But Mark Chen, CRO of OpenAI, pushed a bit harder, and had Alex prime the model with a textbook warmup problem, which it easily solved2. After using this “priming” trick, GPT-5 was able to reproduce his full result in eleven minutes (yes, the paper was released after the model’s training cutoff).
GPT-5 только что вышел, и Алекс попробовал попросить его решить задачу из только что опубликованной статьи. GPT-5 ответил «нет решения». Но Марк Чен, CRO OpenAI, надавил чуть сильнее и предложил Алексу «разогреть» модель учебной задачей-разминкой, которую она легко решила2. После применения этого трюка с «праймингом» GPT-5 смог воспроизвести его полный результат за одиннадцать минут (да, статья вышла уже после cutoff обучения модели).
“This changes everything.” Alex notes that we seem to be on the edge of a massive change in theoretical physics reasoning. A year prior LLMs were just starting do correct math. Now ChatGPT could reproduce his hardest paper in the time it takes to get a coffee.
«Это меняет всё». Алекс отмечает, что мы, похоже, на пороге массивного сдвига в теоретико-физических рассуждениях. Год назад LLM только начинали корректно работать с математикой. Теперь ChatGPT может воспроизвести его сложнейшую статью за время, нужное на кофе.
Alex was on sabbatical at Vanderbilt, and he joined OpenAI to start pushing the boundary of AI’s ability to accelerate physics.
Алекс был в саббатикале в Vanderbilt и присоединился к OpenAI, чтобы начать раздвигать границы способности AI ускорять физику.
“AI solved the problem before the plane landed”
«AI решил задачу, прежде чем самолёт сел»
Alex began to put GPT through it’s paces, reaching out to colleagues for problems they were stuck on. His old PhD advisor (Prof. Andrew Storminger at Harvard) had an insidght about certain physical quantities known as “single-minus gluon tree amplitudes”.
Алекс начал по-настоящему испытывать GPT, обращаясь к коллегам за задачами, на которых те застряли. У его бывшего научного руководителя по PhD (проф. Эндрю Строминджер из Harvard) была интуиция насчёт определённых физических величин, известных как «single-minus gluon tree amplitudes».
In certain cases, these amplitudes may be non-zero when previously shown to always vanish3. The team pushed this intuition forward, and came up with a formula for these quantities that appeared nonzero, but which was otherwise completely intractable.
В определённых случаях эти амплитуды могут быть ненулевыми, хотя ранее считалось, что они всегда обращаются в ноль3. Команда развила эту интуицию и вывела формулу для этих величин, которая казалась ненулевой, но в остальном была совершенно неподатлива.
Spending over a year on this problem, no real progress was made.
Над этой задачей провели больше года без реального прогресса.
Prof. Storminger planned to visit OpenAI to work on the problem the week after the initial conversation started. In that one week ChatGPT fully solved the problem, as Alex recalled, before Prof. Storminger’s plane even landed.
Проф. Строминджер планировал прилететь в OpenAI, чтобы поработать над задачей через неделю после начала первоначального разговора. За эту одну неделю ChatGPT полностью решил задачу — как вспоминал Алекс, прежде чем самолёт Строминджера успел приземлиться.
What was interesting is not only that ChatGPT solved this problem, but how it solved it. The model quickly realized found a limiting case (known as the “half-collinear regime”), that in hindsight has a nice intuitive explanation4. Taking this limit, the gnarly results collapsed down to a simple and intuitive formula!
Интересно не только то, что ChatGPT решил эту задачу, но и как именно. Модель быстро нашла предельный случай (известный как «half-collinear regime»), у которого в ретроспективе есть приятное интуитивное объяснение4. Взяв этот предел, громоздкие результаты схлопнулись до простой и интуитивной формулы!
The last step was to prove this intuitive formula. The team started with a fresh session, gave a prompt with the context of what they previously learned, and let the model loose. Not only was ChatGPT able to reproduce the previous result, it was able to prove it using a technique unknown to the authors!
Последним шагом было доказать эту интуитивную формулу. Команда начала со свежей сессии, дала промпт с контекстом того, что они узнали ранее, и спустила модель с поводка. ChatGPT не только смог воспроизвести предыдущий результат — он доказал его, используя технику, неизвестную авторам!
The Vibe Physics moment
Момент Vibe Physics
With a concrete success in the bag, the team asked if they could generate new physics from scratch using ChatGPT. They took on what they felt to be a harder problem, looking at the graviton, a proposed particle that should appear when one combines gravity and quantum mechanics.5 They wrote up a simple prompt asking ChatGPT to perform the same research as the gluon paper but instead for gravitons. And then hit go!
С конкретным успехом в кармане команда задалась вопросом: можно ли с помощью ChatGPT генерировать новую физику с нуля? Они взялись за задачу, которую считали более сложной, — рассмотреть гравитон, гипотетическую частицу, которая должна появиться при объединении гравитации и квантовой механики.5 Они написали простой промпт с просьбой к ChatGPT провести то же исследование, что и в работе про глюоны, но для гравитонов. И нажали «вперёд»!
What came next was truly “vibe physics”, with ChatGPT pushing out 110 pages of novel physics, new calculations, and novel techniques. This was over the course of a day, with most interactions the familiar following the now familiar pattern for anyone who uses a coding agent:
Дальше произошла настоящая «vibe physics»: ChatGPT выкатил 110 страниц новой физики, новых вычислений и новых техник. Это заняло день, и большинство взаимодействий шло по знакомому паттерну для любого, кто пользуется кодинговым агентом:
GPT: Here's your <long, detailed, awesome result>.
Would you like me to do <another really cool thing>?
Alex: Yes, please do!
GPT: <does the really cool thing>
GPT: Вот ваш <длинный, подробный, потрясающий результат>. Хотите, чтобы я сделал <ещё одну действительно крутую вещь>? Алекс: Да, пожалуйста! GPT: <делает действительно крутую вещь>
And for those who look deeply, this really was not just a direct 1-1 mapping between gluons and gravitons. ChatGPT imported new techniques that were necessary due to the nature of gravitons, and used them flawlessly.
А для тех, кто смотрит вглубь: это действительно не было прямым отображением 1-к-1 между глюонами и гравитонами. ChatGPT импортировал новые техники, необходимые из-за природы гравитонов, и применил их безупречно.
They spent the next three weeks verifying all the results. And voila! A new paper featuring novel results in quantum gravity, generated in less than three days total. Truly a “Feel the AGI moment”.
Следующие три недели они потратили на верификацию всех результатов. И вуаля! Новая статья с новыми результатами в квантовой гравитации, созданная меньше чем за три дня в сумме. Поистине «Feel the AGI moment».
For those interested, there’s a blog post with the full transcript from initial prompt to final paper. Even if you know no physics, it’s crazy seeing pages of correct calculations fall out of simple prompts such as “Yes calculate outside of SD first. This is the first step.”
Тем, кому интересно: есть блог-пост с полным транскриптом от первоначального промпта до финальной статьи. Даже если вы не знаете физики, безумно видеть, как страницы корректных вычислений выпадают из простых промптов вроде «Да, посчитай сначала вне SD. Это первый шаг».
Out-of-domain = new knowledge
Out-of-domain = новое знание
The thing that is qualitatively different between Vibe Physics and Vibe Coding is that Vibe Physics means actually extending the frontier of human knowledge. Looking at the Gluon and Graviton results, they seem in retrospect, like many results in physics and math, like natural extensions of what we already know. This is in fact part of what makes them beautiful. But this was a problem that stumped experts in the domain for a year. Although it does still have a bit of a recombinant flavor, this thing has never been done before.
Качественное отличие Vibe Physics от Vibe Coding в том, что Vibe Physics означает реальное расширение фронтира человеческого знания. Глядя на результаты по глюонам и гравитонам, они кажутся в ретроспективе — как многие результаты в физике и математике — естественными расширениями уже известного. В этом и состоит часть их красоты. Но это была задача, поставившая в тупик экспертов на год. Хотя в ней всё ещё есть привкус рекомбинации, такого никогда раньше не делали.
It may be that there are still large classes of problems that AI won’t do well on, and approaches that an AI might not think to take. This is the “taste” that everyone has been talking about. Alex told us that these capabilities, however, allow him to explore many possible avenues in order to map out much more ambitious problems to tackle. With AI able to output results basically as fast as we can conceive and validate them, the scope of what one theorist can hope to achieve has just gotten a lot, lot bigger.
Возможно, всё ещё есть большие классы задач, в которых AI не будет хорош, и подходы, до которых AI может не додуматься. Это тот самый «вкус», о котором все говорят. Алекс рассказал нам, что эти возможности, однако, позволяют ему исследовать множество возможных направлений, чтобы намечать гораздо более амбициозные задачи для атаки. Когда AI способен выдавать результаты практически с той же скоростью, с какой мы можем их придумывать и валидировать, масштаб того, чего может надеяться достичь один теоретик, только что сильно, сильно вырос.
When doing research for this podcast, we asked AI if this was the case, and it suggested the IUPAP award, which it turns out Alex also won in 2024.
Готовя материал для этого подкаста, мы спросили AI, так ли это, и он подсказал премию IUPAP, которую Алекс, как выяснилось, тоже получил в 2024 году.
This is an interesting prompting trick. Get the model thinking along the right lines by solving an easier, but related problem.
Это интересный приём промптинга. Заставить модель думать в правильном направлении, решив более лёгкую, но связанную задачу.
To be pedantic, the original claim is still true in the case of “3+1 dimensional spacetime”, the spacetime that models our reality. The insight here was that if we have two dimensions of time and two dimensions of space, some magic happens with the math which breaks the original assumption. What does it mean to have two time dimensions and two space dimensions? This is a fun discussion we unfortunately didn’t have time to get into.
Если уж быть педантичным, исходное утверждение по-прежнему верно в случае «пространства-времени 3+1», того самого, что моделирует нашу реальность. Инсайт здесь в том, что если у нас два измерения времени и два измерения пространства, в математике происходит магия, которая ломает исходное предположение. Что значит иметь два временных и два пространственных измерения? Это весёлая дискуссия, до которой мы, к сожалению, не успели добраться.
For experts, this is the equivalent to one particle decaying into n-1 other particles.
Для экспертов: это эквивалентно одной частице, распадающейся на n-1 других частиц.
Much has been written about this particle, and there are better references than this blog. The only thing relevant for this is that gravitons are an analog to gluons, but for gravity. And that the concept of helicity is more complicated, but one can still define a meaningful analog to the gluon paper.
Об этой частице написано много, и есть лучшие источники, чем этот блог. Единственное, что здесь важно, — гравитоны являются аналогом глюонов, но для гравитации. И что понятие хиральности (helicity) сложнее, но всё же можно определить осмысленный аналог из статьи про глюоны.
Discussion about this episode
Обсуждение этого эпизода
