🔬Why There Is No "AlphaFold for Materials" — AI for Materials Discovery with Heather Kulik
Профессор Heather Kulik из MIT — одна из первых, кто стал применять вычислительные методы и data-driven моделирование в материаловедении задолго до хайпа вокруг AI for science. Её группа недавно использовала AI для проектирования новых полимеров: модель обнаружила квантово-механический эффект, и синтезированный материал оказался в четыре раза прочнее. Kulik объясняет, почему «момента AlphaFold» в материаловедении пока нет: датасеты сильно отстают от биологии (в основном шумные DFT-расчёты), а пространство дизайна несравнимо шире — каждый элемент несёт новую химию без переносимости, в отличие от двадцати аминокислот. Она также делится «тестом на лиганд из 22 тяжёлых атомов», который LLM до сих пор стабильно проваливают для MOF, хотя справляются для киназ. Отдельный сюжет — извлечение данных из научной литературы с помощью LLM, где часто всплывают расхождения между числами в тексте и графиками. Главный вывод: в эпоху, когда стартапы и гиперскейлеры вкладывают сотни миллионов в AI-for-science, академическим учёным нужны и ресурсы, и любопытство к задачам, до которых ещё не добрались хорошо капитализированные игроки.
🔬Why There Is No "AlphaFold for Materials" — AI for Materials Discovery with Heather Kulik
🔬Почему не существует «AlphaFold для материалов» — AI для открытия материалов с Heather Kulik
Materials science is the unsung hero of the science world. Behind every physical product you interact was decades of research into getting the properties of materials just right. Your gym clothes contain synthetic fibers developed over decades. The glass screen, diodes, and chip substrate technology needed to read this blog post were only viable due to many teams of material scientists.
Материаловедение — невоспетый герой мира науки. За каждым физическим продуктом, с которым вы взаимодействуете, стоят десятилетия исследований, чтобы добиться нужных свойств материалов. В вашей спортивной одежде — синтетические волокна, разработанные десятилетиями. Стеклянный экран, диоды и подложки чипов, нужные для чтения этого поста, стали возможны только благодаря многим командам материаловедов.
Our guest Prof. Heather Kulik was one of the first material scientists to realize that there was alpha in combining computational tools with data driven modeling — 1she did AI for science before it was cool. She has a hard-fought perspective for how to succeed in this field. Yes, she believes the wins are real. To get there you must work hard to deeply integrate domain expertise with AI techniques, and also maintain a discriminating mind. Ultimately what matters is you succeed in the lab, and nature doesn’t care about how hyped a model is. These lessons personally resonated with the Latent.Space Science team and our own experience2.
Наша гостья проф. Heather Kulik — одна из первых материаловедов, кто осознал, что есть альфа в сочетании вычислительных инструментов с data-driven моделированием — 1она занималась AI for science ещё до того, как это стало модным. У неё выстраданная точка зрения на то, как преуспеть в этой области. Да, она считает, что победы реальны. Чтобы их добиться, нужно много работать, глубоко интегрируя доменную экспертизу с AI-методами, и сохранять критический ум. В конечном счёте важно то, что вы добиваетесь успеха в лаборатории, а природе всё равно, насколько хайповая у вас модель. Эти уроки лично откликнулись Science-команде Latent.Space и нашему собственному опыту2.
This episode is a must watch for all aspiring AI for science practitioners. A few highlights:
Этот эпизод обязателен к просмотру для всех начинающих практиков AI for science. Несколько ключевых моментов:
Designing new polymers with AI: Heather’s group recently used AI to design new polymers that are significantly stronger. These materials were created and tested in the lab, and the scientists who built them were surprised by the designs. The AI had figured out certain building blocks could break in a novel way. The AI discovered a purely quantum mechanical effect, and after convincing their lab collaborators to actually synthesize it, the material turned out to be four times tougher!
Проектирование новых полимеров с помощью AI: Группа Heather недавно использовала AI для разработки новых полимеров, которые значительно прочнее. Эти материалы были созданы и протестированы в лаборатории, и учёные, которые их сделали, были удивлены полученными конструкциями. AI понял, что определённые строительные блоки могут разрушаться новым способом. AI открыл чисто квантово-механический эффект, и после того, как удалось убедить коллег по лаборатории действительно синтезировать его, материал оказался в четыре раза прочнее!
The twenty-two-atom ligand challenge: When asked about the role and need of human scientists, Heather points out that AI has a strong understanding of academic chemistry, but is still lacking intuition. Every time an LLM is updated, Heather asks it to design a ligand that contains exactly twenty-two heavy atoms. She has yet to find one that can succeed at this seemingly simple task that any expert could do in a second! Is this the chemistry counterpart to counting ‘r’s in strawberry?
Задача о лиганде из двадцати двух атомов: На вопрос о роли и необходимости человеческих учёных Heather указывает, что AI обладает сильным пониманием академической химии, но ему всё ещё не хватает интуиции. Каждый раз, когда выходит обновление LLM, Heather просит её спроектировать лиганд, содержащий ровно двадцать два тяжёлых атома. Она пока не нашла модели, которая справилась бы с этой казалось бы простой задачей, которую любой эксперт решает за секунду! Не химический ли это аналог подсчёта букв «r» в слове strawberry?
Side note: Heather joked that this comment would date itself immediately, so we decided to see if this was still true three months3 after recording. We found some interesting results! We asked both Claude and ChatGPT to design a 22 atom ligand for both a metal-organic framework (MOF) and a Kinase protein.
For the Kinase, both models got it right: Claude pulled out RDKit in a python script and iterated on several designs, whereas ChatGPT just one-shotted it.
For MOFs, both models got it wrong, generating ligands with 21, 23, or 24 atoms, yet stubbornly not getting 22 atoms.
Is there something different about how LLMs reason in the materials and bio domains?
Заметка на полях: Heather пошутила, что этот комментарий устареет немедленно, поэтому мы решили проверить, остаётся ли это правдой через три месяца3 после записи. Мы обнаружили интересные результаты! Мы попросили и Claude, и ChatGPT спроектировать лиганд из 22 атомов как для metal-organic framework (MOF), так и для белка-киназы. Для киназы обе модели справились правильно: Claude вытащил RDKit в python-скрипте и итерировал по нескольким вариантам, тогда как ChatGPT решил задачу с первого выстрела. Для MOF обе модели ошиблись, генерируя лиганды с 21, 23 или 24 атомами, но упорно не выдавая 22 атома. Есть ли что-то отличное в том, как LLM рассуждают в материаловедении и в биологии?
Materials vs biology: The two biggest domains of AI in science have been biology and materials. We asked Heather if there could be an AlphaFold moment for materials. Her answer reframes how we should think about the field:
Материалы vs биология: Две крупнейшие области AI в науке — это биология и материалы. Мы спросили Heather, может ли случиться момент AlphaFold для материалов. Её ответ переосмысливает то, как нам следует думать об этом поле:
First, the datasets in material science are woefully lacking in comparison to the bio world. The closest to ground truth in most cases are noisy DFT datasets. These are just approximations to the real world! The datasets that are accurate are all boring, as Heather quipped “We have really good datasets for really boring chemistry.” Furthermore, good experimental structures are hard to come by and require interpretation. So generating generating high-quality, novel datasets at scale would really drive the field forward.
More philosophically, AlphaFold is making predictions in a fairly limited space: there are just twenty amino acids. Sure, even here AlphaFold doesn’t get everything right, but it seems plausible that one could learn the entire design space. For materials, each element is a new set of interactions and chemistry, with little to no transferability. This is a massive open problem in material science that we hope some of the smartest AI scientists will want to work on!
Во-первых, датасеты в материаловедении удручающе слабы по сравнению с биологическим миром. Ближе всего к ground truth в большинстве случаев — шумные DFT-датасеты. А ведь это лишь приближения к реальному миру! Точные же датасеты все скучные, как метко выразилась Heather: «У нас есть действительно хорошие датасеты для действительно скучной химии». Более того, хорошие экспериментальные структуры труднодоступны и требуют интерпретации. Поэтому генерация качественных, новых датасетов в масштабе действительно двинула бы поле вперёд. С более философской точки зрения, AlphaFold делает предсказания в довольно ограниченном пространстве: аминокислот всего двадцать. Конечно, даже здесь AlphaFold не всегда прав, но представляется правдоподобным, что можно выучить всё пространство дизайна. В материалах же каждый элемент — это новый набор взаимодействий и химии, практически без переносимости. Это огромная открытая проблема в материаловедении, над которой, мы надеемся, захотят поработать самые умные AI-учёные!
The difficulties of trusting the literature: Heather’s team has spent the last few years using NLP and later LLMs to extract data from literature. Even a few thousand data points from these papers can be valuable for guiding her group’s work. One surprising result: sometimes the reported values for a property (say temperature) do not match up with the graphs in the papers! So there’s lots of potential in using LLMs to mine data from the literature, just do it with care.
Трудности доверия литературе: Команда Heather последние несколько лет использовала NLP, а затем LLM для извлечения данных из научной литературы. Даже несколько тысяч точек данных из этих статей могут быть ценными для направления работы её группы. Один удивительный результат: иногда заявленные значения какого-то свойства (скажем, температуры) не совпадают с графиками в тех же статьях! Так что в использовании LLM для добычи данных из литературы есть большой потенциал — просто делайте это аккуратно.
The role of academia in an ever-changing world: One theme that has been running through many of our conversations has been the changing role of the academic — and the scientist — in science. When startups are raising $100s of millions and hyperscalers and Big Pharma are all ramping up AI-for-science efforts, the academic researcher needs both resources and judgement about problems to chase more than ever.
Роль академии в постоянно меняющемся мире: Одна из тем, проходящих через многие наши разговоры, — изменение роли академического работника и учёного в науке. Когда стартапы привлекают сотни миллионов долларов, а гиперскейлеры и Big Pharma наращивают свои усилия в AI-for-science, академическому исследователю как никогда нужны и ресурсы, и суждение о том, какие проблемы стоит преследовать.
Resources include data that is organized for machine learning, access to high throughput experimentation labs, and compute resources. These are all things that academics can build together. More importantly, Heather emphasizes curiosity about problems that haven’t hit the radar of the heavily capitalized AI companies. After so many years on the forefront of AI for Science, Heather’s judgement that Chemical Engineering and Material Science still need curious people asking questions with no clear path to money is a welcome beacon in the AI fog.
К ресурсам относятся данные, организованные для машинного обучения, доступ к лабораториям высокопроизводительных экспериментов и вычислительные ресурсы. Это всё то, что академики могут строить вместе. Что ещё важнее, Heather подчёркивает любопытство к проблемам, которые ещё не попали в поле зрения хорошо капитализированных AI-компаний. После стольких лет на переднем крае AI for Science её мнение о том, что химической инженерии и материаловедению по-прежнему нужны любопытные люди, задающие вопросы без ясного пути к деньгам, — это желанный маяк в AI-тумане.
Full Video podcast
Полная видеоверсия подкаста
I really like em-dashes — not an llm I swear!
Я правда люблю длинные тире — не LLM, клянусь!
Heather has a great article that shares far more of her journey and lessons than we could ever cover here on the pod.
У Heather есть отличная статья, в которой она делится гораздо большим из своего пути и уроков, чем мы могли бы охватить здесь в подкасте.
We’re getting faster at releasing, sorry it took so long Heather!
Мы становимся быстрее с релизами, извини, Heather, что так долго!
Discussion about this episode
Обсуждение этого эпизода
