🔬Why There Is No "AlphaFold for Materials" — AI for Materials Discovery with Heather Kulik
Профессор Heather Kulik из MIT — одна из первых, кто стал применять вычислительные методы и data-driven моделирование в материаловедении задолго до хайпа вокруг AI for science. Её группа недавно использовала AI для проектирования новых полимеров: модель обнаружила квантово-механический эффект, и синтезированный материал оказался в четыре раза прочнее. Kulik объясняет, почему «момента AlphaFold» в материаловедении пока нет: датасеты сильно отстают от биологии (в основном шумные DFT-расчёты), а пространство дизайна несравнимо шире — каждый элемент несёт новую химию без переносимости, в отличие от двадцати аминокислот. Она также делится «тестом на лиганд из 22 тяжёлых атомов», который LLM до сих пор стабильно проваливают для MOF, хотя справляются для киназ. Отдельный сюжет — извлечение данных из научной литературы с помощью LLM, где часто всплывают расхождения между числами в тексте и графиками. Главный вывод: в эпоху, когда стартапы и гиперскейлеры вкладывают сотни миллионов в AI-for-science, академическим учёным нужны и ресурсы, и любопытство к задачам, до которых ещё не добрались хорошо капитализированные игроки.
🔬Почему не существует «AlphaFold для материалов» — AI для открытия материалов с Heather Kulik
Материаловедение — невоспетый герой мира науки. За каждым физическим продуктом, с которым вы взаимодействуете, стоят десятилетия исследований, чтобы добиться нужных свойств материалов. В вашей спортивной одежде — синтетические волокна, разработанные десятилетиями. Стеклянный экран, диоды и подложки чипов, нужные для чтения этого поста, стали возможны только благодаря многим командам материаловедов.
Наша гостья проф. Heather Kulik — одна из первых материаловедов, кто осознал, что есть альфа в сочетании вычислительных инструментов с data-driven моделированием — 1она занималась AI for science ещё до того, как это стало модным. У неё выстраданная точка зрения на то, как преуспеть в этой области. Да, она считает, что победы реальны. Чтобы их добиться, нужно много работать, глубоко интегрируя доменную экспертизу с AI-методами, и сохранять критический ум. В конечном счёте важно то, что вы добиваетесь успеха в лаборатории, а природе всё равно, насколько хайповая у вас модель. Эти уроки лично откликнулись Science-команде Latent.Space и нашему собственному опыту2.
Этот эпизод обязателен к просмотру для всех начинающих практиков AI for science. Несколько ключевых моментов:
Проектирование новых полимеров с помощью AI: Группа Heather недавно использовала AI для разработки новых полимеров, которые значительно прочнее. Эти материалы были созданы и протестированы в лаборатории, и учёные, которые их сделали, были удивлены полученными конструкциями. AI понял, что определённые строительные блоки могут разрушаться новым способом. AI открыл чисто квантово-механический эффект, и после того, как удалось убедить коллег по лаборатории действительно синтезировать его, материал оказался в четыре раза прочнее!
Задача о лиганде из двадцати двух атомов: На вопрос о роли и необходимости человеческих учёных Heather указывает, что AI обладает сильным пониманием академической химии, но ему всё ещё не хватает интуиции. Каждый раз, когда выходит обновление LLM, Heather просит её спроектировать лиганд, содержащий ровно двадцать два тяжёлых атома. Она пока не нашла модели, которая справилась бы с этой казалось бы простой задачей, которую любой эксперт решает за секунду! Не химический ли это аналог подсчёта букв «r» в слове strawberry?
Заметка на полях: Heather пошутила, что этот комментарий устареет немедленно, поэтому мы решили проверить, остаётся ли это правдой через три месяца3 после записи. Мы обнаружили интересные результаты! Мы попросили и Claude, и ChatGPT спроектировать лиганд из 22 атомов как для metal-organic framework (MOF), так и для белка-киназы. Для киназы обе модели справились правильно: Claude вытащил RDKit в python-скрипте и итерировал по нескольким вариантам, тогда как ChatGPT решил задачу с первого выстрела. Для MOF обе модели ошиблись, генерируя лиганды с 21, 23 или 24 атомами, но упорно не выдавая 22 атома. Есть ли что-то отличное в том, как LLM рассуждают в материаловедении и в биологии?
Материалы vs биология: Две крупнейшие области AI в науке — это биология и материалы. Мы спросили Heather, может ли случиться момент AlphaFold для материалов. Её ответ переосмысливает то, как нам следует думать об этом поле:
Во-первых, датасеты в материаловедении удручающе слабы по сравнению с биологическим миром. Ближе всего к ground truth в большинстве случаев — шумные DFT-датасеты. А ведь это лишь приближения к реальному миру! Точные же датасеты все скучные, как метко выразилась Heather: «У нас есть действительно хорошие датасеты для действительно скучной химии». Более того, хорошие экспериментальные структуры труднодоступны и требуют интерпретации. Поэтому генерация качественных, новых датасетов в масштабе действительно двинула бы поле вперёд. С более философской точки зрения, AlphaFold делает предсказания в довольно ограниченном пространстве: аминокислот всего двадцать. Конечно, даже здесь AlphaFold не всегда прав, но представляется правдоподобным, что можно выучить всё пространство дизайна. В материалах же каждый элемент — это новый набор взаимодействий и химии, практически без переносимости. Это огромная открытая проблема в материаловедении, над которой, мы надеемся, захотят поработать самые умные AI-учёные!
Трудности доверия литературе: Команда Heather последние несколько лет использовала NLP, а затем LLM для извлечения данных из научной литературы. Даже несколько тысяч точек данных из этих статей могут быть ценными для направления работы её группы. Один удивительный результат: иногда заявленные значения какого-то свойства (скажем, температуры) не совпадают с графиками в тех же статьях! Так что в использовании LLM для добычи данных из литературы есть большой потенциал — просто делайте это аккуратно.
Роль академии в постоянно меняющемся мире: Одна из тем, проходящих через многие наши разговоры, — изменение роли академического работника и учёного в науке. Когда стартапы привлекают сотни миллионов долларов, а гиперскейлеры и Big Pharma наращивают свои усилия в AI-for-science, академическому исследователю как никогда нужны и ресурсы, и суждение о том, какие проблемы стоит преследовать.
К ресурсам относятся данные, организованные для машинного обучения, доступ к лабораториям высокопроизводительных экспериментов и вычислительные ресурсы. Это всё то, что академики могут строить вместе. Что ещё важнее, Heather подчёркивает любопытство к проблемам, которые ещё не попали в поле зрения хорошо капитализированных AI-компаний. После стольких лет на переднем крае AI for Science её мнение о том, что химической инженерии и материаловедению по-прежнему нужны любопытные люди, задающие вопросы без ясного пути к деньгам, — это желанный маяк в AI-тумане.
Полная видеоверсия подкаста
Доступна на Youtube!
Я правда люблю длинные тире — не LLM, клянусь!
У Heather есть отличная статья, в которой она делится гораздо большим из своего пути и уроков, чем мы могли бы охватить здесь в подкасте.
Мы становимся быстрее с релизами, извини, Heather, что так долго!
Обсуждение этого эпизода