🔬 Training Transformers to solve 95% failure rate of Cancer Trials — Ron Alfa & Daniel Bear, Noetik

🔬 Training Transformers to solve 95% failure rate of Cancer Trials — Ron Alfa & Daniel Bear, Noetik

🔬 Обучаем трансформеры, чтобы решить проблему 95%-го провала онкологических клинических испытаний — Ron Alfa и Daniel Bear, Noetik

Today, we explain this piece of “clickbait” from our guest!

Сегодня мы объясняем этот «кликбейт» от нашего гостя!

TL;DR: 95% of cancer treatments fail to pass clinical trials, but it may be a matching problem — if we better understood what patients have which tumors which will respond to which treatments, success rates improve dramatically and millions of lives can be saved — with the treatments we ALREADY have.

TL;DR: 95% методов лечения рака не проходят клинические испытания, но, возможно, это проблема сопоставления — если бы мы лучше понимали, у каких пациентов какие опухоли и какие из них откликнутся на какое лечение, показатели успеха резко выросли бы и можно было бы спасти миллионы жизней — теми методами лечения, которые у нас УЖЕ есть.

See our full episode dropping today:

Смотрите наш полный выпуск, который выходит сегодня:

Why Big Pharma is licensing AI Models

Почему Big Pharma лицензирует AI-модели

Tolstoy famously wrote, ‘All healthy cells are alike; each cancer cell is unhappy in its own way.’ Or something like that. Cancer might be the most misunderstood disease out there. It’s not one disease, it’s a family of diseases. Hundreds, maybe thousands, of unique diseases each with its own underlying biology. With this lens, saying you’ll “cure cancer” is like saying you’ll solve legos.

Толстой, как известно, писал: «Все здоровые клетки похожи друг на друга; каждая раковая клетка несчастна по-своему». Ну, или что-то в этом роде. Рак — пожалуй, самая неправильно понимаемая болезнь на свете. Это не одна болезнь, а целое семейство болезней. Сотни, а может, и тысячи уникальных заболеваний, у каждого из которых своя биология. С этой точки зрения сказать, что вы «вылечите рак», — всё равно что сказать, что вы «решите лего».

We keep hearing AI will cure cancer, but sadly it may not be so easy. Today’s guests — Ron Alfa and Daniel Bear from Noetik — thinks they can use AI to break through a core bottleneck in the treatment development process.

Мы постоянно слышим, что AI вылечит рак, но, к сожалению, всё может быть не так просто. Сегодняшние гости — Ron Alfa и Daniel Bear из Noetik — считают, что могут использовать AI, чтобы преодолеть ключевое узкое место в процессе разработки лечения.

GSK recently signed a $50M deal for their technology that also includes an (undisclosed) long-term licensing deals for Noetik’s models like the recently announced TARIO-2, an autoregressive transformer trained on one of the largest sets of tumor spatial transcriptomics datasets in the world. Whole-plex spatial transcriptomics is the richest way to read a tumor, and approximately ~0% of cancer patients going through standard care ever get one — and TARIO-2 can now predict an ~19,000-gene spatial map from the H&E assay every patient already has.

GSK недавно подписала сделку на $50 млн на их технологию, которая также включает (нераскрытые) долгосрочные лицензионные соглашения на модели Noetik, такие как недавно представленная TARIO-2 — авторегрессионный трансформер, обученный на одном из крупнейших в мире наборов данных пространственной транскриптомики опухолей. Полноплексная пространственная транскриптомика — самый богатый способ «прочитать» опухоль, и примерно ~0% онкологических пациентов, проходящих стандартное лечение, когда-либо получают её — а TARIO-2 теперь может предсказать пространственную карту примерно из ~19 000 генов на основе H&E-анализа, который уже есть у каждого пациента.

Most big AI plays in BioTech have focused on discovery, and usually result in an in-house development effort (meaning tools companies usually become drug companies). This deal stands out in that it is a software licensing deal, and represents a commitment to a platform rather than a drug.

Большинство крупных AI-проектов в биотехе сосредоточены на поиске (discovery) и обычно выливаются в собственную разработку препаратов (то есть компании-инструменты обычно превращаются в фармкомпании). Эта сделка выделяется тем, что это сделка по лицензированию ПО и представляет собой ставку на платформу, а не на препарат.

With attention on other software tools for drug development (see the Boltz episode and Isomorphic for example), it is starting to look like the appetite of Pharma for biotech tools has finally started to grow. Why the sudden interest?

На фоне внимания к другим программным инструментам для разработки лекарств (см., например, выпуск про Boltz и Isomorphic) начинает казаться, что аппетит фармы к биотех-инструментам наконец-то начал расти. Почему вдруг такой интерес?

Cancer is hard

Рак — это сложно

Biology is hard, cancer is harder. But despite this, we’ve made incredible progress. So many cancers that would have been death sentences twenty years ago are routinely survivable. It used to be our main strategy was just chemotherapy — poison you and hope the tumor dies before you do. Now, there are many treatments that actually kill a tumor and leave the rest of you intact! Immune checkpoint inhibitors like Keytruda and Opdivo target the defenses of dozens of tumor types. CAR-T therapy adds modified T-cells to your blood that can target B-cell malignancies very accurately. Antibody Drug Conjugates such as Trastuzumab combine a drug with an antibody, allowing it to target very specific (cancer) cells. We truly live in marvelous times.

Биология — это сложно, рак — ещё сложнее. Но, несмотря на это, мы добились невероятного прогресса. Множество видов рака, которые двадцать лет назад были смертным приговором, теперь рутинно излечимы. Раньше нашей основной стратегией была просто химиотерапия — отравить вас и надеяться, что опухоль умрёт раньше, чем вы. Теперь есть множество методов лечения, которые действительно убивают опухоль, оставляя остальной организм целым! Ингибиторы иммунных контрольных точек, такие как Keytruda и Opdivo, нацелены на защитные механизмы десятков типов опухолей. CAR-T-терапия добавляет в вашу кровь модифицированные T-клетки, которые могут очень точно поражать B-клеточные злокачественные опухоли. Конъюгаты антитело-лекарство, такие как Trastuzumab, объединяют препарат с антителом, что позволяет ему нацеливаться на очень специфические (раковые) клетки. Мы воистину живём в удивительные времена.

With that said, we still have a long way to go. For every type of cancer with a miracle treatment, we have many more that are still death sentences. The world spends $20-30 billion a year trying to cure cancers, with hundreds of clinical trials yearly.Yet, progress is slow with a 95% failure rate in clinical trials.

Тем не менее, нам ещё предстоит долгий путь. На каждый вид рака с чудо-лечением приходится множество тех, что по-прежнему остаются смертным приговором. Мир тратит $20-30 млрд в год, пытаясь вылечить рак, проводя ежегодно сотни клинических испытаний. И всё же прогресс медленный, с 95%-м уровнем провала клинических испытаний.

The lab doesn’t translate to the clinic

Лаборатория не переносится в клинику

Are we leaving something on the table? Enter Noetik and Ron Alfa. Ron’s core thesis is that many of these “failed” treatments actually work! But we’re not looking at the right patients with the right tumors. If only we had a way to really understand the unique types of cancer biologies and which patients will respond to which treatments, we might be able to show a much higher success rate. Millions of lives (and billions of dollars) may ride on this.

Может, мы что-то упускаем? На сцену выходят Noetik и Ron Alfa. Основной тезис Рона в том, что многие из этих «провальных» методов лечения на самом деле работают! Просто мы смотрим не на тех пациентов и не на те опухоли. Если бы у нас был способ действительно понять уникальные типы раковых биологий и то, какие пациенты откликнутся на какое лечение, мы могли бы показать гораздо более высокий уровень успеха. На кону могут стоять миллионы жизней (и миллиарды долларов).

The Hard part: Blind Faith in Data Collection

Сложная часть: слепая вера в сбор данных

Ron and Noetik had the conviction to spend almost two years just collecting data. Lots, and lots, and lots, of data. Noetik has acquired thousands of actual human tumors, and collects a large multimodal dataset1 of hundreds of millions of images that allows them to create a detailed map of the cell makeup in the local environment.2 These are real human tumors, not frankenstein mouse models or immortal cell lines.

У Рона и Noetik хватило убеждённости, чтобы потратить почти два года только на сбор данных. Много, много, очень много данных. Noetik приобрела тысячи настоящих человеческих опухолей и собирает большой мультимодальный набор данных1 из сотен миллионов изображений, что позволяет им создать детальную карту клеточного состава локального окружения.2 Это настоящие человеческие опухоли, а не франкенштейновские мышиные модели или бессмертные клеточные линии.

This data is then fed into a massive self-supervised model, creating a “virtual cell”. This model has a deep understanding of cancer biology — Noetik has worked carefully to show it can distinguish different types of tumors. Maybe even tumors we didn’t identify as distinct previously! More recently they figured out how to scale up their model and data, and see no limit in their scaling laws!

Затем эти данные подаются в массивную самообучающуюся (self-supervised) модель, создавая «виртуальную клетку». Эта модель глубоко понимает биологию рака — Noetik тщательно поработала, чтобы показать, что она способна различать разные типы опухолей. Возможно, даже опухоли, которые мы раньше не выделяли как различные! Совсем недавно они придумали, как масштабировать свою модель и данные, и не видят предела в своих законах масштабирования!

Noetik’s models can simulate how a patient will respond to experimental treatments. They are working with partners to test promising drugs that were demonstrated to be safe, but not effective. If these models work as hoped, Noetik will bring new cancer treatments to patients without developing a new drug! Their models will also guide the discovery process towards drugs that are more likely to make it through clinical trials. You can imagine why this is so attractive to GSK.

Модели Noetik могут симулировать, как пациент отреагирует на экспериментальное лечение. Они работают с партнёрами, чтобы протестировать перспективные препараты, которые оказались безопасными, но неэффективными. Если эти модели сработают так, как ожидается, Noetik сможет принести пациентам новые методы лечения рака, не разрабатывая нового препарата! Их модели также будут направлять процесс поиска в сторону препаратов, которые с большей вероятностью пройдут клинические испытания. Можно понять, почему это так привлекательно для GSK.

We’ll see…

Посмотрим…

Ron and Dan make pretty persuasive arguments that their models will truly assist in cohort selection in useful ways and this seems valuable. And we think it’s pretty clear that

Рон и Дэн приводят довольно убедительные аргументы в пользу того, что их модели действительно помогут в отборе когорт пациентов полезными способами, и это кажется ценным. И нам кажется довольно очевидным, что

Перенос из лаборатории в клинику — самое большое узкое место в разработке лекарств. Более качественный отбор когорт с использованием биомаркеров, вероятно, улучшит перенос из лаборатории в клинику.

Noetik has already had some success here. We’ll see if they’re able to translate that into a reliable advantage.

У Noetik здесь уже есть определённые успехи. Посмотрим, смогут ли они превратить это в надёжное преимущество.

Stepping back a bit from the technology, curing cancer is a pretty unambiguously positive application of AI. It is also a very hard problem to solve. Our guess is that most people have been impacted by cancer or will be at some point soon. And we hope that learning about the amazing work that companies like Noetik are doing will inspire a generation of AI engineers to work on the hardest and most exciting problems that society faces.

Если отступить немного от технологии, лечение рака — довольно однозначно положительное применение AI. И при этом это очень трудная задача. Мы предполагаем, что большинство людей либо уже столкнулись с раком, либо столкнутся в какой-то момент в скором будущем. И мы надеемся, что рассказ об удивительной работе, которую делают такие компании, как Noetik, вдохновит поколение AI-инженеров браться за самые трудные и волнующие проблемы, стоящие перед обществом.

Full Video Pod:

Полный видеоподкаст:

Their spatial transcriptomics dataset features over 1000 “channels”, that’s quite a feat!

Их набор данных по пространственной транскриптомике содержит более 1000 «каналов» — это серьёзное достижение!

For those experts in the audience, the four modalities Noetik collects data on are: spatial transcriptomics, spatial proteomics, H&E imaging, and whole exome sequencing.

Для экспертов в аудитории: четыре модальности, по которым Noetik собирает данные, — это пространственная транскриптомика, пространственная протеомика, H&E-визуализация и полноэкзомное секвенирование.

Discussion about this episode

Обсуждение этого выпуска