An Open Course on LLMs, Led by Practitioners
Hamel Husain и Dan выпускают «Mastering LLMs» — бесплатный открытый набор воркшопов и докладов от практиков по таким темам, как evals, retrieval-augmented-generation (RAG), fine-tuning и другим. Курс ведут более 25 ветеранов индустрии, экспертов в информационном поиске, machine learning, рекомендательных системах, MLOps и data science, которые объясняют, как применить накопленный опыт к LLM. Это обзорный курс для технических специалистов (инженеров и data scientist'ов), уже имеющих опыт с LLM и желающих улучшить свои AI-продукты, содержащий более 40 часов материала. Контент организован по предметным областям, снабжён резюме глав, заметками, слайдами и ресурсами. Курс вырос из платной программы, в первом потоке которой было более 2000 студентов, и сопровождается отзывами участников из Meta и других компаний.
Today, we are releasing Mastering LLMs, a set of workshops and talks from practitioners on topics like evals, retrieval-augmented-generation (RAG), fine-tuning and more. This course is unique because it is:
Сегодня мы выпускаем Mastering LLMs — набор воркшопов и докладов от практиков по таким темам, как evals, retrieval-augmented-generation (RAG), fine-tuning и другие. Этот курс уникален, потому что он:
Ведётся более чем 25 ветеранами индустрии, которые являются экспертами в информационном поиске, machine learning, рекомендательных системах, MLOps и data science. Мы обсуждаем, как этот прежний опыт можно применить к LLM, чтобы дать вам значимое преимущество. Сфокусирован на прикладных темах, актуальных для тех, кто создаёт AI-продукты. Бесплатный и открытый для всех .
We have organized and annotated the talks from our popular paid course.1 This is a survey course for technical ICs (including engineers and data scientists) who have some experience with LLMs and need guidance on how to improve AI products.
Мы организовали и снабдили аннотациями доклады из нашего популярного платного курса.1 Это обзорный курс для технических ICs (включая инженеров и data scientist'ов), которые имеют некоторый опыт с LLM и нуждаются в рекомендациях, как улучшить AI-продукты.
Getting The Most Value From The Course
Как извлечь максимум пользы из курса
Prerequisites
Предварительные требования
The course assumes basic familiarity with LLMs. If you do not have any experience, we recommend watching A Hacker’s Guide to LLMs. We also recommend the tutorial Instruction Tuning llama2 if you are interested in fine-tuning 2.
Курс предполагает базовое знакомство с LLM. Если у вас нет никакого опыта, мы рекомендуем посмотреть A Hacker’s Guide to LLMs. Мы также рекомендуем туториал Instruction Tuning llama2, если вас интересует fine-tuning 2.
Navigating The Material
Навигация по материалу
The course has over 40 hours of content. To help you navigate this, we provide:
Курс содержит более 40 часов контента. Чтобы помочь вам ориентироваться в нём, мы предоставляем:
Организацию по предметным областям: evals, RAG, fine-tuning, создание приложений и prompt engineering. Резюме глав: быстро просматривайте темы каждого доклада и пропускайте вперёд Заметки, слайды и ресурсы: это материалы, использованные в докладе, а также ресурсы для углублённого изучения. Часто у нас есть и подробные заметки!
To get started, navigate to this page and explore topics that interest you. Feel free to skip sections that aren’t relevant to you. We’ve organized the talks within each subject to enhance your learning experience. Be sure to review the chapter summaries, notes, and resources, which are designed to help you focus on the most relevant content and dive deeper when needed. This is a survey course, which means we focus on introducing topics rather than diving deeply into code. To solidify your understanding, we recommend applying what you learn to a personal project.
Чтобы начать, перейдите на эту страницу и изучите интересующие вас темы. Не стесняйтесь пропускать разделы, которые вам не релевантны. Мы организовали доклады внутри каждой темы так, чтобы улучшить ваш опыт обучения. Обязательно просматривайте резюме глав, заметки и ресурсы — они призваны помочь вам сфокусироваться на наиболее релевантном контенте и углубиться, когда это нужно. Это обзорный курс, а значит мы фокусируемся на знакомстве с темами, а не на глубоком погружении в код. Чтобы закрепить понимание, мы рекомендуем применять изученное к личному проекту.
What Students Are Saying
Что говорят студенты
Here are some testimonials from students who have taken the course3:
Вот несколько отзывов от студентов, прошедших курс3:
Sanyam Bhutani, Partner Engineer @ Meta
Sanyam Bhutani, Partner Engineer @ Meta
There was a magical time in 2017 when fastai changed the deep learning world. This course does the same by extending very applied knowledge to LLMs Best in class teachers teach you their knowledge with no fluff
В 2017 году было волшебное время, когда fastai изменил мир deep learning. Этот курс делает то же самое, распространяя сугубо прикладные знания на LLM. Лучшие в своём деле преподаватели передают вам свои знания без воды
Laurian, Full Stack Computational Linguist
Laurian, Full Stack Computational Linguist
This course was legendary, still is, and the community on Discord is amazing. I’ve been through these lessons twice and I have to do it again as there are so many nuances you will get once you actually have those problems on your own deployment.!
Этот курс был легендарным, остаётся таким и сейчас, а сообщество в Discord потрясающее. Я прошёл эти уроки дважды, и мне придётся сделать это снова, потому что есть так много нюансов, которые вы поймёте только когда сами столкнётесь с этими проблемами на собственном деплое!
Andre, CTO
Andre, CTO
Amazing! An opinionated view of LLMs, from tools to fine-tuning. Excellent speakers, giving some of the best lectures and advice out there! A lot of real-life experiences and tips you can’t find anywhere on the web packed into this amazing course/workshop/conference! Thanks Dan and Hamel for making this happen!
Потрясающе! Уверенный взгляд на LLM — от инструментов до fine-tuning. Превосходные спикеры, дающие одни из лучших лекций и советов из существующих! Масса реального опыта и подсказок, которые не найти больше нигде в сети, упакованы в этот замечательный курс/воркшоп/конференцию! Спасибо Dan и Hamel за то, что сделали это возможным!
Marcus, Software Engineer
Marcus, Software Engineer
The Mastering LLMs conference answered several key questions I had about when to fine-tune base models, building evaluation suits and when to use RAG. The sessions provided a valuable overview of the technical challenges and considerations involved in building and deploying custom LLMs.
Конференция Mastering LLMs ответила на несколько ключевых вопросов, которые у меня были: когда стоит делать fine-tune базовых моделей, как строить наборы для оценки (evaluation suites) и когда использовать RAG. Сессии дали ценный обзор технических сложностей и соображений, связанных с созданием и развёртыванием кастомных LLM.
Ali, Principal & Founder, SCTY
Ali, Principal & Founder, SCTY
The course that became a conference, filled with a lineup of renowned practitioners whose expertise (and contributions to the field) was only exceeded by their generosity of spirit.
Курс, который превратился в конференцию, наполненную составом из именитых практиков, чья экспертиза (и вклад в область) уступала разве что их щедрости духа.
Lukas, Software Engineer
Lukas, Software Engineer
The sheer amount of diverse speakers that cover the same topics from different approaches, both praising and/or degrading certain workflows makes this extremely valuable. Especially when a lot of information online, is produced by those, who are building a commercial product behind, naturally is biased towards a fine tune, a RAG, an open source LLM, an open ai LLM etc. It is rather extra ordinary to have a variety of opinions packed like this. Thank you!
Само количество разнообразных спикеров, которые раскрывают одни и те же темы с разных подходов, как восхваляя, так и/или критикуя определённые рабочие процессы, делает это чрезвычайно ценным. Особенно когда много информации в интернете производится теми, кто строит за этим коммерческий продукт, и потому естественным образом смещено в сторону fine-tune, RAG, open source LLM, LLM от open ai и так далее. Довольно необычно иметь такое разнообразие мнений, упакованных вместе. Спасибо!
Stay Connected
Оставайтесь на связи
I’m continuously learning about LLMs, and enjoy sharing my findings and thoughts. If you’re interested in this journey, consider subscribing.
Я непрерывно изучаю LLM и с удовольствием делюсь своими находками и мыслями. Если вам интересно это путешествие, подумайте о подписке.
What to expect:
Чего ожидать:
Периодические письма с моими свежими инсайтами по LLM Ранний доступ к новому контенту Никакого спама — только честные мысли и открытия
Footnotes
Сноски
https://maven.com/parlance-labs/fine-tuning. We had more than 2,000 students in our first cohort. The students who paid for the original course had early access to the material, office hours, generous compute credits, and a lively Discord community.↩︎
We find that instruction tuning a model to be a very useful educational experience even if you never intend to fine-tune, because it familiarizes you with topics such as (1) working with open weights models (2) generating synthetic data (3) managing prompts (4) fine-tuning (5) and generating predictions.↩︎
These testimonials are taken from https://maven.com/parlance-labs/fine-tuning.↩︎
https://maven.com/parlance-labs/fine-tuning. В нашем первом потоке было более 2000 студентов. Студенты, заплатившие за оригинальный курс, получали ранний доступ к материалам, office hours, щедрые кредиты на вычисления и живое сообщество в Discord.↩︎ Мы считаем, что instruction tuning модели — очень полезный обучающий опыт, даже если вы никогда не собираетесь делать fine-tune, потому что он знакомит вас с такими темами, как (1) работа с моделями с открытыми весами (2) генерация синтетических данных (3) управление промптами (4) fine-tuning (5) и генерация предсказаний.↩︎ Эти отзывы взяты с https://maven.com/parlance-labs/fine-tuning.↩︎