How to Run a Weekly Paper Club (and Build a Learning Community)
Юджин Ян рассказывает, как за 18 месяцев Latent Space Paper Club без единого пропуска проводил еженедельные разборы статей — суммарно более 80 работ по ключевым компонентам, моделям, обучению, инференсу и практике LLM. Формат прост: каждую среду в 12:00 PST час созвона в Zoom, обязательное предварительное чтение по выходным (~1 час), доброволец-ведущий ведёт группу по статье 45 минут, затем 15 минут свободной дискуссии. Записывается только основная часть, но не Q&A — это стимулирует живое участие и обмен «теневыми» знаниями. Авторы статей (Llama, Matryoshka Embeddings, TimeGPT, Molmo и другие) иногда присоединяются лично. Для чтения автор советует трёхпроходный подход и инструменты вроде Zotero плюс Claude для пояснения формул. Итог: ~100 часов в год (4 дня) — и вы в топ-5% AI-инженеров по знанию области.
How to Run a Weekly Paper Club (and Build a Learning Community)
Как проводить еженедельный paper club (и построить сообщество для совместного обучения)
[ learning productivity mechanism ] · 6 мин чтения
Over the past 18 months, the Latent Space Paper Club has had an unbroken streak of hosting paper club every single week. That’s at least 80 papers, and likely more, when we consider weeks where we cover related papers (e.g., LoRA + QLoRA). Together, we’ve pre-read and discuss a paper weekly, covering the fundamentals such as:
За последние 18 месяцев у Latent Space Paper Club сложилась непрерывная серия — мы проводили paper club каждую неделю без исключения. Это как минимум 80 статей, а с учётом недель, когда мы разбирали связанные работы (например, LoRA + QLoRA), вероятно, больше. Вместе мы заранее читали и обсуждали по одной статье в неделю, охватывая основы вроде:
Ключевые компоненты: Attention, LayerNorm, FlashAttention, LoRA/QLoRA, ALiBi, RoPE Модели: Transformer, BERT, T5, GPTs, Codex, LLaMAs, Mistral, CLIP, ViT, RWKV, Jamba, Mamba, Latent Consistency Models, Whisper, Moshi, Molmo, TimeGPT Обучение: InstructGPT, RLHF, RLAIF/CAI, PPO, REST, SPIN, Self-Play, Upcycling Инференс: Speculative Decoding, Writing in the Margins, Test-time Compute Тренды: Scaling Laws, Chinchilla, 1-bit, Synthetic Data, Gorilla, Generative Agents Практика: RAG, EvalGen, DocETL, LLama Guard, Copilot, Finetuning vs. RAG
If you’re looking to get started, here’s a year’s worth of notable papers.
Если хотите начать, вот подборка значимых статей за год.
This has equipped us with the foundation to understand how these techniques and models work, build systems and applications on top of them, and apply them at work and personal projects. But it’s not just about technical knowledge. We’ve also learned from practitioners sharing their insider know-how, built friendships at in-person meetups, and grown a community of learners and builders.
Это дало нам фундамент, чтобы понимать, как работают эти техники и модели, строить на их основе системы и приложения, применять их в работе и личных проектах. Но дело не только в технических знаниях. Мы также учились у практиков, которые делились внутренним опытом, заводили друзей на офлайн-встречах и растили сообщество учеников и создателей.
We’d like you to benefit from this too. That’s why we wrote this guide: To help you start your own paper club and learn—together—with your peers.
Мы хотим, чтобы вы тоже могли воспользоваться этим. Поэтому и написали этот гайд: чтобы помочь вам запустить свой paper club и учиться — вместе — со своими коллегами.
Also see the Swyx/Latent Space version that includes (i) advice on paper curation, (ii) video walkthrough of a 3-paper pre-reading + slide prep, (iii) recordings of the Llama 3.1 and Molmo paper club, and more.
Смотрите также версию от Swyx/Latent Space, где есть (i) советы по подбору статей, (ii) видеоразбор подготовки к чтению трёх статей и слайдов, (iii) записи paper club по Llama 3.1 и Molmo и многое другое.
How the Latent Space Paper Club got started ~18 months ago
Как Latent Space Paper Club появился около 18 месяцев назад
What happens at paper club (doesn’t just stay at PC)
Что происходит на paper club (и не остаётся в его стенах)
Same time, every week. Every Wednesday, we gather for an hour over lunch (12pm PST) to discuss a pre-selected paper. Sticking to the same time every week makes it easier to remember and attend. Also, a weekly cadence helps with building the habit.
Одно и то же время каждую неделю. Каждую среду мы собираемся на час в обеденное время (12:00 PST), чтобы обсудить заранее выбранную статью. Если придерживаться одного и того же времени, проще помнить о встрече и приходить. К тому же еженедельный ритм помогает выработать привычку.
Pre-reading. Pre-reading the paper helps you get the most out of the session. I usually pre-read over the weekend, for about an hour. This helps me identify what I don’t understand so I know what to clarify during the session. I’m also better equipped to share insights and help others understand the material. From experience, skipping the pre-read reduces the value I get from the discussion by ~80% or more.
Предварительное чтение. Чтение статьи заранее помогает выжать из сессии максимум. Обычно я читаю по выходным около часа. Это помогает понять, что мне непонятно, и заранее наметить, что прояснить в ходе встречи. А ещё я лучше готов делиться инсайтами и помогать другим разобраться в материале. По опыту, если пропустить предварительное чтение, ценность от обсуждения падает на ~80% или больше.
Yes, please pre-read the paper
Да, пожалуйста, прочитайте статью заранее
Facilitating. Each week, a volunteer guides the group through the paper, covering the motivation, related literature, methodology, results, etc. This usually takes around 45 minutes, with pauses after each section for quick questions. In the last 15 minutes, we have free-form discussion and discuss the paper’s implications, connect it to other work, and/or consider how to apply the ideas to our work and the broader industry.
Ведение встречи. Каждую неделю доброволец проводит группу по статье, рассказывая о мотивации, релевантной литературе, методологии, результатах и т. д. Обычно это занимает около 45 минут, с паузами после каждого раздела для коротких вопросов. Последние 15 минут — свободная дискуссия: обсуждаем выводы статьи, связываем её с другими работами и/или думаем, как применить идеи у себя в работе и в индустрии в целом.
Some facilitators prepare simple slides highlighting key charts and takeaways, but this isn’t mandatory. Personally, I’m too lazy to create slides and just screen-share my annotated paper with highlights and notes.
Некоторые ведущие готовят простые слайды с ключевыми графиками и выводами, но это не обязательно. Лично мне лень делать слайды, и я просто шарю экран с размеченной статьёй — с выделениями и заметками.
How to run a paper club (with minimal effort)
Как провести paper club (с минимальными усилиями)
Selecting papers. The facilitator gets to pick whatever paper they want to discuss, within the overall theme. While our paper club’s focus is language modeling, we occasionally explore key papers from other domains like vision (e.g., CLIP, ViT, LCMs), audio (e.g., Whisper, Moshi), and RL (e.g., DPO, PPO).
Выбор статей. Ведущий сам выбирает, какую статью обсуждать, в рамках общей темы. Наш paper club сосредоточен на языковом моделировании, но иногда мы заглядываем и в ключевые работы из других областей: vision (например, CLIP, ViT, LCMs), audio (например, Whisper, Moshi) и RL (например, DPO, PPO).
TIP: At the start of each session, ask for volunteers to facilitate next week’s paper. This helps you avoid a last-minute scramble to find a facilitator and paper.
СОВЕТ: В начале каждой сессии спрашивайте, кто хочет быть ведущим на следующей неделе. Это избавляет от лихорадочного поиска ведущего и статьи в последний момент.
Scheduling. We use Luma for event management but it lacks support for recurring events. We’ve also used Discord events but it’s only visible to folks in the Discord. If you have a better solution, please share!
Расписание. Мы используем Luma для управления событиями, но там нет поддержки повторяющихся встреч. Пробовали и события в Discord, но они видны только тем, кто внутри Discord. Если знаете решение получше — поделитесь!
Hosting. We host sessions on a paid Zoom account (thanks Swyx!) We’ve also tried Discord Stages for a bit but had issues with screen sharing and viewing.
Площадка. Сессии проводим на платном аккаунте Zoom (спасибо, Swyx!). Какое-то время пробовали Discord Stages, но столкнулись с проблемами при шаринге экрана и просмотре.
Recordings. We record the paper facilitation (via Zoom), but not the Q&A. By not recording the Q&A, we hope to encourage folks to share their experience and ghost knowledge (which is sometimes based on what they do on the job). This also incentivizes live attendance and participation in the Q&A which, IMHO, is the main benefit of paper club.
Записи. Мы записываем только основную часть с ведущим (через Zoom), но не Q&A. Не записывая Q&A, мы рассчитываем, что люди охотнее поделятся своим опытом и «теневыми» знаниями (которые порой основаны на их работе). Это также мотивирует приходить вживую и участвовать в Q&A, что, на мой взгляд, и есть главная ценность paper club.
Community. Our paper club started as a small group that was committed to studying a key paper each week, and in the process, level up on language modeling together. Over time, we’ve grown into a core group of facilitators and regulars (Swyx, Vibhu, Eugene Cheah, Amgad, Eric, RJ, etc). Including myself, this critical mass lets us rotate amongst ourselves every two months or so, though new volunteers are always welcome!
Сообщество. Наш paper club начинался как небольшая группа людей, которые решили каждую неделю разбирать важную статью и параллельно подтягивать друг друга по языковому моделированию. Со временем мы выросли в ядро из ведущих и постоянных участников (Swyx, Vibhu, Eugene Cheah, Amgad, Eric, RJ и др.). Включая меня самого, эта критическая масса позволяет нам ротироваться примерно раз в два месяца, хотя новые добровольцы всегда приветствуются!
Inviting authors. Occasionally, we invite authors to share their work and have had the pleasure of hosting Llama, Matryoshka Embeddings, Writing in the Margins, TimeGPT, etc. We’ve also invited Shreya and Nathan to join us while we discuss their papers. Having the authors join paper club allows us to clarify our questions with them directly, and lets the authors share behind-the-scenes insights. For example, we learned from Nathan why Molmo has such a heavy emphasis on analog clocks.
Приглашённые авторы. Иногда мы зовём авторов поделиться своей работой и имели удовольствие принимать команды Llama, Matryoshka Embeddings, Writing in the Margins, TimeGPT и др. Также приглашали Shreya и Nathan присоединиться к обсуждению их статей. Присутствие авторов на paper club позволяет уточнять у них вопросы напрямую, а сами авторы делятся закулисными подробностями. Например, от Nathan мы узнали, почему Molmo уделяет столько внимания аналоговым часам.
How to read a paper (in an hour)
Как прочитать статью (за час)
Reading papers. If you find reading academic papers challenging, you’re not alone. The three-pass approach (video) has served me well:
Как читать статьи. Если чтение академических работ даётся вам тяжело, вы не одни. Мне хорошо подошёл подход трёх проходов (видео):
Сначала бегло пробегитесь по статье, чтобы понять общую идею (~10 минут) Затем прочитайте, чтобы уловить ключевые тезисы, но не вникайте в детали (~1 час) Наконец, разберитесь в статье вглубь и сделайте заметки (3–6 часов)
Most of the time, unless you’re trying to replicate the paper, two passes will suffice. Nonetheless, for paper club, I tend to go into the details on methodology and results. Here’s my walkthrough of applying the three-pass approach.
Чаще всего, если вы не пытаетесь воспроизвести статью, хватает двух проходов. Тем не менее для paper club я обычно углубляюсь в методологию и результаты. Вот мой разбор того, как применять подход трёх проходов.
Tools. Zotero makes it convenient to save papers to your library. It also has built-in markup tools to highlight and annotate papers. And if you come across unfamiliar terms or inscrutable math equations, take a screenshot and ask Claude to explain!
Инструменты. С Zotero удобно сохранять статьи в свою библиотеку. Там же есть встроенные инструменты разметки — для выделений и аннотаций. А если попадаются незнакомые термины или непонятные математические формулы, сделайте скриншот и попросите Claude объяснить!
How to facilitate a paper (even if it’s your first time)
Как вести paper club (даже если делаете это впервые)
Topics. When guiding the group through the paper, focus on these key aspects.
Темы. Проводя группу по статье, фокусируйтесь на следующих ключевых аспектах.
Мотивация: Чем важна эта статья? Какую проблему она решает? Методология: Как именно работа подходит к этой проблеме? Результаты: Каковы ключевые находки и достижения? Ablations (если есть): Что сработало, что нет и почему? Связанные работы: Чем эта работа улучшает предыдущие?
Format. Most facilitators simply walk through the PDF with their highlights and notes. Others create simple slides, including key graphs and tables to focus attention. There’s no hard and fast rule—just do what suits you best as facilitator.
Формат. Большинство ведущих просто проходят по PDF со своими выделениями и заметками. Другие готовят простые слайды с ключевыми графиками и таблицами, чтобы сфокусировать внимание. Жёстких правил нет — делайте так, как удобнее вам как ведущему.
• • •
• • •
Participating in a weekly paper club means covering ~50 papers a year. With just two hours per week—one hour of pre-reading and one hour of discussion—you’ll spend only ~100 hours (4 days) a year. Yet, this minimal effort likely places you in the top 5% of AI engineers and the top 0.1% of the world population in terms of AI knowledge.
Участие в еженедельном paper club означает разбор ~50 статей в год. Всего два часа в неделю — час на предварительное чтение и час на обсуждение — это около 100 часов (4 дня) в год. И эти минимальные усилия, скорее всего, помещают вас в топ-5% AI-инженеров и топ-0,1% населения мира по уровню знаний в области AI.
So, what are you waiting for? Start your own paper club, or see you at Latent Space!
Так чего же вы ждёте? Запустите свой paper club или приходите в Latent Space!
If you found this useful, please cite this write-up as:
Если этот текст оказался вам полезен, пожалуйста, цитируйте его так:
Yan, Ziyou. (Nov 2024). How to Run a Weekly Paper Club (and Build a Learning Community). eugeneyan.com. https://eugeneyan.com/writing/paper-club/.
Yan, Ziyou. (Nov 2024). How to Run a Weekly Paper Club (and Build a Learning Community). eugeneyan.com. https://eugeneyan.com/writing/paper-club/.
or
или
@article{yan2024paperclub,
title = {How to Run a Weekly Paper Club (and Build a Learning Community)},
author = {Yan, Ziyou},
journal = {eugeneyan.com},
year = {2024},
month = {Nov},
url = {https://eugeneyan.com/writing/paper-club/}
}
@article{yan2024paperclub, title = {How to Run a Weekly Paper Club (and Build a Learning Community)}, author = {Yan, Ziyou}, journal = {eugeneyan.com}, year = {2024}, month = {Nov}, url = {https://eugeneyan.com/writing/paper-club/} }
Join 11,800+ readers getting updates on machine learning, RecSys, LLMs, and engineering.
К нам присоединились уже 11 800+ читателей, получающих обновления о machine learning, RecSys, LLM и инженерии.