Embrace Beginner's Mind; Avoid The Wrong Way To Be An Expert

eugeneyan

eugeneyan

Начните отсюда Статьи Выступления Прототипирование О себе

Embrace Beginner's Mind; Avoid The Wrong Way To Be An Expert

Принимайте ум новичка; избегайте неправильного способа быть экспертом

[ learning ] · 11 min read

[ learning ] · 11 мин чтения

When we learn something new, such as a programming language, we start as beginners. We can learn and follow the rules and apply them in a narrow context. However, we don’t understand the bigger picture and get lost outside of that specific context.

Когда мы изучаем что-то новое, например язык программирования, мы начинаем как новички. Мы можем выучить правила, следовать им и применять их в узком контексте. Однако мы не понимаем общей картины и теряемся за пределами этого конкретного контекста.

Imagine that I enroll in a MOOC on R and learn about statistical analysis, machine learning, and Shiny dashboards. As part of machine learning, I learn that I should split the data into train and test sets. I apply this in assignments and Kaggle and everything works fine—this is the narrow context.

Представьте, что я записываюсь на MOOC по R и узнаю о статистическом анализе, машинном обучении и дашбордах Shiny. В рамках машинного обучения я узнаю, что нужно разбивать данные на обучающую и тестовую выборки. Я применяю это в заданиях и на Kaggle, и всё работает прекрасно — это узкий контекст.

Then, perhaps I get the opportunity to apply my new skills in a wider context—I build a model, validate it (via random train-test split), and deploy it. However, the offline and online (i.e., A/B test) metrics don’t match up. Eventually, I figure out that I should use a time-based split so future data doesn’t leak into the training set.

Затем, возможно, мне выпадает возможность применить новые навыки в более широком контексте: я строю модель, валидирую её (через случайное разбиение train-test) и развёртываю. Однако офлайн- и онлайн-метрики (то есть A/B-тест) не сходятся. В итоге я понимаю, что нужно использовать разбиение по времени, чтобы будущие данные не протекали в обучающую выборку.

With the benefit of the wider context, I encountered challenges and failures (read: lessons) that were not part of the MOOC assignments. As a result, I got to see the bigger picture; I know there’s still lots to learn. Thus, I continue to learn and progress through the stages of beginner, intermediate, and so on.

Благодаря более широкому контексту я столкнулся с трудностями и неудачами (читай: уроками), которых не было в заданиях MOOC. В результате я увидел общую картину; я понимаю, что учиться предстоит ещё многому. Так я продолжаю учиться и проходить стадии новичка, среднего уровня и так далее.

The more I learn, the more I realise how much I don’t know. – Albert Einstein

Чем больше я узнаю, тем больше понимаю, как мало я знаю. — Альберт Эйнштейн

From beginner to … expert beginner

От новичка к… эксперту-новичку

But what happens if I don’t see the bigger picture?

Но что произойдёт, если я не увижу общую картину?

Let’s assume I work in the HR department of a widget manufacturer. Everything—from headcount to payroll to vacation balance—is run in Excel. I apply my newfound R skills to automate my work via one-off scripts. This involves calculating statistics on factory sites and displaying it via a Shiny dashboard on the department desktop. In the eyes of my manager and team, I’m an absolute rockstar ninja wizard. I get showered with praise and am promoted to manager of HR data science.

Предположим, я работаю в HR-отделе производителя виджетов. Всё — от численности персонала до зарплат и остатка отпускных дней — ведётся в Excel. Я применяю свои свежеприобретённые навыки R, чтобы автоматизировать работу разовыми скриптами. Это включает расчёт статистики по заводским площадкам и её отображение через дашборд Shiny на рабочем компьютере отдела. В глазах моего менеджера и команды я — абсолютная рок-звезда, ниндзя и волшебник. На меня сыплются похвалы, и меня повышают до менеджера HR-направления data science.

I might not know about proper ML validation, deployment, unit tests, or even version control. I certainly haven’t done any of that. But who cares? We don’t need it. I’m now the manager of HR data science. I’m now… an “expert”.

Возможно, я ничего не знаю о правильной валидации ML, развёртывании, юнит-тестах или даже контроле версий. Я уж точно ничего из этого не делал. Но кому какое дело? Нам это не нужно. Теперь я менеджер HR data science. Теперь я… «эксперт».

To those in the know, I’m clearly still a beginner. But my context is narrow and I don’t see the bigger picture. Thus, I don’t know that there’s still lots to learn, lots to do. However, because I’ve achieved a modicum of success (through narrow applications of what I learned) and others call me an expert, I now view myself as an expert. As a result, I stop learning. I’m now stuck at a local optima. I’ve become an expert beginner.

Для тех, кто в теме, я по-прежнему явный новичок. Но мой контекст узок, и я не вижу общей картины. Поэтому я не знаю, что учиться предстоит ещё многому и что многое ещё предстоит сделать. Однако поскольку я добился толики успеха (через узкие применения того, что выучил), а другие называют меня экспертом, я теперь и сам считаю себя экспертом. В результате я перестаю учиться. Я застрял в локальном оптимуме. Я стал экспертом-новичком.

Suppose I stay in that same role, within HR, for 10 years. At the end of it, do I have 10 years of experience, or one year of experience repeated 10 times?

Предположим, я остаюсь в той же роли, в HR, на протяжении 10 лет. В итоге, есть ли у меня 10 лет опыта или один год опыта, повторённый 10 раз?

As head of HR data science, I hire a team of data scientists. Eventually, some team members will suggest new technology (e.g., Python, Docker) or practices (e.g., version control, unit testing).

Будучи руководителем HR data science, я нанимаю команду дата-сайентистов. Рано или поздно кто-то из команды предложит новую технологию (например, Python, Docker) или практики (например, контроль версий, юнит-тестирование).

However, I’m the most experienced (read: longest tenure) and the expert-est expert. I dismiss ideas and technology that I’m unfamiliar with. “Oh, I see you’re new here. Yes, Python sounds like a good idea but the Chief HR Officer really likes the Shiny dashboard that I built.” “Haha, we don’t need unit tests! I live and breathe this code every day—there’s no need to test it”.

Однако я самый опытный (читай: с самым большим стажем) и самый экспертный эксперт. Я отметаю идеи и технологии, с которыми не знаком. «О, я вижу, ты здесь новенький. Да, Python звучит как хорошая идея, но директору по персоналу очень нравится дашборд Shiny, который я построил». «Ха-ха, нам не нужны юнит-тесты! Я живу и дышу этим кодом каждый день — нет нужды его тестировать».

Team members who can see the bigger picture are disappointed by the outdated technology and incorrect practices. They see no room for learning and growth. As a result, the most talented and ambitious leave (if they know what’s best for them). For those who stay—hurray! There’s less competition. They’ll toe the line and one day, they’ll be a senior expert beginner and teach new joiners their “expert” ways.

Сотрудники, способные видеть общую картину, разочарованы устаревшими технологиями и неправильными практиками. Они не видят пространства для обучения и роста. В результате самые талантливые и амбициозные уходят (если понимают, что для них лучше). А для тех, кто остаётся, — ура! Меньше конкуренции. Они будут ходить по струнке и однажды станут старшими экспертами-новичками и научат новичков своим «экспертным» приёмам.

This leads to the Dead Sea effect where you’re left with your least talented and effective people. They’re grateful to have a job and settle in for a couple of years (or decades). Now, the team has (d)evolved into an army of expert beginners who follow the directions of the top expert beginner.

Это приводит к эффекту Мёртвого моря, когда у вас остаются наименее талантливые и эффективные люди. Они благодарны за то, что у них есть работа, и оседают на пару лет (или десятилетий). Теперь команда (д)еволюционировала в армию экспертов-новичков, которые следуют указаниям главного эксперта-новичка.

The expert beginners are entrenched and can’t be replaced (source: Scott Adams)

Эксперты-новички закрепились на своих местах, и их нельзя заменить (источник: Scott Adams)

Because expert beginners have learned “everything” there is to learn, tried “everything” there is to try, and done “everything” there is to do, there’s nothing new to learn, try, and do. The team stops trying new ideas—“Oh we don’t use Docker here. We have VMs!”—and the organization stops innovating.

Поскольку эксперты-новички выучили «всё», что только можно выучить, попробовали «всё», что только можно попробовать, и сделали «всё», что только можно сделать, им больше нечего учить, пробовать и делать. Команда перестаёт пробовать новые идеи — «О, мы здесь не используем Docker. У нас есть VM!» — и организация перестаёт инновировать.

This partly explains some industries getting disrupted. The iPhone disrupting Nokias and Blackberrys, AWS disrupting on-premise hardware, Stripe disrupting payment processing, Tesla disrupting… you get the idea.

Это отчасти объясняет, почему некоторые отрасли подвергаются разрушению. iPhone разрушил Nokia и Blackberry, AWS разрушил локальное оборудование, Stripe разрушил обработку платежей, Tesla разрушила… ну, вы поняли.

The expert beginner doesn't see the bigger picture; thus, he is stuck.

Эксперт-новичок не видит общей картины, поэтому он застрял.

The beginner’s mind is always a student

Ум новичка всегда остаётся учеником

How do we prevent stagnation (and possibly becoming an expert beginner)? How do we stay open-minded and constantly learning and experimenting?

Как предотвратить стагнацию (и, возможно, превращение в эксперта-новичка)? Как оставаться открытым, постоянно учиться и экспериментировать?

One way is Shoshin (beginner’s mind). It’s a concept from Zen Buddhism on having an attitude of openness, eagerness, and no preconceptions, even when our knowledge of the subject is advanced. In other words, to think just like a beginner.

Один из способов — сёсин (ум новичка). Это концепция из дзен-буддизма об установке на открытость, увлечённость и отсутствие предубеждений, даже когда наши знания о предмете продвинуты. Иными словами, мыслить именно как новичок.

In the beginner’s mind there are many possibilities, but in the expert’s there are few. – Shunryu Suzuki

В уме новичка много возможностей, а в уме эксперта их мало. — Сюнрю Судзуки

With beginner’s mind, regardless of your experience and expertise, you stay curious and approach new ideas and experiences as a student. Even when new technology or methods don’t fit your paradigm, you’re open to learning and trying it. Students don’t say “That’s not how we do things here”.

С умом новичка, независимо от вашего опыта и экспертизы, вы сохраняете любопытство и подходите к новым идеям и опыту как ученик. Даже когда новая технология или метод не вписываются в вашу парадигму, вы открыты к тому, чтобы учиться и пробовать. Ученики не говорят: «Мы здесь так не делаем».

Sometimes, when others view us as experts, we let it get to us. We stay within our narrow subject matter expertise and stop exploring new ideas and possibilities. We avoid newer, bigger challenges so we don’t make mistakes; we stick to what has worked in the past. This helps preserve our expert identity.

Иногда, когда другие считают нас экспертами, мы позволяем этому ударить нам в голову. Мы остаёмся в рамках своей узкой предметной экспертизы и перестаём исследовать новые идеи и возможности. Мы избегаем новых, более крупных вызовов, чтобы не совершать ошибок; мы держимся за то, что работало в прошлом. Это помогает сохранить нашу идентичность эксперта.

The most dangerous phrase in the language is, “We’ve always done it this way.” – Grace Hopper

Самая опасная фраза в языке — «Мы всегда так делали». — Грейс Хоппер

But this doesn’t make sense. In my field of data science, new tools (e.g., Spark, Docker, Airflow) and methods (e.g., embeddings, attention, pre-training) constantly improve on the state of the art (SOTA)—it’s useful, if not essential, to keep up to date. (That said, fundamental techniques like regression and decision trees are often a solid baseline.)

Но в этом нет смысла. В моей области data science новые инструменты (например, Spark, Docker, Airflow) и методы (например, эмбеддинги, attention, предобучение) постоянно улучшают передовые результаты (SOTA) — полезно, если не сказать необходимо, быть в курсе. (При этом фундаментальные техники вроде регрессии и деревьев решений зачастую остаются надёжной базой.)

The beginner’s mind keeps on pedalling

Ум новичка продолжает крутить педали

Learning is like cycling. When we start pedalling (from a standstill), it takes effort and time to gain momentum. Nonetheless, we’ll pick up speed and begin gaining distance.

Обучение похоже на езду на велосипеде. Когда мы начинаем крутить педали (с места), это требует усилий и времени, чтобы набрать инерцию. Тем не менее мы наберём скорость и начнём преодолевать расстояние.

We might look back at where we started and think “Wow, I’ve come a long way. Perhaps I don’t have to pedal as hard; perhaps I don’t have to pedal at all.” If we stop pedalling, the initial momentum might carry us slightly further, but eventually, we’ll come to a standstill. While we don’t lose the distance covered, we’re not gaining distance either. (Though in fast-paced fields like tech, if you don’t move forward, you begin to move backward.)

Мы можем оглянуться на то, откуда начали, и подумать: «Ого, я проделал большой путь. Может, мне не нужно крутить педали так усердно; может, и вовсе не нужно». Если мы перестанем крутить педали, изначальная инерция, возможно, протащит нас чуть дальше, но в конце концов мы остановимся. Хотя пройденное расстояние мы не теряем, но и нового не набираем. (Правда, в быстро меняющихся сферах вроде технологий, если ты не движешься вперёд, ты начинаешь двигаться назад.)

Here, distance is knowledge (and achievements); momentum is learning. While distance is correlated with expertise, the relationship is not as strong as we think (e.g., one year of experience repeated 10 times). I think momentum (the ability to learn and adapt quickly) is part of expertise as well. The experts I know are often reading or hacking. At work, they can synthesize their mental prototypes and tailor solutions based on context.

Здесь расстояние — это знания (и достижения); инерция — это обучение. Хотя расстояние коррелирует с экспертизой, связь не так сильна, как мы думаем (например, один год опыта, повторённый 10 раз). Я считаю, что инерция (способность быстро учиться и адаптироваться) тоже часть экспертизы. Эксперты, которых я знаю, часто читают или что-то мастерят. На работе они умеют синтезировать свои мысленные прототипы и подбирать решения под контекст.

To maintain momentum, the beginner’s mind continues to pedal regardless of the distance they’ve covered. It’s not surprising that many successful people are—and continue to be—voracious readers and learners. Warren Buffet, Bill Gates, Elon Musk, just to name a few. Do you know any successful person that doesn’t read or learn?

Чтобы поддерживать инерцию, ум новичка продолжает крутить педали независимо от пройденного расстояния. Неудивительно, что многие успешные люди — и продолжают быть — ненасытными читателями и учениками. Уоррен Баффет, Билл Гейтс, Илон Маск — лишь несколько имён. Знаете ли вы хоть одного успешного человека, который не читает и не учится?

The illiterate of the 21st century will not be those who cannot read and write, but those who cannot learn, unlearn, and relearn. – Alvin Toffler

Неграмотными в XXI веке будут не те, кто не умеет читать и писать, а те, кто не умеет учиться, разучиваться и переучиваться. — Элвин Тоффлер

There’s knowledge that we gain from books and courses—we’re tested on this in exams. Then, there’s (tacit) knowledge that we gain from practice—we’re tested on this in life.

Есть знание, которое мы получаем из книг и курсов, — его проверяют на экзаменах. А есть (неявное) знание, которое мы получаем из практики, — его проверяет жизнь.

You cannot get educated by this self-propagating system in which people study to pass exams, and teach others to pass exams, but nobody knows anything.

You learn something by doing it yourself, by asking questions, by thinking, and by experimenting. 🧠

Нельзя получить образование в этой самовоспроизводящейся системе, где люди учатся, чтобы сдать экзамены, и учат других сдавать экзамены, но никто ничего не знает. Чему-то учишься, делая это сам, задавая вопросы, размышляя и экспериментируя. 🧠— Richard Feynman (@ProfFeynman) 17 августа 2020

For example, learning to ride a bicycle. We can’t learn to ride a bike by reading a textbook. The only way to learn is by actually doing it. We’re going to lose balance and fall, but eventually, we’ll figure it out. Also, our ability to ride a bike is transferable to other two-wheeled transport. Once we learn how to ride a regular bike, we’ll have a gentler learning curve on mountains bikes, tandem bikes, and even e-scooters.

Например, обучение езде на велосипеде. Мы не научимся ездить на велосипеде, читая учебник. Единственный способ научиться — действительно делать это. Мы будем терять равновесие и падать, но в конце концов разберёмся. К тому же наше умение ездить на велосипеде переносимо на другой двухколёсный транспорт. Освоив обычный велосипед, мы пройдём более мягкую кривую обучения на горных велосипедах, тандемах и даже электросамокатах.

Similarly, some skills and knowledge can only be gained through practice. They’re usually transferable across multiple domains too. For example, what’s the most suitable way to serve models in production? There are some common patterns: compute offline and cache, serve via microservice, embed in the main app. Do these patterns differ across domains? Not much. Which is the best approach for our use case? Well, it depends—knowing the answer is tacit knowledge.

Аналогично, некоторые навыки и знания можно получить только через практику. Обычно они также переносимы между разными областями. Например, как лучше всего обслуживать модели в продакшене? Есть несколько распространённых паттернов: вычислять офлайн и кэшировать, обслуживать через микросервис, встраивать в основное приложение. Различаются ли эти паттерны между областями? Не сильно. Какой подход лучше для нашего сценария? Что ж, зависит от обстоятельств — знание ответа и есть неявное знание.

pic.twitter.com/jGcy74wKP1

pic.twitter.com/jGcy74wKP1— Nader Dabit (@dabit3) 7 июля 2020

Often, such skills and knowledge are fundamental and can be thought of as building blocks (or first principles). For example, in programming, we learn about conditionals, iteration, and data structures. In distributed data processing, we learn about map, reduce, and shuffle. Once we understand these fundamentals, it’s easier to pick up another programming language or distributed processing framework. It also helps us write more effective software and ETL jobs.

Часто такие навыки и знания фундаментальны и их можно рассматривать как строительные блоки (или первопринципы). Например, в программировании мы изучаем условия, итерации и структуры данных. В распределённой обработке данных мы изучаем map, reduce и shuffle. Поняв эти основы, легче освоить ещё один язык программирования или фреймворк распределённой обработки. Это также помогает писать более эффективное ПО и ETL-задачи.

Mastering the fundamentals also helps with the metagame. The meta (i.e., higher-order factors) changes constantly. For example, natural language processing has evolved rapidly from recurrent models to embeddings to attention to pre-training.

Освоение основ также помогает в метаигре. Мета (то есть факторы более высокого порядка) постоянно меняется. Например, обработка естественного языка стремительно эволюционировала от рекуррентных моделей к эмбеддингам, затем к attention и предобучению.

If we’ve been paying attention, we might have noticed cross-pollination of ideas from computer vision (e.g., transfer learning). Also, the big improvements due to unsupervised learning (e.g., Word2vec, T5, GPT-3) demonstrate that data is king. Lastly, as models grow bigger to push on the SOTA, we see another meta—more compute wins (i.e., The Bitter Lesson).

Если мы были внимательны, то могли заметить перекрёстное опыление идей из компьютерного зрения (например, перенос обучения). Кроме того, крупные улучшения благодаря обучению без учителя (например, Word2vec, T5, GPT-3) показывают, что данные — король. Наконец, по мере того как модели растут, чтобы двигать SOTA, мы видим ещё одну мету — побеждает больше вычислений (то есть Горький урок).

How to develop beginner’s mind and keep pedalling

Как развить ум новичка и продолжать крутить педали

If you’re convinced about beginner’s mind, here are some suggestions on mindset:

Если вы убеждены в пользе ума новичка, вот несколько советов по установке мышления:

Оставайтесь скромными. Да, мы должны гордиться своими достижениями. Но никогда не стоит думать, что наше обучение завершено или что мы непогрешимы. Это требует терпения к себе, умения сказать «Я не знаю» и спокойного отношения к неудачам. Будьте любопытными и открытыми, чтобы пробовать новые идеи, даже если они не совпадают с нашими предубеждениями. Исследуйте новые подходы вместо «как мы всегда делали».

And some habits to keep learning:

И несколько привычек, чтобы продолжать учиться:

Стройте и экспериментируйте. Некоторые навыки лучше всего приобретаются через практику. На работе продолжайте писать код (если можете). Вне работы находите время попробовать новые инструменты и техники. Это держит нас в курсе и не отрывает от деталей. Читайте широко. Читайте статью-три каждую неделю, делайте заметки и обсуждайте с коллегами. (Беззастенчивая реклама: applied-ml и ml-surveys — отличные подборки.) Взаимодействуйте с более широким сообществом. Посещайте митапы и конференции. Они помогают увидеть общую картину за пределами наших ролей и организаций. Посещайте один митап в квартал и одну конференцию в год. Поскольку большинство из них теперь онлайн, это стало проще.

If you’re leading a team or organization, create a culture of learning. Encourage your team to read and discuss papers. Give your team the space to explore and fail. Celebrate A/B tests as they help us learn more about the customer—even those, especially those, that didn’t work out. Encourage external learning (e.g., company brown bags, meetups, conferences). When hiring, don’t over-index on education qualifications or years of experience.

Если вы руководите командой или организацией, создавайте культуру обучения. Поощряйте команду читать и обсуждать статьи. Давайте команде пространство для экспериментов и ошибок. Празднуйте A/B-тесты, ведь они помогают больше узнать о клиенте, — даже те, особенно те, что не сработали. Поощряйте внешнее обучение (например, корпоративные brown bag-семинары, митапы, конференции). При найме не переоценивайте образовательные дипломы или годы опыта.

There’s always more to learn.

Всегда есть, чему ещё поучиться.

Expert mind: Nothing's new
Beginner mind: Everything's new

Expert mind: Look how far I've come
Beginner mind: Look how far it goes

Expert mind: We've always done it this way
Beginner mind: There's always a better way

The Beginner's mind keeps learning https://t.co/trMxZPuaDv

Ум эксперта: ничего нового. Ум новичка: всё новое. Ум эксперта: смотри, как далеко я зашёл. Ум новичка: смотри, как далеко это уходит. Ум эксперта: мы всегда так делали. Ум новичка: всегда есть способ лучше. Ум новичка продолжает учиться https://t.co/trMxZPuaDv— Eugene Yan (@eugeneyan) 26 августа 2020

Thanks to Yang Xinyi, Sara Campbell, Stew Fortier, Dan Hunt, and Joel Christiansen for reading drafts of this.

Спасибо Yang Xinyi, Sara Campbell, Stew Fortier, Dan Hunt и Joel Christiansen за прочтение черновиков.

If you found this useful, please cite this write-up as:

Если эта статья оказалась полезной, пожалуйста, цитируйте её так:

Yan, Ziyou. (Aug 2020). Embrace Beginner's Mind; Avoid The Wrong Way To Be An Expert. eugeneyan.com. https://eugeneyan.com/writing/beginners-mind/.

Yan, Ziyou. (Aug 2020). Embrace Beginner's Mind; Avoid The Wrong Way To Be An Expert. eugeneyan.com. https://eugeneyan.com/writing/beginners-mind/.

or

или

@article{yan2020beginner, title = {Embrace Beginner's Mind; Avoid The Wrong Way To Be An Expert}, author = {Yan, Ziyou}, journal = {eugeneyan.com}, year = {2020}, month = {Aug}, url = {https://eugeneyan.com/writing/beginners-mind/} }

@article{yan2020beginner, title = {Embrace Beginner's Mind; Avoid The Wrong Way To Be An Expert}, author = {Yan, Ziyou}, journal = {eugeneyan.com}, year = {2020}, month = {Aug}, url = {https://eugeneyan.com/writing/beginners-mind/} }

Join 11,800+ readers getting updates on machine learning, RecSys, LLMs, and engineering.

Присоединяйтесь к 11 800+ читателям, получающим обновления о машинном обучении, RecSys, LLM и инженерии.