Applied AI / LLM · 691

Bandits for Recommender Systems

Статья Eugene Yan разбирает применение многоруких бандитов в рекомендательных системах: они полезны, когда данных мало, а неопределённость о предпочтениях пользователей высока, либо когда набор объект

How to Measure and Mitigate Position Bias

Позиционное смещение (position bias) возникает, когда элементы на более высоких позициях получают непропорционально больше кликов независимо от их реальной релевантности — например, в Google Search пе

Counterfactual Evaluation for Recommendation Systems

Юджин Ян объясняет, почему стандартная оффлайн-оценка рекомендательных систем некорректна: мы используем наблюдательный подход, тогда как рекомендации — это интервенционная задача, ведь показанные тов

Traversing High-Level Intent and Low-Level Requirements

Deep Neural Nets: 33 years ago and 33 years from now

Андрей Карпаты воспроизводит легендарную статью Янна ЛеКуна и соавторов 1989 года о применении обратного распространения ошибки к распознаванию рукописных почтовых индексов. Оригинальная сеть на 9760

Data Science Project Quick-Start

Юджин Янь делится уроками о том, как эффективно стартовать data science-проекты, чтобы не платить «процентами» при выводе в продакшен. Он советует сначала понять «зачем» и контекст задачи, затем зафик

Mailbag: How to Define a Data Team's Vision and Roadmap

Статья представляет собой ответ Eugene Yan на письмо читателя, который переходит на роль тимлида в команде данных и хочет выстроить видение и дорожную карту для своей команды. Eugene рекомендует две к

Red Flags to Look Out for When Joining a Data Team

Юджин Ян (Eugene Yan) перечисляет «красные флаги», на которые стоит обращать внимание перед тем, как принять оффер в дата-команду: отсутствие или плохо организованные данные, отсутствие внятного роадм

How to Keep Learning about Machine Learning

Статья Eugene Yan о том, как продолжать учиться в быстро развивающейся области machine learning. Автор предлагает пять практических стратегий: пробовать новые инструменты в каждом проекте, делать личн

The Data Scientist Show - Building end-to-end ML systems

Юджин Ян (Eugene Yan) рассказывает о своём участии в подкасте Daliana «The Data Scientist Show», где почти за 2 часа они обсудили самые разные темы из области data science и ML. Среди затронутых вопро

2021 Year in Review

Юджин Янь подводит итоги 2021 года: переезд в Сиэтл, работа в Amazon над рекомендациями книг, поездки по США и здоровая семья создали фон для прогресса по целям. Из запланированных пунктов он выполнил

5 Lessons I Learned from Writing Online (Guest post by Susan Shu)

Гостевой пост Susan Shu на блоге Eugene Yan: пять уроков, которые она вынесла из ведения блога. Susan рассказывает, как привычка писать первые черновики без редактирования резко ускорила её работу, и

What I Learned from Writing Online - For Fellow Non-Writers

Юджин Янь делится уроками, которые он извлёк из ведения личного блога и написания более ста постов. Он утверждает, что не обязательно быть экспертом — иногда лучший учитель тот, кто опережает читателя

Reinforcement Learning for Recommendations and Search

Эжен Янь разбирает применение обучения с подкреплением (RL) в рекомендательных системах и поиске. Обычные рекомендательные системы максимизируют сиюминутную награду (клики/покупки), переоценивают попу

Amazon Science - Eugene Yan and the Art of Writing about Science

Статья Amazon Science рассказывает о Eugene Yan — прикладном научном сотруднике Amazon, который занимается рекомендательными системами для подбора книг в Amazon Store. Сингапурец по происхождению, он

Bootstrapping Labels via ___ Supervision & Human-In-The-Loop

Юджин Ян разбирает, как получать обучающие метки, когда размеченных данных нет, и рассматривает три подхода: полу-, активное и слабое обучение. Полуобучение генерирует псевдо-метки итеративно; активно

Mailbag: How to Bootstrap Labels for Relevant Docs in Search

Читатель спрашивает, как в индустрии получают общее число релевантных документов для пар «запрос-документ», необходимое для расчёта метрики Recall@K (упоминаются работы Semantic Product Search от Amaz

SF Big Analytics - System Design for RecSys & Search

Евгений Янь выступил на митапе SF Big Analytics в Сан-Франциско с докладом о проектировании систем рекомендаций и поиска. Публикация содержит запись выступления и слайды презентации. Доклад состоялся

Influencing without Authority for Data Scientists

Юджин Ян делится советами о том, как дата-сайентистам влиять на коллег без формальной власти, когда нужно добиться приоритизации задач у смежных команд (инфра, инженерия, продукт) или предложить улучш

System Design for Recommendations and Search

Юджин Ян разбирает типовой системный дизайн промышленных рекомендательных и поисковых систем, описывая его через матрицу 2×2: оффлайн против онлайн и retrieval против ranking. В оффлайн-среде обучаютс

A from-scratch tour of Bitcoin in Python

Андрей Карпаты реализует Bitcoin с нуля на чистом Python без единой зависимости, чтобы интуитивно понять, как работает блокчейн. Он последовательно создаёт криптографическую личность на основе эллипти

Patterns for Personalization in Recommendations and Search

Юджин Янь разбирает основные паттерны персонализации в рекомендациях и поиске на основе индустриальных статей, группируя их в пять категорий: бандиты, embedding+MLP, последовательные модели, графы и п

Towards Data Science - Author Spotlight with Eugene Yan

Eugene Yan, прикладной учёный (Applied Scientist) в Amazon, в интервью рубрике Author Spotlight от Towards Data Science рассказывает о своём нетипичном пути в data science: от диплома психолога и рабо

The Metagame of Applying Machine Learning

Юджин Янь сравнивает применение машинного обучения в индустрии с «метаигрой» — игрой вокруг самой игры, где побеждают за счёт внешних знаний и факторов (примеры: камень-ножницы-бумага, StarCraft и син