newsmode
search
Меню
Категории
Теги (топ-30)
Источники
Прогресс перевода 1953/2270 · 86%

Applied AI / LLM · 30

rss_feed Latent Space translateRU

Shopify’s AI Phase Transition: 2026 Usage Explosion, Unlimited Opus-4.6 Token Budget, Tangle, Tangent, SimGym — with Mikhail Parakhin, Shopify CTO

Михаил Парахин, CTO Shopify (ранее CEO бизнес-юнита Microsoft, включавшего Windows, Edge, Bing и рекламу), рассказывает swyx из Latent Space о том, как 20-летняя компания стоимостью $200 млрд полность

Agentic Engineering Ai Adoption Ml Engineering
14598 сл.
rss_feed Hamel Husain translateRU

Estimating vRAM – Hamel’s Blog - Hamel Husain

Хэмел Хусейн делится практическими формулами для прикидочной оценки объёма vRAM, необходимого для обучения и инференса LLM. Он отталкивается от калькулятора Зака Мюллера и дополняет его поправками на

LLM Engineering Ml Engineering Production Ml
539 сл.
rss_feed Hamel Husain translateRU

TorchServe – Hamel’s Blog - Hamel Husain

Хэмел Хусейн делится впечатлениями от экспериментов с TorchServe — инструментом для развёртывания моделей PyTorch. Среди плюсов: автоматическая батчёвка запросов, версионирование моделей, встроенное л

Deployment Pipeline Ml Engineering Production Ml
516 сл.
rss_feed Hamel Husain translateRU

Transcribe & Diarize Videos – Hamel’s Blog - Hamel Husain

Статья описывает процесс транскрибирования видео с разделением по спикерам (диаризацией). Автор объясняет, что OpenAI Whisper не поддерживает диаризацию, и предлагает использовать связку yt-dlp для ск

Data Science Ml Engineering Open Source
638 сл.
rss_feed Hamel Husain translateRU

FastAPI – Hamel’s Blog - Hamel Husain

Hamel Husain рассматривает FastAPI как веб-фреймворк на Python для развёртывания прототипов ML-моделей. По его впечатлениям, для небольших моделей (менее 200 МБ) FastAPI отлично подходит и оказывается

Developer Tools Ml Engineering Production Ml
1256 сл.
rss_feed Hamel Husain translateRU

Basics – Hamel’s Blog - Hamel Husain

Заметки Hamel Husain о развёртывании моделей через TensorFlow Serving на примере трансформера для классификации отзывов IMDB. Автор обучает простую модель (657 758 параметров, точность ~86% на валидац

Deployment Pipeline Ml Engineering Production Ml
2097 сл.
rss_feed Eugene Yan translateRU

Improving Recommendation Systems & Search in the Age of LLMs

Обзор того, как индустриальные рекомендательные системы и поиск эволюционировали за последний год под влиянием больших языковых моделей. Автор разбирает четыре направления: архитектуры с LLM/мультимод

LLM Engineering Ml Engineering RAG
8580 сл.
rss_feed Eugene Yan translateRU

39 Lessons on Building ML Systems, Scaling, Execution, and More

Юджин Ян делится 39 уроками с ML-конференций 2024 года, охватывающими построение эффективных ML-систем, масштабирование, исполнение и работу с пользователями. Среди ключевых идей: важность правильно в

LLM Evals Ml Engineering Production Ml
1953 сл.
rss_feed Eugene Yan translateRU

How to Interview and Hire ML/AI Engineers

Юджин Ян и Jason делятся опытом проведения собеседований и найма на ML/AI-роли, рассматривая процесс интервью как систему, которая должна быть надёжной и валидной. Из технических навыков они оценивают

Career Advice Hiring Ml Engineering
4393 сл.
rss_feed Eugene Yan translateRU

Don't Mock Machine Learning Models In Unit Tests

Юджин Ян объясняет, почему привычные практики юнит-тестирования плохо ложатся на ML-код: в обычном софте логика пишется руками, а в ML она выучивается из данных и зашита в саму модель. Поэтому моки вн

Developer Tools Ml Engineering Production Ml
1218 сл.
rss_feed Eugene Yan translateRU

More Design Patterns For Machine Learning Systems

Юджин Янь делится девятью паттернами проектирования ML-систем, которые он наблюдал на практике: однократная обработка сырых данных, human-in-the-loop для сбора меток, аугментация данных, hard negative

Ml Engineering Production Ml Recommendation Systems
4181 сл.
rss_feed Eugene Yan translateRU

Autoencoders and Diffusers: A Brief Comparison

Юджин Ян сравнивает автоэнкодеры и диффузионные модели, показывая их сходства и ключевое различие. Автоэнкодеры — это нейросети, обученные воспроизводить вход на выходе через узкое горлышко (bottlenec

Deep Learning Generative Models Ml Engineering
628 сл.
rss_feed Eugene Yan translateRU

Writing Robust Tests for Data & Machine Learning Pipelines

Юджин Ян разбирает, почему тесты для пайплайнов данных и машинного обучения часто ломаются — причём не из-за ошибок в коде, а из-за того, что сами тесты хрупки к изменениям данных и логики. На примере

Data Engineering Ml Engineering Production Ml
4103 сл.
rss_feed Eugene Yan translateRU

Data Science Project Quick-Start

Юджин Янь делится уроками о том, как эффективно стартовать data science-проекты, чтобы не платить «процентами» при выводе в продакшен. Он советует сначала понять «зачем» и контекст задачи, затем зафик

Data Science Ml Engineering Productivity Metrics
1494 сл.
rss_feed Eugene Yan translateRU

System Design for Recommendations and Search

Юджин Ян разбирает типовой системный дизайн промышленных рекомендательных и поисковых систем, описывая его через матрицу 2×2: оффлайн против онлайн и retrieval против ranking. В оффлайн-среде обучаютс

Ml Engineering Production Ml Recommendation Systems
2569 сл.
rss_feed Eugene Yan translateRU

The Metagame of Applying Machine Learning

Юджин Янь сравнивает применение машинного обучения в индустрии с «метаигрой» — игрой вокруг самой игры, где побеждают за счёт внешних знаний и факторов (примеры: камень-ножницы-бумага, StarCraft и син

Career Advice Machine Learning Ml Engineering
2426 сл.
rss_feed Eugene Yan translateRU

Choosing Problems in Data Science and Machine Learning

Юджин Ян разбирает, как выбирать задачи для команды дата-сайентистов: из 20 задач отобрать 3-8 для 8 человек. Основной инструмент — cost-benefit анализ, где выгода измеряется ростом выручки или сокращ

Cost Benefit Analysis Ml Engineering Prioritization
2505 сл.
rss_feed Eugene Yan translateRU

How to Write Design Docs for Machine Learning Systems

Это вторая часть ответа Eugene Yan на вопрос о том, как писать design-документы для проектов по data science и машинному обучению. Автор утверждает, что главная цель такого документа — заставить автор

Ml Engineering Technical Documentation Writing Online
3118 сл.
rss_feed Eugene Yan translateRU

How to Write Better with The Why, What, How Framework

Юджин Ян рассказывает, как письменная работа помогает решать правильные задачи правильным способом — на примере культуры письма в Amazon, где перед запуском AWS инженеры 18 месяцев писали документы о

Ml Engineering Technical Documentation Writing Online
1936 сл.
rss_feed Eugene Yan translateRU

Feature Stores: A Hierarchy of Needs

Юджин Янь разбирает, что такое feature store, и предлагает рассматривать его возможности как иерархию потребностей по аналогии с пирамидой Маслоу. В основании — доступ к признакам (поиск, переиспользо

Feature Stores Ml Engineering Production Ml
4007 сл.
rss_feed Eugene Yan translateRU

DataTalksClub - Building an ML System; Behind the Scenes

Юджин Ян рассказывает о выступлении на конференции DataTalks.Club, где он описал архитектуру ML-системы, построенной для крупнейшей больничной группы Юго-Восточной Азии. Данные из больниц шифруются, п

Healthcare Ai Ml Engineering Production Ml
1055 сл.
rss_feed Eugene Yan translateRU

How Reading Papers Helps You Be a More Effective Data Scientist

Юджин Ян рассказывает, как чтение научных статей делает дата-сайентиста эффективнее. Он приводит пример коллеги, которая, прочитав о подходе LinkedIn (kNN + SVM для очистки меток), помогла команде дов

Data Science Learning In Public Ml Engineering
1273 сл.
rss_feed Eugene Yan translateRU

My Notes From Spark+AI Summit 2020 (Application-Agnostic Talks)

Юджин Ян делится конспектами с конференции Spark+AI Summit 2020 (24–26 июня), сосредоточившись на докладах, не привязанных к конкретным приложениям. Ник Пентрит из IBM рассказал о четырёх способах пов

Data Engineering Deep Learning Ml Engineering
2162 сл.