newsmode
search
Меню
Категории
Теги (топ-30)
Источники
Прогресс перевода 1953/2270 · 86%

#LLM Engineering · 76

rss_feed Anthropic News translateRU

Introducing Claude Opus 4.5

Anthropic представила Claude Opus 4.5 — новейшую модель, доступную с сегодняшнего дня в приложениях, API и на трёх крупнейших облачных платформах. Модель показывает state-of-the-art результаты в реаль

AI Agents Frontier Models LLM Engineering
2361 сл.
rss_feed Anthropic News translateRU

Claude Opus 4.6

Anthropic представила Claude Opus 4.6 — обновление своей самой умной модели. Она лучше программирует, аккуратнее планирует, дольше держит агентные задачи, надёжнее работает в больших кодовых базах и в

AI Agents Frontier Models LLM Engineering
2831 сл.
rss_feed Latent Space translateRU

[AINews] Is Harness Engineering real?

Автор размышляет о центральной дискуссии в AI-инженерии — споре между сторонниками «Big Model» (мощь сосредоточена в самой модели) и «Big Harness» (ценность создаёт обвязка вокруг модели). Команды Cla

AI Agents Ai Infrastructure LLM Engineering
1146 сл.
rss_feed Anthropic News translateRU

Mapping the Mind of a Large Language Model

Anthropic сообщает о значительном прогрессе в понимании внутренней работы LLM: исследователи извлекли миллионы признаков (features) из среднего слоя Claude 3.0 Sonnet, получив первую детальную карту к

Ai Safety LLM Engineering Mechanistic Interpretability
1839 сл.
rss_feed Andrej Karpathy translateRU

microgpt

Андрей Карпатый представляет художественный проект microgpt — один файл на 200 строк чистого Python без зависимостей, который обучает и запускает GPT. В скрипте собрана вся алгоритмическая суть LLM: д

Deep Learning LLM Engineering Open Source
5492 сл.
rss_feed Latent Space translateRU

Experts Have World Models. LLMs Have Word Models.

Эссе разбирает фундаментальное ограничение LLM: они оптимизированы под создание артефактов, которые нравятся оценщикам в изоляции, но не умеют моделировать «мир» — реакции других агентов, их скрытые м

AI Agents Frontier Models LLM Engineering
3586 сл.
rss_feed Hamel Husain translateRU

P3: Optimizing Retrieval with Reasoning Models – Hamel’s Blog - Hamel Husain

В рамках курса LLM Evals Хэмел Хусейн принимал Ориона Веллера из Университета Джонса Хопкинса, который рассказал об интеграции instruction-following и reasoning напрямую в процесс поиска документов дл

Ai Infrastructure LLM Engineering RAG
2966 сл.
rss_feed Andrej Karpathy — BearBlog translateRU

Verifiability

Андрей Карпати проводит аналогию между ИИ и новой вычислительной парадигмой, поскольку оба связаны с автоматизацией обработки цифровой информации. В прежней парадигме (Software 1.0 — написанные вручну

Frontier Models LLM Engineering Software Philosophy
381 сл.
rss_feed Hamel Husain translateRU

Q: Can I use the same model for both the main task and evaluation? – Hamel’s Blog - Hamel Husain

Для выбора модели LLM-as-Judge обычно нормально использовать ту же модель, что и в основном пайплайне, поскольку судья выполняет другую задачу. Исследования показывают, что модели могут проявлять пред

LLM Engineering LLM Evals
208 сл.
rss_feed Hamel Husain translateRU

Your AI Product Needs Evals –

Хамель Хусейн, независимый консультант по AI-продуктам и в прошлом руководитель команды CodeSearchNet (предшественника GitHub CoPilot), утверждает, что почти все неудачные LLM-продукты объединяет одна

Ai Products LLM Engineering LLM Evals
3831 сл.
rss_feed Eugene Yan translateRU

Training an LLM-RecSys Hybrid for Steerable Recs with Semantic IDs

Юджин Ян описывает эксперимент по обучению гибрида LLM и рекомендательной системы на основе семантических ID — иерархических токенов, заменяющих хеш-идентификаторы товаров. Используя данные Amazon Rev

LLM Engineering RAG Recommendation Systems
4921 сл.
rss_feed Hamel Husain translateRU

Q: How should I version and manage prompts? – Hamel’s Blog - Hamel Husain

Статья обсуждает подходы к версионированию и управлению промптами в LLM-приложениях. Автор рекомендует хранить промпты в Git, рассматривая их как программные артефакты, которые версионируются и деплоя

LLM Engineering LLM Evals Prompt Engineering
370 сл.
rss_feed Hamel Husain translateRU

Q: What is a trace? – Hamel’s Blog - Hamel Husain

Трейс (trace) — это полная запись всех действий, сообщений, вызовов инструментов и извлечений данных, начиная с одного исходного запроса пользователя и заканчивая финальным ответом. Он охватывает кажд

AI Agents LLM Engineering LLM Evals
106 сл.
rss_feed Hamel Husain translateRU

Q: What should go in the system prompt vs. the user prompt? – Hamel’s Blog - Hamel Husain

Хамель Хусейн отвечает на вопрос, что помещать в системный промпт, а что — в пользовательский. Главный совет: ничто не заменит эксперимента — тестируйте оба варианта (в идеале с evals) на своей модели

LLM Engineering LLM Evals Prompt Engineering
184 сл.
rss_feed Hamel Husain translateRU

Q: How much time should I spend on model selection? – Hamel’s Blog - Hamel Husain

Хамель Хусейн отвечает на частый вопрос разработчиков LLM-приложений: сколько времени тратить на выбор модели. Его позиция — большинство фиксируется на смене модели как на главном способе улучшения си

LLM Engineering LLM Evals
97 сл.
rss_feed Hamel Husain translateRU

Q: Should I build automated evaluators for every failure mode I find? – Hamel’s Blog - Hamel Husain

Хамэль Хусейн отвечает на вопрос, стоит ли строить автоматические оценщики (evaluators) для каждого найденного режима отказа LLM. Главный совет — сначала устранять очевидные пробелы через доработку пр

LLM Engineering LLM Evals Prompt Engineering
181 сл.
rss_feed Hamel Husain translateRU

Curating LLM data – Hamel’s Blog - Hamel Husain

Hamel Husain рассказывает, почему стоит создавать собственные инструменты для разметки и курирования данных при работе с LLM, а не полагаться на готовые вендорские решения. Он перепробовал Spacy Prodi

Data Engineering Developer Tools LLM Engineering
578 сл.
rss_feed Hamel Husain translateRU

Estimating vRAM – Hamel’s Blog - Hamel Husain

Хэмел Хусейн делится практическими формулами для прикидочной оценки объёма vRAM, необходимого для обучения и инференса LLM. Он отталкивается от калькулятора Зака Мюллера и дополняет его поправками на

LLM Engineering Ml Engineering Production Ml
539 сл.
rss_feed Hamel Husain translateRU

Open Office Hours – Hamel’s Blog - Hamel Husain

Hamel Husain проводит открытые консультационные часы, на которых отвечает на вопросы о больших языковых моделях (LLM). Формат открыт для всех желающих, записаться можно через Calendly.

Learning In Public LLM Engineering
18 сл.
rss_feed Hamel Husain translateRU

Llama-3 Func Calling – Hamel’s Blog - Hamel Husain

Hamel Husain показывает, как использовать вызов функций (function calling) с моделью Llama-3 70B Instruct через инференс-API Replicate. В заметке приводится вспомогательный код для парсинга ответа с т

Developer Tools LLM Engineering Open Source
618 сл.
rss_feed Hamel Husain translateRU

Iterative Prompt Development – Hamel’s Blog - Hamel Husain

Заметка Hamel Husain демонстрирует итеративный подход к разработке промптов на примере генерации маркетингового описания офисного кресла на основе технического фактологического листа. Автор показывает

LLM Engineering Prompt Engineering
764 сл.
rss_feed Hamel Husain translateRU

Inferring – Hamel’s Blog - Hamel Husain

Заметка показывает, как извлекать информацию из текстов с помощью LLM на примере отзыва о лампе и новостной статьи. Приведены промпты для определения тональности (positive/negative), списка эмоций, на

LLM Engineering Prompt Engineering
858 сл.
rss_feed Eugene Yan translateRU

Improving Recommendation Systems & Search in the Age of LLMs

Обзор того, как индустриальные рекомендательные системы и поиск эволюционировали за последний год под влиянием больших языковых моделей. Автор разбирает четыре направления: архитектуры с LLM/мультимод

LLM Engineering Ml Engineering RAG
8580 сл.