Introducing Claude Opus 4.5
Anthropic представила Claude Opus 4.5 — новейшую модель, доступную с сегодняшнего дня в приложениях, API и на трёх крупнейших облачных платформах. Модель показывает state-of-the-art результаты в реаль
Anthropic представила Claude Opus 4.5 — новейшую модель, доступную с сегодняшнего дня в приложениях, API и на трёх крупнейших облачных платформах. Модель показывает state-of-the-art результаты в реаль
Anthropic представила Claude Opus 4.6 — обновление своей самой умной модели. Она лучше программирует, аккуратнее планирует, дольше держит агентные задачи, надёжнее работает в больших кодовых базах и в
Автор размышляет о центральной дискуссии в AI-инженерии — споре между сторонниками «Big Model» (мощь сосредоточена в самой модели) и «Big Harness» (ценность создаёт обвязка вокруг модели). Команды Cla
Anthropic сообщает о значительном прогрессе в понимании внутренней работы LLM: исследователи извлекли миллионы признаков (features) из среднего слоя Claude 3.0 Sonnet, получив первую детальную карту к
Андрей Карпатый представляет художественный проект microgpt — один файл на 200 строк чистого Python без зависимостей, который обучает и запускает GPT. В скрипте собрана вся алгоритмическая суть LLM: д
Эссе разбирает фундаментальное ограничение LLM: они оптимизированы под создание артефактов, которые нравятся оценщикам в изоляции, но не умеют моделировать «мир» — реакции других агентов, их скрытые м
В рамках курса LLM Evals Хэмел Хусейн принимал Ориона Веллера из Университета Джонса Хопкинса, который рассказал об интеграции instruction-following и reasoning напрямую в процесс поиска документов дл
Андрей Карпати проводит аналогию между ИИ и новой вычислительной парадигмой, поскольку оба связаны с автоматизацией обработки цифровой информации. В прежней парадигме (Software 1.0 — написанные вручну
Для выбора модели LLM-as-Judge обычно нормально использовать ту же модель, что и в основном пайплайне, поскольку судья выполняет другую задачу. Исследования показывают, что модели могут проявлять пред
Хамель Хусейн, независимый консультант по AI-продуктам и в прошлом руководитель команды CodeSearchNet (предшественника GitHub CoPilot), утверждает, что почти все неудачные LLM-продукты объединяет одна
Юджин Ян описывает эксперимент по обучению гибрида LLM и рекомендательной системы на основе семантических ID — иерархических токенов, заменяющих хеш-идентификаторы товаров. Используя данные Amazon Rev
Статья обсуждает подходы к версионированию и управлению промптами в LLM-приложениях. Автор рекомендует хранить промпты в Git, рассматривая их как программные артефакты, которые версионируются и деплоя
Трейс (trace) — это полная запись всех действий, сообщений, вызовов инструментов и извлечений данных, начиная с одного исходного запроса пользователя и заканчивая финальным ответом. Он охватывает кажд
Хамель Хусейн отвечает на вопрос, что помещать в системный промпт, а что — в пользовательский. Главный совет: ничто не заменит эксперимента — тестируйте оба варианта (в идеале с evals) на своей модели
Хамель Хусейн отвечает на частый вопрос разработчиков LLM-приложений: сколько времени тратить на выбор модели. Его позиция — большинство фиксируется на смене модели как на главном способе улучшения си
Хамэль Хусейн отвечает на вопрос, стоит ли строить автоматические оценщики (evaluators) для каждого найденного режима отказа LLM. Главный совет — сначала устранять очевидные пробелы через доработку пр
Hamel Husain рассказывает, почему стоит создавать собственные инструменты для разметки и курирования данных при работе с LLM, а не полагаться на готовые вендорские решения. Он перепробовал Spacy Prodi
Хэмел Хусейн делится практическими формулами для прикидочной оценки объёма vRAM, необходимого для обучения и инференса LLM. Он отталкивается от калькулятора Зака Мюллера и дополняет его поправками на
Hamel Husain проводит открытые консультационные часы, на которых отвечает на вопросы о больших языковых моделях (LLM). Формат открыт для всех желающих, записаться можно через Calendly.
Hamel Husain показывает, как использовать вызов функций (function calling) с моделью Llama-3 70B Instruct через инференс-API Replicate. В заметке приводится вспомогательный код для парсинга ответа с т
Заметка Hamel Husain демонстрирует итеративный подход к разработке промптов на примере генерации маркетингового описания офисного кресла на основе технического фактологического листа. Автор показывает
Заметка показывает, как извлекать информацию из текстов с помощью LLM на примере отзыва о лампе и новостной статьи. Приведены промпты для определения тональности (positive/negative), списка эмоций, на
Юджин Ян (Eugene Yan) сообщает, что вместе с Chip его пригласили выступить на панельной дискуссии на NVIDIA GTC 2025 под названием «Insights and Lessons Learned From Building LLM-Powered Applications»
Обзор того, как индустриальные рекомендательные системы и поиск эволюционировали за последний год под влиянием больших языковых моделей. Автор разбирает четыре направления: архитектуры с LLM/мультимод