LLM Evals: Everything You Need to Know
Статья представляет собой исчерпывающий FAQ по оценке (evals) LLM-приложений, составленный Hamel Husain и Shreya на основе вопросов от 700+ инженеров и продакт-менеджеров. Центральная идея — анализ ош
Статья представляет собой исчерпывающий FAQ по оценке (evals) LLM-приложений, составленный Hamel Husain и Shreya на основе вопросов от 700+ инженеров и продакт-менеджеров. Центральная идея — анализ ош
Hamel Husain рекомендует создавать собственные инструменты для аннотации данных вместо использования готовых решений. Кастомный инструмент — самая результативная инвестиция в процесс оценки ИИ: команд
Хамел Хусейн отвечает на вопрос о том, как эффективно отбирать продакшн-трейсы для ревью, ведь случайный просмотр неэффективен — большинство трейсов не содержат ошибок. Он предлагает несколько стратег
Статья посвящена вопросу о том, сколько людей должны размечать выходные данные LLM. Для большинства малых и средних компаний оптимально назначить одного доменного эксперта — «благожелательного диктато
Юджин Ян рассказывает, как писать руководства по разметке/аннотированию данных — задача, которая на практике оказывается сложнее, чем просто инструкция. Хорошее руководство должно отвечать на пять воп
Andrej Karpathy описывает эксперимент по ручной классификации изображений из датасета CIFAR-10 — набора из 50 000 тренировочных и 10 000 тестовых изображений в 10 категориях. Он достиг точности около