Q: Should product managers and engineers collaborate on error analysis? How? – Hamel’s Blog - Hamel Husain
Хамель Хусейн отвечает на вопрос, должны ли продакт-менеджеры и инженеры вместе заниматься анализом ошибок LLM-систем. На старте им стоит совместно выстраивать общий контекст: инженеры ловят технические сбои (проблемы с извлечением данных, ошибки вызова инструментов), а PM выявляют продуктовые провалы — невыполненные ожидания пользователей, путаные ответы или отсутствующие функции. Со временем процесс анализа ошибок стоит передать «благожелательному диктатору» — доменному эксперту или PM, который понимает потребности пользователей и оценивает реальный результат, а не техническую реализацию (вопрос «Запись на приём создана?», а не «Удался ли вызовы инструмента?»). Лучший способ усилить доменного эксперта — дать ему кастомные инструменты аннотирования, которые показывают итоги работы системы рядом с трассировками, держа весь контекст на одном экране.
На старте сотрудничайте, чтобы выстроить общий контекст. Инженеры ловят технические проблемы вроде сбоев извлечения данных и ошибок вызова инструментов. PM выявляют продуктовые провалы — невыполненные ожидания пользователей, путаные ответы или отсутствие функций, которые пользователи рассчитывают увидеть.
Со временем стоит склоняться к модели благожелательного диктатора в анализе ошибок: это доменный эксперт или PM, который понимает потребности пользователей. Дайте доменным экспертам возможность оценивать фактические результаты, а не техническую реализацию. Спрашивайте «Запись на приём создана?», а не «Удался ли вызов инструмента?». Лучший способ усилить доменного эксперта — дать ему кастомные инструменты аннотирования, которые показывают итоги работы системы рядом с трассировками. Покажите подтверждение, сгенерированное письмо или обновление базы данных, которое доказывает достижение цели. Держите весь контекст на одном экране, чтобы нетехнические рецензенты сосредоточились на результатах.
Эта статья — часть нашего AI Evals FAQ, сборника частых вопросов (и ответов) об оценке LLM. Посмотреть все FAQ или вернуться на главную.