Q: Should product managers and engineers collaborate on error analysis? How? – Hamel’s Blog - Hamel Husain
Хамель Хусейн отвечает на вопрос, должны ли продакт-менеджеры и инженеры вместе заниматься анализом ошибок LLM-систем. На старте им стоит совместно выстраивать общий контекст: инженеры ловят технические сбои (проблемы с извлечением данных, ошибки вызова инструментов), а PM выявляют продуктовые провалы — невыполненные ожидания пользователей, путаные ответы или отсутствующие функции. Со временем процесс анализа ошибок стоит передать «благожелательному диктатору» — доменному эксперту или PM, который понимает потребности пользователей и оценивает реальный результат, а не техническую реализацию (вопрос «Запись на приём создана?», а не «Удался ли вызовы инструмента?»). Лучший способ усилить доменного эксперта — дать ему кастомные инструменты аннотирования, которые показывают итоги работы системы рядом с трассировками, держа весь контекст на одном экране.
At the outset, collaborate to establish shared context. Engineers catch technical issues like retrieval issues and tool errors. PMs identify product failures like unmet user expectations, confusing responses, or missing features users expect.
На старте сотрудничайте, чтобы выстроить общий контекст. Инженеры ловят технические проблемы вроде сбоев извлечения данных и ошибок вызова инструментов. PM выявляют продуктовые провалы — невыполненные ожидания пользователей, путаные ответы или отсутствие функций, которые пользователи рассчитывают увидеть.
As time goes on you should lean towards a benevolent dictator for error analysis: a domain expert or PM who understands user needs. Empower domain experts to evaluate actual outcomes rather than technical implementation. Ask “Has an appointment been made?” not “Did the tool call succeed?” The best way to empower the domain expert is to give them custom annotation tools that display system outcomes alongside traces. Show the confirmation, generated email, or database update that validates goal completion. Keep all context on one screen so non-technical reviewers focus on results.
Со временем стоит склоняться к модели благожелательного диктатора в анализе ошибок: это доменный эксперт или PM, который понимает потребности пользователей. Дайте доменным экспертам возможность оценивать фактические результаты, а не техническую реализацию. Спрашивайте «Запись на приём создана?», а не «Удался ли вызов инструмента?». Лучший способ усилить доменного эксперта — дать ему кастомные инструменты аннотирования, которые показывают итоги работы системы рядом с трассировками. Покажите подтверждение, сгенерированное письмо или обновление базы данных, которое доказывает достижение цели. Держите весь контекст на одном экране, чтобы нетехнические рецензенты сосредоточились на результатах.
This article is part of our AI Evals FAQ, a collection of common questions (and answers) about LLM evaluation. View all FAQs or return to the homepage.
Эта статья — часть нашего AI Evals FAQ, сборника частых вопросов (и ответов) об оценке LLM. Посмотреть все FAQ или вернуться на главную.