Q: Should product managers and engineers collaborate on error analysis? How? – Hamel’s Blog - Hamel Husain
Хамель Хусейн отвечает на вопрос, должны ли продакт-менеджеры и инженеры вместе заниматься анализом ошибок LLM-систем. На старте им стоит совместно выстраивать общий контекст: инженеры ловят технические сбои (проблемы с извлечением данных, ошибки вызова инструментов), а PM выявляют продуктовые провалы — невыполненные ожидания пользователей, путаные ответы или отсутствующие функции. Со временем процесс анализа ошибок стоит передать «благожелательному диктатору» — доменному эксперту или PM, который понимает потребности пользователей и оценивает реальный результат, а не техническую реализацию (вопрос «Запись на приём создана?», а не «Удался ли вызовы инструмента?»). Лучший способ усилить доменного эксперта — дать ему кастомные инструменты аннотирования, которые показывают итоги работы системы рядом с трассировками, держа весь контекст на одном экране.
At the outset, collaborate to establish shared context. Engineers catch technical issues like retrieval issues and tool errors. PMs identify product failures like unmet user expectations, confusing responses, or missing features users expect.
As time goes on you should lean towards a benevolent dictator for error analysis: a domain expert or PM who understands user needs. Empower domain experts to evaluate actual outcomes rather than technical implementation. Ask “Has an appointment been made?” not “Did the tool call succeed?” The best way to empower the domain expert is to give them custom annotation tools that display system outcomes alongside traces. Show the confirmation, generated email, or database update that validates goal completion. Keep all context on one screen so non-technical reviewers focus on results.
This article is part of our AI Evals FAQ, a collection of common questions (and answers) about LLM evaluation. View all FAQs or return to the homepage.