https://blog.tanteng.space/tags/debugging/Recent content in Debugging on Tony老师的博客HugozhSun, 12 Oct 2025 10:00:00 +0800https://blog.tanteng.space/2025/10/agent-observability/Sun, 12 Oct 2025 10:00:00 +0800https://blog.tanteng.space/2025/10/agent-observability/<blockquote> <p>LLM Agent 在生产环境出问题时的第一反应是什么？看 log？不够。看 metrics？不够。看 prompt？没用。你需要的是<strong>完整的 trace 重放</strong>——从用户输入到最终输出，每一步 LLM 调用、每个工具调用、每个决策点的中间结果。</p> </blockquote> <p>传统微服务的 observability（metrics / logs / traces）已经成熟。但 LLM Agent 的可观测性是另一回事：</p> <ul> <li><strong>同样的输入可能产生不同输出</strong>——随机性是基本属性</li> <li><strong>每一步都是 LLM 调用</strong>——成本不只是延迟</li> <li><strong>失败原因多样</strong>——模型幻觉、工具报错、context 超限、用户指令歧义</li> <li><strong>难以重现</strong>——不同时间的模型版本可能给出不同结果</li> </ul> <p>这篇文章讲怎么搭一套<strong>真正能 debug LLM Agent</strong>的可观测性体系。</p>