7 个 Agent Tracing 工具对比（LangSmith、Langfuse、Phoenix）

面向 LLM 应用的 tracing、evaluation 和 debugging 平台。

LangSmith

L

适合需要围绕 Agent 质量连接 trace、dataset、experiment 和生产监控的团队。

开源 LLM 工程平台，覆盖 tracing、评测与 prompt 工作流。

Langfuse

L

适合需要可自托管可观测性，并希望在同一栈里管理 dataset、评分和 prompt 的团队。

开源 LLM/Agent tracing，内置评测能力。

Arize Phoenix

AP

适合需要把 prompt 调试、Agent trace 和评测串联在一个开源工具里的团队。

以评测为先的平台，用于记录、评分和比较 Agent run。

Braintrust

B

适合产品和工程团队需要快速比较 prompt、模型和工具路径实验结果的场景。

开源 AI 网关与 LLM 可观测性，通过代理模式采集 trace。

Helicone

H

适合希望通过统一网关路由模型流量，并获得请求级成本、延迟和缓存指标的团队。

面向 LLM 与 Agent 工作负载的 OpenTelemetry 原生可观测性。

Traceloop

T

适合平台团队已运行 OpenTelemetry，并希望把 LLM span 接入现有后端的情况。

Agent 可观测性，覆盖 tracing、分析与场景化测试。

LangWatch

L

适合希望在迭代 guardrail 和场景时，同时监控对话与 Agent 流程的团队。

开源工具包，用于 LLM 应用的 tracing、评测与迭代。

Weights & Biases Weave

WB

适合已使用 W&B、并希望在同一实验文化里管理 LLM trace、eval 和对比的 ML 团队。

生产级 LLM gateway，支持路由、guardrails、MCP 和可观测性。

Portkey AI Gateway

PA

适合生产 Agent 需要统一 API gateway 跨 200+ LLM provider，内建负载均衡、fallback、缓存、guardrails 和成本追踪。

企业级 GenAI evaluation、可观测性和保护平台。

Galileo

G

适合高合规性团队，需要在统一平台中获得企业级 evaluation、可观测性和实时 guardrails。

面向 agents、tools、handoffs 和 traces 的轻量 SDK。

OpenAI Agents SDK

OA

适合已经围绕 OpenAI 模型栈建设，并希望快速从原型走到可观测 Agent 工作流的团队。

面向可控 Agent 的有状态图编排。

LangGraph

L

适合需要把 Agent 行为表达成明确节点、边、状态和恢复路径的场景。