OpenTelemetry

Langtrace

langtrace.ai

Langtrace是一款面向大型语言模型应用开发场景的开源可观测性工具，核心定位为LLM应用全链路性能监测与优化平台。核心功能包括符合OpenTelemetry标准的全链路追踪、机器学习流程多维度指标分析、LLM交互数据沉淀与黄金数据集构建。该工具面向AI应用开发工程师、MLOps运维人员、AI产品经理等群体，可应用于RAG应用性能排查、微调模型效果评估、AI应用迭代测试等多个场景，同时支持自我托管部署，能够帮助用户规避供应商锁定问题，实现AI应用全生命周期的可观测管理。

OpenLIT

openlit.io

OpenLIT是聚焦生成式AI与大语言模型应用可观察性的开源AI工程平台，核心定位是为AI应用全生命周期的运行状态监控、性能优化提供技术支撑。平台支持OpenTelemetry原生集成，可实现多维度细粒度的LLM调用数据洞察，同时提供代码全透明与私有化部署选项满足不同场景的数据安全需求。目标用户覆盖AI应用开发者、数据科学家、企业AI工程团队，适用于LLM应用上线前的性能调试、运行中的异常排查、资源使用成本核算、多模型调用效果对比等场景，帮助相关从业者简化AI应用运维流程，提升应用运行稳定性与资源使用效率。