大模型调用监控

ell

docs.ell.so

ell是面向开发者的轻量级语言模型编程库官方文档站，核心定位是为开发者提供将提示视为函数的LLM应用开发范式支持。核心功能包括：其一，提供函数式提示编程规范，开发者可通过定义Python函数的方式生成LLM调用所需的提示或消息列表，无需手动拼接字符串；其二，内置监控、版本控制与可视化工具，可追溯每次提示迭代的效果差异，实现提示工程的可复现与可量化；其三，提供与主流大模型API的适配支持，兼容OpenAI、Anthropic等多个厂商的模型接口。目标用户覆盖LLM应用开发者、AI算法工程师、提示工程研究人员等，适用于企业级LLM应用开发、个人AI工具原型搭建、学术研究中的提示效果对比测试等场景，帮助开发者降低LLM应用的维护成本，提升提示迭代效率。

Propel for LLM Apps

propeldata.com

Propel for LLM Apps是专为生成式人工智能应用打造的数据分析与用量计量工具，依托Propel成熟的数据应用API平台能力，为LLM应用开发者提供全链路的运行数据观测能力。核心功能包括LLM API调用全维度数据追踪、灵活的用量限制规则配置、自定义可视化分析看板，支持开发者快速接入后实现调用成本管控、用户分层运营、产品体验优化等目标。面向独立开发者、AI应用创业团队、企业AI研发部门等群体，适用于ChatGPT类对话应用、AI内容生成工具、AI辅助开发平台等多种LLM应用的日常运维与运营场景。