大模型优化
hqjiang.com
MInference 1.0 是面向长上下文大型语言模型优化的稀疏计算方案，核心定位为提升长序列处理预填充阶段的运行效率。其核心功能包括长上下文注意力模式识别、动态稀疏注意力计算、百万级Token提示加速、检索能力保留适配、多模型框架兼容。目标用户覆盖大模型研发人员、自然语言处理研究者、长文本应用开发者、AI系统优化工程师等群体，可应用于百万Token级长文档解析、多轮对话上下文预处理、长文档检索增强生成、大模型推理成本优化等场景，在不降低模型输出效果的前提下缩减长序列预填充的耗时与算力消耗。
tidepool.so
Tidepool by Aquarium是专注于AI文本交互场景的产品分析工具，核心定位是帮助产品团队从用户与AI产品的文本对话数据中提取可落地的决策依据。核心功能包括无代码文本交互聚类分析、热门用户话题自动识别、产品优化洞见自动生成，同时支持多来源对话数据导入与自定义维度筛选。目标用户覆盖AI产品经理、用户研究人员、产品运营人员、AI模型训练师等群体，适用于AI对话产品迭代优化、用户需求挖掘、模型回复效果评估、产品功能优先级排序等多个场景，无需编写SQL或代码即可完成复杂的文本数据拆解工作。
promptpilot.volcengine.com
PromptPilot是火山引擎推出的大语言模型全周期优化平台，核心定位为帮助用户提升AI交互输出质量与匹配度。平台提供智能提示词生成、多维度效果调优、迭代效果追踪三类核心功能，支持用户根据业务需求快速生成适配不同大模型的提示词方案，同时可对提示词效果进行批量测试与持续优化。目标用户覆盖AI应用开发者、企业内容生产团队、AI产品运营人员等群体，适用于智能客服话术优化、AI内容生成质量提升、大模型应用落地调试等多种场景。