本地模型部署

HyperLLM

hyperllm.org

HyperLLM是一个专注于小型语言模型开发与微调和训练的开放平台，核心定位是为语言模型研究者和开发者提供低成本的轻量型模型训练与微调服务。平台支持开发者快速完成小型语言模型的即时微调，支持自定义数据集导入，提供开源模型参数下载渠道，支持本地部署适配。该平台面向AI研究人员、NLP开发者、创业团队、学生研究者等用户，可用于快速原型验证、垂直领域模型定制、学术研究实验、小型项目部署等场景。

Linchpin

linchpin.work

Linchpin是由Linchpin团队开发的开源可自托管AI智能体运行平台，核心定位为降低AI智能体部署与运行门槛的技术工具。平台支持通过OpenRouter接入各类主流云端大模型，也可通过Ollama调用本地部署的开源模型，同时提供单Docker Compose一键部署能力。目标用户覆盖AI研发人员、独立开发者、企业技术团队、开源技术爱好者等群体，可应用于智能体开发调试、私有AI服务搭建、企业内部AI应用落地、个人AI工具定制等多种场景，无需复杂的环境配置即可快速搭建属于自己的AI智能体运行环境。