本地API服务

LM Studio

lmstudio.ai

LM Studio是专注于本地大语言模型部署与运行的桌面端工具平台，核心定位为让用户无需依赖云端API即可在个人设备上调试、使用各类开源大模型。平台支持模型批量搜索下载、本地离线推理、多模型并行部署三大核心功能，面向AI开发者、AI爱好者、隐私敏感型企业用户、内容创作者、学生研究群体等，可应用于离线场景下的内容生成、模型性能测试、隐私数据处理、自定义模型微调验证等多种场景，无需复杂的服务器配置即可完成大模型的本地化部署操作。

Jan

jan.ai

Jan是一款开源自托管的AI对话工具，可完全离线在本地设备运行，作为类ChatGPT的替代方案，支持用户自主管理所有数据。核心功能包含本地模型运行、自定义AI助手配置、兼容OpenAI规范的本地API服务三类，面向注重数据隐私的开发者、内容创作者、企业办公人员等群体，适用于离线AI对话、本地AI应用开发调试、个性化AI助手搭建等场景，无需依赖第三方云端服务即可完成各类AI交互需求。