输入关键词搜索 AI 工具、分类,或直接跳转页面
LM Studio是专注于本地大语言模型部署与运行的桌面端工具平台,核心定位为让用户无需依赖云端API即可在个人设备上调试、使用各类开源大模型。平台支持模型批量搜索下载、本地离线推理、多模型并行部署三大核心功能,面向AI开发者、AI爱好者、隐私敏感型企业用户、内容创作者、学生研究群体等,可应用于离线场景下的内容生成、模型性能测试、隐私数据处理、自定义模型微调验证等多种场景,无需复杂的服务器配置即可完成大模型的本地化部署操作。
进入官网首页,根据自身设备的操作系统选择对应版本的安装包,支持Windows、macOS、Linux三大系统,下载后按照引导完成软件安装。
打开安装完成的LM Studio,进入模型库页面,在搜索栏输入想要使用的模型名称,或根据参数、适配硬件筛选合适的开源模型。
点击目标模型对应的下载按钮,等待模型文件下载完成,下载过程中可在下载管理页面查看进度,支持断点续传。
进入本地模型管理页面,点击已下载模型旁的启动按钮,可根据需求调整推理参数,也可直接开启API服务配置端口与访问权限。
进入会话交互界面,在输入框填写prompt后即可获取模型本地推理结果,若需要对接第三方工具,使用生成的本地API地址即可调用。
看完教程,直接上手试试
访问 LM Studio 官网