MLXHub: 本地AI与LLM服务器

iPhone 和 iPad 上的本地 AI 助手。用下载好的模型离线聊天，调用系统工具，为以后的对话保存有用信息。你选择模型，也决定它能访问什么、执行什么操作。 让助手帮你处理日常事务 通过支持的工具，查询日历、提醒事项、“健康”数据、照片或音乐资料库，也可以使用网络搜索。读取类工具免费使用；由你选择授权哪些工具。使用 MLXHub Plus，可创建日历事件和提醒事项、记录支持的“健康”数据，并将常用指令保存为可复用的 Skills。可用工具及其效果取决于所选模型，网络搜索需要联网。 记忆由你掌控 为以后的聊天保留有用的个人信息和偏好。在“设置”中查看、添加、固定或删除记忆。通过 Plus，支持的模型还可以使用记忆工具保存或删除信息。记忆在对话开始时读取，修改从下一段新对话起生效。 为更大的模型腾出空间 探索适合设备的语言模型和视觉语言模型。支持的 MoE 模型可在需要时从设备存储中加载专家，无需让所有专家同时驻留内存。在支持的视觉模型中，纯文字对话仅在需要时加载视觉组件，从而减少内存占用。可运行的模型大小、速度和上下文长度取决于设备、模型及可用资源。 文字、照片与文档 输入文字、附上照片或添加文档，让支持相应输入的模型帮助理解内容。设置助手的语气和风格，也可以为每段对话自定义指令。在支持 Apple Intelligence 且已启用该功能的设备及地区，还可使用 Apple 的端侧模型。 按你的方式获取模型 模型来源默认使用 ModelScope（魔搭），通过准确的仓库 ID 添加模型；也可指定自己的镜像。下载模型需要网络及足够的存储空间，下载完成后可在设备上离线使用。模型是否适合你的设备仍取决于其架构、大小和运行需求。 让设备协同运行 连接同一本地网络内的兼容设备，共同运行支持分布式推理的模型。加入网格免费；创建网格需要 MLXHub Plus。可用的模型与分工方式取决于兼容性和设备资源。 为应用提供局域网服务 把 iPhone 或 iPad 用作本地网络中的聊天与文本嵌入（embeddings）服务器，供你的应用和脚本调用。支持 /v1/chat/completions 和 /v1/embeddings 等标准接口，提供身份验证与本地发现。可选的 LAN 服务器属于 MLXHub Plus，仅在应用处于前台时运行。嵌入接口可用于你自己的检索工作流程。 完全属于你，没有计量表 没有 token 上限，没有消息条数限制，没有每月额度，也没有哪家 AI 公司盯着你写的内容。推理在你的设备里完成，对话不会上传到任何云端 AI 服务：一个可以随便用、由你掌控的助手和服务器。 如果你不想订阅，还有一次性买断的 Lifetime：终身无限推理，以及往后新增的功能，都不再另外收费。因为它会一直变好——我们每次更新，每周出现的新开源 AI 模型，以及每