端侧大模型

Chrome Built-In AI Gemini Nano Test Page

chromeai.org

Chrome Built-In AI Gemini Nano Test Page是一个专为Chrome浏览器内置离线AI模型Gemini Nano打造的公开测试平台，面向AI开发者、浏览器功能测试人员与AI技术研究者提供模型运行效果验证环境。网站支持直接在Chrome浏览器中调用本地运行的Gemini Nano模型，完成文本生成、prompt测试、模型响应速度测试等操作，无需部署模型环境，可直观查看离线AI模型在本地设备的运行表现，适合用于验证Chrome AI功能可用性、测试prompt对模型输出的影响，以及研究本地离线AI的运行特性。

Lora

lora.peekaboolabs.ai

Lora是PeekabooLabs推出的移动设备优化本地语言模型，核心定位是为移动应用提供低能耗、轻量化的本地大语言模型集成方案。核心功能包含跨平台SDK快速集成能力，支持iOS与Android双端接入；具备与GPT-4o-mini相当的推理性能，24亿参数、1.5GB体积适配移动设备存储限制；针对实时移动推理做了专项优化，可实现端侧低延迟响应。目标用户覆盖移动应用开发者、企业技术团队、智能硬件厂商等，适用于移动应用智能交互功能开发、离线AI能力搭建、端侧隐私敏感场景的AI服务部署等场景，帮助开发者无需依赖云端服务即可为应用植入成熟的大语言模型能力。