长序列处理

Large World Models

largeworldmodel.github.io

Large World Models是专注于长序列多模态处理的开源大模型项目官网，核心基于RingAttention技术构建70亿参数规模的模型体系，可支持超100万标记的文本、长视频序列处理。项目提供开源模型权重下载、技术文档查阅、推理示例部署等核心功能，面向AI研究人员、多模态应用开发者、高校计算机相关专业师生等群体，可应用于长视频内容分析、超长文档理解、多模态知识库构建、长时序任务推理等多种科研与落地场景。

MInference 1.0

hqjiang.com

MInference 1.0 是面向长上下文大型语言模型优化的稀疏计算方案，核心定位为提升长序列处理预填充阶段的运行效率。其核心功能包括长上下文注意力模式识别、动态稀疏注意力计算、百万级Token提示加速、检索能力保留适配、多模型框架兼容。目标用户覆盖大模型研发人员、自然语言处理研究者、长文本应用开发者、AI系统优化工程师等群体，可应用于百万Token级长文档解析、多轮对话上下文预处理、长文档检索增强生成、大模型推理成本优化等场景，在不降低模型输出效果的前提下缩减长序列预填充的耗时与算力消耗。