- 适用对象
- 大模型研发工程师 查找第三方公开评测参考数据
- 主要功能
- 评测任务共享、评测结果公示
- 平台
- 网页
- 已收录
- 2026.10.18(13 天)
阅读目录
AGI-Eval评测社区是什么,怎么使用?
约 3 分钟AGI-Eval评测社区,是由上海交通大学、同济大学、华东师范大学以及 DataWhale 等高校和机构合作推出的大模型评测社区
AGI-Eval评测社区是上海交通大学、同济大学、华东师范大学与DataWhale等高校及机构联合推出的大模型评测类开发者社区,面向大模型相关从业者、研究者开放公共评测协作空间。当前大模型评测标准分散、不同主体的评测结果参考性参差不齐,社区依托合作方的学术与实践资源,聚合不同背景用户的评测需求,搭建公开的评测任务共享、结果公示的公共协作平台,降低普通开发者参与大模型评测的准入门槛。
社区的核心能力围绕大模型评测相关的协作、公示场景展开,所有规则与可使用的评测工具范围以官网最新公示内容为准。如果你是大模型研发人员,需要获取公开可信的第三方评测参考;或是AI方向的学生、研究者,想要参与公开的大模型评测项目积累实践经验,都可以进入该社区查找适配的资源。
主要功能
- 评测任务共享:用户可查看社区内公开的各类大模型评测任务,按需认领参与,获取官方认可的评测参与记录
- 评测结果公示:所有社区内产出的合规评测结果统一公开展示,不同用户可交叉核验数据,减少信息差
- 开发者交流区:围绕大模型评测相关的技术问题,同领域用户可直接发帖互动,交换实操经验
- 机构资源对接:合作高校、机构发布的评测相关招募、公开课题信息,可直接在社区内查询申请
怎么使用
- 打开浏览器输入AGI-Eval评测社区官网地址,进入社区主页面完成账号注册
- 浏览社区首页的公开评测任务列表,筛选与自身研究或工作方向匹配的任务查看详情
- 确认任务参与要求后提交参与申请,通过审核后即可获取对应评测任务的操作权限
- 按任务指引完成评测操作,提交结果后等待官方核验,核验通过后可在公示区查看结果
适合什么人群
- 大模型研发工程师 查找第三方公开评测参考数据
- AI方向高校学生 参与公开评测项目积累实操经验
- 大模型相关研究者 发布自定义评测任务获取协作
- AI行业从业者 查阅公开大模型评测横向对比结果
用 AGI-Eval评测社区 做大模型基准性能横向对比
打开AGI-Eval评测社区官网首页,在顶部导航栏找到「评测榜单」入口点击进入。页面会展示不同维度的大模型公开评测结果,可勾选你关注的多个模型,选定指定评测维度后生成对比视图。
你可以直接查看各模型在对应任务下的得分分布,也能下载整理好的结构化对比表格,所有数据均来自社区合作高校及机构的统一评测流程。无需自行搭建复杂评测环境,就能获取统一标准下的多模型横向参考结果。
用 AGI-Eval评测社区 提交自定义大模型评测任务
从官网首页的「我的评测」板块完成身份校验后,选择「新建自定义评测」选项。按页面提示上传待评测的大模型接口信息,勾选你需要调用的社区公开评测数据集,提交后等待系统后台调度运行。
任务运行完成后,你会收到平台推送的结果通知,可在个人中心查看该模型在选定数据集下的各项得分明细,还能导出对应的评测过程日志,确认每一条测试用例的实际输出与判定依据。所有评测流程均遵循社区公开的统一判定规则,结果可直接用于内部模型迭代参考。
开始使用 AGI-Eval评测社区
打开AGI-Eval评测社区官网,点击页面右上角的登录按钮,支持手机号验证方式完成账号注册登录。平台当前未标注公开定价,所有涉及服务权限的费用说明,均以官网公示为准。
首次进入可先浏览首页的公开评测榜单,熟悉社区采用的评测数据集类型与判定标准,再尝试操作公开的示例评测任务,熟悉全流程步骤后再提交自定义的专属评测需求。
优点与不足
优点
- 背靠多所高校及行业机构,评测相关资源的可信度较高
- 社区成员以相关领域从业者、研究者为主,交流精准度高
- 公开评测结果可交叉核验,参考价值高于零散的个人评测
不足
- 当前仅支持web端访问,无移动端适配的独立应用
- 社区内开放的评测任务数量有限,部分细分方向任务较少
能帮你做的 7 件事
- 01评测任务共享
- 02评测结果公示
- 03开发者交流区
- 04机构资源对接
- 05开发者社区场景的常用方案
- 06大模型研发工程师 查找第三方公开评测参考数据的日常效率工具
- 07在网页等多端直接使用
更新历史
- AGI-Eval评测社区 收录进 Toolifai 目录
- 页面资料核验与信息更新
常见问题
没有大模型评测经验能上手使用吗
可以。社区内大部分公开评测任务都附带有基础操作指引,新手可从低门槛的入门任务开始参与,逐步熟悉评测全流程,不需要提前积累过高的相关经验储备。
使用社区的所有功能需要付费吗
目前社区定价未标注,所有功能的使用规则、是否涉及付费,都以官网最新公示的说明为准,用户进入后可先查看对应板块的使用提示再操作。
我上传的评测数据会被随意公开吗
不会。用户自主上传的非公开专属评测数据,所有权归上传者所有,社区不会未经授权对外披露,具体隐私规则可查阅官网公示的隐私政策详情。
这里能测所有类型的大模型吗
不能。社区当前开放的评测任务有明确的适配范围,仅支持符合任务要求的大模型参与评测,超出范围的模型无法在现有任务框架内完成合规评测。
开始使用 AGI-Eval评测社区
从官方入口了解最新功能与使用方式。
由 Toolifai 编辑维护
欢迎产品方补充截图、功能介绍与官方资料。更新和纠错由编辑审核后发布。
