您的位置首页 >人工智能 >

Google DeepMind 推出 MKA 评测基准,覆盖 83 种职业 1459 份文件,依靠 200 项专业任务测评多模态智能体独立作业能力

Google DeepMind 联合 Artificial Analysis 发布 MKA(Multimodal Knowledge Agent,多模态知识智能体)评测基准,它和过去只考问答、单文件解析的评测不一样,专门用来测多模态智能体能不能独立完成真实专业工作,整套评测覆盖 83 种职业、合计 1459 份多模态文件,一共设置 200 项完整专业任务,任务素材包含图纸、影像、表格、PDF 等高密度视觉文件,要求智能体输出可直接交付的文档成果,而不是只输出一段文字回答。以往大部分 AI 评测,就算带图片,也只是简单看图问答,很多任务不靠视觉信息也能蒙对答案,没法检验智能体跨文件、跨模态串联信息的能力,现实里分析师、建筑师、医生、法务这类岗位,工作是翻阅一堆混合图文文件,做多步推理,最后产出 Excel、PPT、PDF、图纸这类交付物,传统评测很难模拟这种流程。MKA 的 200 项任务由各行业资深专家设计,分散在 10 个行业赛道,单任务对标专业人员 3–8 小时的工作量,配套独立沙箱、统一 Stirrup 智能体框架和自动评审器,自动评审器会打开文件、渲染页面、校验公式,和人工专家打分一致性达到 96.2%,同时 200 道核心测试题保密,防止数据泄露混入训练集,另外放出 10 道公开样例给开发者调试。

一、MKA 评测基准基础构成

项目详情
任务总数200 项专业闭环任务
覆盖行业10 个垂直领域:商业、建筑、教育、工程、金融、医疗、法律政府、地理测绘、科研、软件数据
覆盖职业83 种,包含金融分析师、建筑师、放射科医师、律师、测绘工程师等
配套文件1459 份多模态素材,CAD 图纸、X 光片、原理图、地图、报表、扫描文档等
交付物格式docx、xlsx、pptx、pdf、png、html 等成品文件
评分体系WSR 加权满足率,Climb-WSR 专门衡量高难度前沿能力
评测环境Stirrup 开源智能体框架,Linux 沙箱、限制交互轮次

二、MKA 和传统评测的核心差别

  1. 不是问答打分:不只要回答问题,必须产出一份完整可交付的专业文件
  2. 强视觉依赖:大量关键信息藏在图纸、影像、版式里,关掉看图工具,模型成绩会明显下滑
  3. 多文件联合推理:一个任务需要同时读取多份不同格式文件,交叉核对信息
  4. 长流程多步骤:贴近真实职场项目,不是单轮简单提问
  5. 自动评审可核验:评审器会读取文件内部公式、图层、表格内容,不是只看文字摘要

三、当前主流模型实测结果

  • 最高分为 Claude Fable 5.2:整体 WSR73.3%,Climb-WSR56.6%
  • Gemini 4 Carbon 紧随其后:整体 WSR71.9%,Climb-WSR54.3%,token 消耗低很多
  • GPT-6 Astra、Claude Opus 5.5 紧随其后
  • 所有顶尖模型 Climb-WSR 均低于 57%,说明复杂专业多模态智能体还有很大提升空间

四、MKA 评测的运行流程

  1. 智能体进入沙箱,拿到任务指令 + 配套的多份文件素材
  2. 自主调用看图、网页检索、代码执行工具,多轮推理、整理数据
  3. 生成最终交付文件,上传提交
  4. 独立自动评审器对照专家评分清单逐项核验打分
  5. 输出整体 WSR 和难度项 Climb-WSR 两个核心分数

五、整件事最终结论

MKA 评测基准的核心价值,是把 AI 评测从 “答对问题” 升级到 “独立完成专业项目交付”,依托 83 种职业、1459 份文件、200 项专业任务,专门针对多模态智能体的端到端工作能力做盲测;当前头部模型虽然拿到不错分数,但高难度任务上限还很低,这套基准后续会成为检验知识工作类 Agent 落地能力的重要标尺。

【常见问题】

问题 1:Google DeepMind 的 MKA 评测基准,200 项专业任务是用来测什么?

回答 1:Google DeepMind 的 MKA 评测基准,依靠 200 项专业任务、83 种职业素材、1459 份文件,专门测评多模态智能体独立完成复杂专业知识工作的端到端交付能力。

问题 2:MKA 评测基准里的 1459 份文件,都是什么类型素材?

回答 2:MKA 评测基准配套 1459 份文件,包含 CAD 图纸、放射影像、电路原理图、地图、财务报表、PDF 合同、扫描文档等高密度视觉类专业文件,是 200 项专业任务的输入素材。

问题 3:MKA 评测基准的自动评审器,是怎么给多模态智能体打分的?

回答 3:MKA 评测基准的自动评审器在沙箱打开智能体提交的交付文件,渲染页面、核验表格公式,对照专家制定的评分清单打分,和行业专家人工打分一致性 96.2%。

问题 4:MKA 评测基准的 200 项任务全部对外开放吗?

回答 4:不是,MKA 评测基准的 200 项核心专业任务保持保密,防止泄露进训练数据,官方额外放出 10 道公开样例,方便开发者调试多模态智能体。

【参考资料】

[2026-11-12](Google DeepMind 推出 MKA 评测基准,覆盖 83 种职业、200 项专业任务)HyperAI

[2026-11-11](谷歌推出 MKA 基准,测试多模态智能体专业交付能力)IT 之家

[2026-11-10](Multimodal Knowledge Agent (MKA) benchmark)Google 官方博客

[2026-11-10](MKA 评测:多模态知识智能体专业任务评测)Artificial Analysis

【免责声明】

本文内容基于 Google DeepMind、Artificial Analysis 公开论文与评测页面整理,MKA 评测基准分数、任务设置、文件数量为当前公开版本数据;评测结果受沙箱环境、工具权限、模型版本影响,本文仅为 AI 技术科普,不代表模型商业化落地能力评估,不构成选型采购建议。

今日大家都在搜的词: