糕点已放入烤箱,操作烤箱、设定秒表这两步也已经完成。接下来还有什么要做?作者公开的一个 EgoPlan-Bench2 示例将答案标注为“固定秒表”。选项中还列有放入烤盘、设定计时器,但动作记录表明,这两步已经做完。[1] 熟悉一套合理的烘焙流程只是基础,模型还得判断眼前这位烘焙者已经走到哪一步。
EgoPlan-Bench2 由香港大学与腾讯 PCG 位于深圳的 ARC Lab 的研究人员共同开发,将这点细微差别变成了可衡量的问题。本文依据的是 2026 年 4 月 8 日发表的期刊版本,下文讨论的实验也出自这项研究。[2]
合理的动作,也会提得太晚
公开的烘焙样例记录包含任务目标、四个候选动作、正确答案标签,以及已完成步骤的时间戳。评测提示要求模型结合前面的影像和最后一帧呈现的当前观察,选择下一步动作,回答只需给出一个选项字母。[1]
这样的题型清楚地呈现了一种常见错误:助手给出的建议合乎烘焙常识,却用错了时机。让人重复一个已经完成的步骤,单独看这句话,会觉得它有帮助;放回实际操作过程,就能看出助手已经弄混了进度。
较早的 EgoPlan-Bench 仓库里也有一个同样具体的例子:收好麦片。动作记录显示,袋口已折好,袋子已放进盒内,盒盖已合上,橱柜门也已打开。标注的下一步是把麦片盒放进橱柜,再次打开橱柜门则是其中一个干扰选项。[3]
这些例子把诊断问题从“答案听起来是否聪明”推进到更有用的一层:凭什么证据,可以确定现在该做这个动作? 物品名称交代眼前有什么,动作记录交代此前发生了哪些变化。建议的动作要同时符合这两方面的证据。
答案标签的含义也有范围。它记录的是基准选定的后续动作。要进一步断定其他所有可以设想的完成方式都不合理,还需要标签之外的证据。四个备选答案让评分便于操作,也限定了模型在这道题里接受检验的选择范围。
把日常影像变成有难度的考题
影像从何而来,直接关系到题目的内容。Ego4D 是一套国际性的第一人称活动影像集。项目最初发布的公开概览介绍,参与者共 923 人,来自九个国家,使用多种头戴式摄像机。项目联盟有意收集多样的日常活动与环境。[4] 因而,这项基准的素材基础,是人们在不同地方真实做过的事情。
摄像机戴在做事的人身上,能留下有用的记录,视野也有局限。手会遮住物品,转头看向别处时,操作区域就会移出画面。读者看一张静态照片,可以认出周围的环境;要还原那里发生的全部过程,还需更多线索。文章配图只呈现其中一刻,基准所依赖的时序证据则贯穿前后过程。
EgoPlan-Bench2 包含来自 1,113 段视频的 1,321 道题,覆盖 24 种情境。制作数据集时,研究人员会筛查仅凭文字就能回答的题目,还会检查候选观察帧是否泄露线索,让模型只看当前画面就能选出下一步,跳过对先前过程的考察。[2]
从这些设计选择来看,基准试图让动作顺序成为答题必需的依据。题目的措辞若泄露答案,或画面中的动作已经起势,模型就有了走捷径的机会。清除这类线索,能让测试更集中地考察原本要测的能力。筛查使用的是特定模型;未来每个模型是否都会依赖同样的证据,还需另行验证。
同样的画面,得分也会不同
2026 年论文中的一项实验,凸显了评测方式对结果的影响。对于 Qwen2.5-VL-7B,准确率从以视频形式输入时的 24.52%,升至将采样帧作为独立图片输入时的 38.22%。作者保持采样所得的视觉信息一致,并确保其中包含首帧和末帧。这些数字来自 EgoPlan-Bench2 的下一步动作选择题,评分依据是返回的答案是否与标签一致。[2]
按论文报告的数值计算,两者相差 13.70 个百分点。这表明,在上述条件下,视觉素材的呈现形式会显著影响这个模型的成绩。至于其他模型是否也会因改变输入形式而获得同样的提升,还需分别验证;较高的得分仍是答题成绩,实际操作能否成功,还须另外检验。
评估视觉助手时,一项值得采用的审计做法,是将实际送入模型的视频帧与模型版本、提示词、答案选项及输出一并留存。审查者便能追查,某一步骤被漏掉,究竟是因为输入中缺少相关画面、模型漏看了图像中的信息,还是误解了动作顺序。只有一个得分,这几种原因就会混在一起。
最后还要看实际操作。从录制影像中选择一个字母,测试到的是答题过程,开烤箱、固定物品,以及确认动作尝试是否成功,都在这项测试之外。由此看向部署,实体助手还需拿出更多证据:亲自行动、观察后果,并在出错后调整补救。EgoPlan-Bench2 则让其中一个关键衔接有据可查:把已经发生的一切都算进去之后,下一条建议是否仍然合乎当下的进度。
来源
- Lu Qiu 及合作者,EgoPlan-Bench2 官方仓库——烘焙样例、动作历史字段、评测提示与评分接口;访问日期:2026 年 10 月 14 日。
- Lu Qiu 等,“EgoPlan-Bench2: A Benchmark for Multimodal Large Language Model Planning in Real-World Scenarios”,International Journal of Computer Vision,2026 年 4 月 8 日——作者所属机构、数据集制作、第 4.1 节与第 4.5.1 节、表 3。
- Yi Chen 及合作者,EgoPlan-Bench 官方仓库——收好麦片的验证样例,含已完成动作与干扰选项;访问日期:2026 年 10 月 14 日。
- Ego4D 项目联盟,官方项目概览——最初收集的影像、参与者、地理范围、摄像设备及日常活动覆盖情况;访问日期:2026 年 10 月 14 日。
- EgoPlan-Bench2 作者,官方项目页面——公开的“Hobbies – baking”(爱好——烘焙)示例与静态照片的来源;访问日期:2026 年 10 月 14 日。