一个 AI 编程智能体可以花上整整一下午阅读代码仓库、修改文件、等待测试。它能否赶在时限到来前完成任务,除了模型编写代码的能力,还取决于运行它的机器、使用的工具,以及评测者制定的规则。这些条件共同影响最终分数。
DeepSeek 在 2026 年 10 月 17 日发布的更新,把这些关系呈现得很清楚。公司将现有 deepseek-flash API 名称背后的 V4.1 Flash 换成了 DeepSeek-V4.1-Flash-1017,调用方式和价格保持不变。中文公告还称,新版模型的输出更短,完成任务更快。[1]
最有分量的一组数字,来自同一项测试内部的比较。DeepSeek 的模型卡显示,Terminal-Bench 4.0 成绩从 31.2 升至 42.3,提高了 11.1 个百分点;DeepSWE v1.1 成绩则从 74.2 升至 77.0,增幅较小,为 2.8 个百分点。这些都是公司公布的结果,本文依据截至 2026 年 10 月 23 日的信息解读。[2]
解读成绩时,也要看评测规则
模型卡列出了各项测试搭配的智能体软件:Terminal-Bench 4.0 使用 Claude Code,DeepSWE v1.1 使用 Mini-SWE-V2。这类配套软件通常称为运行框架(harness),负责管理模型与工具之间的交互。分数描述的是模型与这套软件在特定评测条件下的共同表现。[2]
DeepSeek 自己的发布记录里,就有一处容易诱发误读的对比。9 月公告同时列出了 Terminal-Bench 2.1 的 90.6 分和 4.0 的 31.2 分。若把 10 月的 42.3 与 9 月的 90.6 直接并列,比较过程中已经换了考卷,却会让成绩看起来大幅下跌。[1]
同为 4.0 的那一行,为观察进步给出了有用证据。不过,它仍是一项由公司报告的汇总成绩:模型卡表格没有附上试验次数、置信区间,也没有给出每次运行的完整配置。这组数字更适合用来观察值得关注的进步方向;要据此精确预测某个人的编程任务有多高的成功率,依据仍有限。[2]
八小时时限改变了评测所问的问题
Terminal-Bench 的维护者解释,4.0 版重新校准了任务资源,包括时间、CPU 和内存。每项任务都设有 8 小时的智能体超时上限。据维护者报告,相比 3.0 版,超时和错误都有所减少;这次调整的目标,是降低资源不足给评测带来的噪声。[3]
任务集也有变化。8 项任务被移除,原因包括成绩趋于饱和、智能体拒绝执行、已有公开解法,以及尚未解决的质量或兼容性问题。另有 19 项任务修正了指令、环境或评分问题。按照项目的版本管理规则,只要智能体环境或任务集发生变化,就需要重新运行试验。[3]
八小时是每项任务获准使用的最长时间,任务也可以提前完成。它所考察的实际问题,也与开发者希望在开会前修好一个问题的需求有所区别。时间充裕时,评测更能观察智能体最终能否完成任务;截止时间紧迫时,评测考察的是它能否跟上某种具体的工作节奏。两种问题都重要,各自的答案也应分别看待。
版本号的价值正在这里:解释分数变化之前,先保留并核对评测条件。
换到干净的代码检出环境,改动还能否生效
DeepSWE 从另一个角度观察编程工作。作者们从 91 个开源仓库中编制了 113 项原创任务,涉及 TypeScript、Go、Python、JavaScript 和 Rust。提示词描述预期行为,智能体则要自行调查代码库,决定如何实现。测试依据可观察的结果设计,对内部实现方式留有选择空间。[4]
在 v1.1 中,智能体提交到版本库的补丁会被移入一个全新、独立的容器,再接受评分。测试结果逐项标明名称,缺失的检查因而更容易被发现。这次修订还从工作环境中移除了未来的 Git 历史记录,并处理了依赖漂移和测试结果不稳定的问题。[5]
这种隔离让结果有了具体含义:提交的改动离开生成它的那次会话后,仍须正常工作。设想一个智能体修改了工作环境中的某项设置,让测试通过,却在提交补丁时漏掉了这项改动。把工作成果放到另一处重新构建,遗漏就会暴露。这个假设只用于解释环境隔离的理由,未指向 Flash 1017 的实际失败案例。
评测覆盖范围仍有限。DeepSWE 的作者指出,任务来自活跃且相对热门的公共仓库,其中缺少 C++ 和 Java,私有代码库中的表现也未必相同。他们采用统一运行框架的评测,也未能直接复现每个模型在其惯用开发工具中的全部使用情况。[4]
速度提升需要单独测量
DeepSeek 关于执行时间缩短的说法,需要在正确性分数之外另行测试。10 月公告宣称了这项提升,正文中却没有给出与之对应的逐任务耗时表。[1]
DeepSWE v1.1 提醒了另一层限制:由于宿主机性能和服务提供商负载会让比较结果失去一致性,作者停止报告耗时。[5] 等待时间仍然重要,只是用耗时来判断模型表现之前,需要先把测量条件交代清楚。
据此,Flash 1017 值得在团队熟悉的实际工作中重新评估。固定任务集、代码仓库状态、智能体软件和评分规则,记录准确的模型版本;然后把通过验收的改动、总支出和完成时间的分布放在一起跟踪。失败的尝试也应计入账目,毕竟一次运行即使花费很低,只要没有成功,工作就仍待完成。
尤其值得观察的结果是:在相同的工作日截止时间内,有更多补丁通过验收,审核之后出现的回归问题也更少。已公布的成绩提升,为寻找这样的结果给出了理由。基准测试文档则说明了观察过程中需要始终看清的条件:考卷的版本、可用的资源,以及通过最终检查的代码。
来源
- DeepSeek,《更新日志》,2026 年 9 月 10 日和 10 月 17 日的官方中文公告——发布日期、API 行为、基准测试版本及效率提升的说法。
- DeepSeek-AI,“DeepSeek-V4.1-Flash-1017”,官方模型卡——所报告的前后版本比较及运行框架脚注;查阅日期:2026 年 10 月 23 日。
- Ryan Marten,“Terminal-Bench 4.0”,基准测试官方发布说明——资源校准、任务变动及重新运行的要求;查阅日期:2026 年 10 月 23 日。
- Wenqi Huang 及同事,“DeepSWE: Measuring frontier coding agents”——任务设计、行为验证及局限;查阅日期:2026 年 10 月 23 日。
- Wenqi Huang 与 Peter Jiang,“DeepSWE v1.1”,2026 年 6 月 14 日——隔离环境中的补丁评分、测试报告及耗时比较的局限。
- Lü Ang,新华财经,《DeepSeek 成长季:探访办公地》,2025 年 2 月 25 日——中文实地报道及注明摄影者的杭州汇金国际大厦照片。