长时程智能体可靠性 · 让 AI 可托付数月任务

今天的 AI 在几分钟的任务上已接近人类，但任务一拉长到数小时、数天乃至数月，错误就开始复利式累积：一步走偏、后面全歪，且模型自己察觉不到。METR 的测量显示 AI 能完成的任务时长约每几个月翻一倍，但每翻一倍成功率都要重新爬坡。攻破这颗暗星，AI 才能真正承接科研项目、工程建设、企业运营这类跨月尺度的连续工作，等于把全球劳动力供给的上限重新定义。它是几乎所有 agent 应用的公共地基，不是某家公司的产品问题。

机制卡点在三处：一是误差累积没有天然的纠错回路——语言模型每步都是概率采样，长链条上小偏差指数放大；二是状态一致性——上下文窗口有限，长任务的目标、约束与中间结论无法无损保持，压缩即失真；三是模型缺乏对自身进度的可靠元认知，不知道自己已经跑偏，无法主动回滚。目前的 scaffolding（检查点、反思、多 agent 互查）都是工程补丁，尚无架构级解法。

METR（任务时程翻倍律的独立测量）、OpenAI、Anthropic、Google DeepMind（各家 agent 产品线均在正面攻）

读强化学习、程序验证与 agent 评测方向；最可切入的子问题是「长任务的失败模式分类学」——复现并系统标注 agent 在 4 小时以上任务中到底怎么死的，这类基础测量工作严重供不应求。进 METR 这类独立评测机构或各大实验室的 agent 可靠性团队都是正路。