全书目录

第七编 研究层

第 31 章 过去几年 Agent 研究到底在证明什么

5 分钟 2,160 字 第 32 / 161 个阅读单元

如果把过去几年关于 Agent 的研究放在一起看,会发现一个非常有意思的现象。

表面上,论文主题五花八门:

  • 工具调用
  • 规划
  • 记忆
  • 多 Agent
  • benchmark
  • 安全
  • 领域落地

但如果往深一层看,这些工作其实都在围绕同一个核心问题打转:

text
如何让语言模型不只是生成语言,而是进入任务过程,并在过程中保持可控。

这也是 Agent 研究真正重要的地方。

它不是简单把模型变成“更会聊天”的系统,而是在尝试解决这样一个更难的问题:

模型如何在不确定环境中持续推进任务,而不失去稳定性。

从研究演化看,大致可以看到三段变化。

第一段,是“能力解锁”。

研究者开始证明模型不仅能回答,还能推理、规划、调用工具、分解任务。

第二段,是“结构外化”。

大家发现仅靠 prompt 不够,开始把工具、记忆、规划、反思、多 Agent 这些能力显式地做成外部结构。

第三段,是“真实环境验证”。

研究逐渐从静态 QA 转向真实网页、真实软件工程任务、真实实验、真实临床流程和真实多步环境。

如果把这三段压成一句话:

text
Agent 研究的主线,是模型从“会回答”走向“会在结构中行动”。

但如果只停在这句话上,仍然还不够。

第 31 章真正想回答的,是:过去几年这么多论文、benchmark、系统卡和落地案例,究竟共同证明了什么,哪些幻想被证伪了,哪些方向开始变得可信。

从结果上看,它们至少证明了五件事。

第一,语言模型确实可以进入任务过程,而不只是停留在语言表面。

早期很多人怀疑,模型只能“看起来像会做事”,本质上仍然只是概率续写。但从 ReAct、Toolformer、Reflexion、MRKL 到后续大量工具调用、规划执行、反思纠错工作,一个核心事实已经被反复证明:只要给出合适的外部接口与反馈回路,模型不仅能生成语言,还能把语言转化为任务推进中的中间控制信号。

这意味着研究已经越过了一个早期门槛:

text
模型并非只能做回答器,它确实可以成为任务系统中的决策体。

第二,单靠模型自由发挥,并不足以稳定完成复杂任务。

这大概是过去几年研究中最重要、也最容易被忽略的一条结论。

如果只看少数惊艳案例,会误以为模型只要再强一点,就能自动解决规划、工具、记忆、长期执行、协作和恢复这些问题。但大量研究恰恰反过来证明:任务越长、环境越真实、外部工具越多,纯 prompt 式自由发挥越容易崩。于是,规划器、工具接口、显式记忆、外部状态、角色划分、反思回路、审批与评测开始不断被外化为结构。

所以,过去几年研究真正证明的不是“万能 Agent 快来了”,而是:

text
模型能力要想转化为任务能力,必须借助结构。

第三,真实环境会系统性揭穿静态智能幻觉。

这是 benchmark 革命带来的重要变化。WebShop、Mind2Web、WebArena、AgentBench、AgentBoard、OSWorld、SWE-bench 等工作之所以重要,不只是因为它们提供了更多测试集,而是因为它们把 Agent 拉进了真实网页、真实仓库、真实桌面和真实多步环境里。

一旦进入这些环境,很多原本在静态问答里表现不错的方法就会迅速暴露问题:

  • 工具会选错
  • 页面会跳转
  • 状态会丢
  • 长链会漂移
  • 环境噪声会累积
  • 成功条件不再由自然语言裁判,而由执行结果裁判

于是,研究界被迫承认一个更严厉的现实:Agent 不是语言表现问题,而是环境中的任务控制问题。

第四,可控性、安全和评测已经从附属主题变成主结构。

早期 Agent 研究更像“能力解锁”竞赛:能不能用工具、能不能多步推理、能不能多 Agent 协作。后来研究越来越发现,真正困难的不是把系统做得更主动,而是把主动性放进可评测、可监督、可限制的边界里。系统卡、agent safety benchmark、trace grading、trajectory evaluation、process reward model、workflow eval 等方向的兴起,都说明领域正在从“能不能做”转向“做成什么样才可接受”。

因此,第 31 章第一条结论应该是:

text
过去几年 Agent 研究真正证明的,不是模型会越来越像人,而是模型必须被放进可执行、可评测、可约束的系统结构里,才能稳定地像系统一样工作。

第五,研究对象正在从“通用方法”走向“任务系统”。

这一点在领域落地里尤为明显。coding agent 不再只是写一段代码,而是要在真实仓库中检索、修改、测试、提交;science agent 不再只是生成研究想法,而是要进入实验、写作、审稿和工具链;medical agent 不再只是回答医学问题,而是进入临床工作流、电子病历环境和决策链;operations 与 industrial agent 也开始进入 SOP、优化、仿真和流程控制。

这说明研究关注点正在变化。

过去更像在问:“有没有一种通用方法让模型像 agent 一样行动?” 现在越来越像在问:“在这个具体任务系统里,模型、工具、状态、验证和治理该如何共同组织?”

这也是为什么今天真正高质量的 Agent 研究,看上去越来越不像一个算法点子,而像一套任务系统设计。

换句话说,过去几年研究还证明了一件很现实的事:Agent 不是一个单独模块,而是一类新的系统构造方式。

这就能解释为什么研究主题看似很多,实际上却在持续收敛。工具调用证明了模型可以接外部能力,规划与反思证明了模型可以在回路中纠偏,benchmark 证明了真实环境会暴露系统缺陷,多 Agent 证明了协作需要角色与边界,安全与评测证明了自治必须接受治理。所有这些方向并列起来,最终都指向同一个研究命题:

text
如何让一个基于语言模型的系统,在复杂环境中完成多步任务,同时仍然保持边界清晰、轨迹可查和行为可控。

因此,第 31 章最后要留下的判断是:

text
Agent 研究过去几年并没有证明“模型足够强就能自动成为万能执行者”;它真正证明的是,模型只有在结构、环境、评测和治理共同成立时,才可能成为可靠的任务执行系统。