全书目录

第七编 研究层

第 32 章 从 100 多篇论文中能抽出哪些共同结论

6 分钟 2,322 字 第 33 / 161 个阅读单元

如果只看单篇论文,很容易觉得每篇都在提出新机制、新术语、新范式。

但当论文数量拉到足够多,会出现一些非常稳定的共同结论。

第一条结论是:

工具、规划、记忆、评测、安全、协作这些能力,不再是附加项,而是主结构。

也就是说,研究界已经越来越不把 Agent 看作一个“强 prompt”,而是看作一个结构化系统。

第二条结论是:

模型自由度不是越高越好。

许多成功工作并不是让模型完全放开,而是通过更强的外部结构限制它、支撑它、纠正它。

第三条结论是:

长链任务一定会暴露状态问题。

只要任务足够长、足够真实,状态管理、记忆治理和反馈回流就会成为主问题,而不是边缘问题。

第四条结论是:

多 Agent 的价值来自角色差异,而不是数量。

如果没有明确的角色设计,多 Agent 很容易变成昂贵而混乱的对话。

第五条结论是:

真正高质量的 Agent 评测,一定会越来越接近真实环境。

一旦评测进入真实网页、真实软件仓库、真实临床流程、真实实验流程,很多“看起来很聪明”的系统都会迅速暴露出巨大差距。

这些共同结论合在一起,其实指向同一个方向:

text
Agent 的成熟,不在于模型越来越自由,而在于系统越来越结构化。

但如果真要把 100 多篇论文压缩成几条可以长期成立的判断,就不能只停留在“结构化很重要”这种泛论上。

第 32 章真正要做的,是把大样本观察压成几条跨 benchmark、跨任务、跨方法仍然成立的稳定结论。

第一条,结构始终比裸能力更重要。

这几乎是所有方向共同指向的最强结论。无论是工具调用、规划执行、显式记忆、多 Agent 协作、安全约束,还是 workflow 设计,成功工作大多都不是让模型自由发挥得更多,而是把更多边界外化成结构。换句话说,研究越往后,越不把 Agent 看成“更强一点的 prompt”,而看成“模型嵌在结构里运转的系统”。

因此,第 32 章第一条结论应该是:

text
从大样本论文看,Agent 成功的决定因素越来越不是模型自由度,而是外部结构质量。

第二条,真实环境会持续惩罚表面智能。

这一点在网页、桌面、软件工程、临床和工业 benchmark 中都非常明显。只要任务进入真实环境,模型的脆弱点就会迅速暴露出来:状态会漂,工具会错,约束会漏,长链会断,副作用会累积。很多在静态数据集上表现亮眼的方法,一旦进入可执行环境,成功率就明显下降。

这说明一个很稳定的事实:Agent 能力不是一个抽象推理分数,而是环境交互中的稳定性。

第三条,状态与记忆不是增强项,而是风险项和主控制项。

越往长任务、真实任务走,状态管理就越从边角问题变成中心问题。记忆能带来连续性,但也带来污染、隐私泄露、目标漂移、错误沉淀和恢复困难。很多论文一开始把 memory 当增益模块,后来越来越多工作开始同时研究 memory governance、state drift、memory poisoning 和 state write guards。这说明领域已经逐渐承认:状态不是“能记住更多”的问题,而是“系统是否还能维持同一个世界模型”的问题。

第四条,多 Agent 的价值来自分工质量,不来自数量堆叠。

如果横向看足够多多 Agent 论文,会发现一个很稳定的模式:只有在角色、边界、交接和控制权清晰时,多 Agent 才会带来收益;否则只会带来成本、漂移和协调错误。manager-worker、planner-executor、debate、review、handoff 这些形式之所以有效,不是因为“多几个人说话更聪明”,而是因为它们把不同职责从单一模型里拆开了。反过来,没有清晰角色的多人协作,往往只会制造冗余对话。

第五条,评测正在从结果导向升级为轨迹导向。

大样本论文里最明显的变化之一,就是领域越来越不满足于只看最终成功率。原因也很直接:只看结果会错判幸运成功、漏检隐藏失败、无法归因中间偏移,也看不见恢复能力。于是,trajectory evaluation、process supervision、trace grading、progress rate、side effects、tool correctness 这些指标越来越多地进入 benchmark 与系统设计本身。

这说明研究界已经默认接受一个事实:

text
对于 Agent,过程质量不是附属解释,而是能力定义的一部分。

第六条,安全与治理已经不可逆地进入主结构。

早期很多人还把安全看成上线前加几条规则的事。现在的大样本论文和系统卡几乎都在说明同一件事:一旦 Agent 拥有工具、状态和持续执行能力,prompt injection、memory poisoning、excessive agency、越权执行、长期偏航和自动化错误放大,就会同时成为研究问题、工程问题和治理问题。换句话说,安全不再是研究后处理,而是 Agent 定义本身的一部分。

第七条,研究和工程正在开始说同一种语言。

这一点尤其重要。过去研究常常重方法 novelty,工程更关心稳定性与落地。但当我们把足够多的论文、benchmark 和官方实践放在一起看,会发现双方正在逐渐收敛到同一套对象:schema、tool contract、state、trace、approval、eval、guardrails、role boundary、routing。这意味着 Agent 领域第一次开始出现一种可共享的共同语言。

因此,第 32 章第二条结论应该是:

text
从100多篇论文中抽出的真正共同结论,不是“大家都在做Agent”,而是“大家正越来越一致地把Agent理解为一个需要状态、工具、评测和治理共同支撑的结构化系统”。

把这些结论放在一起看,会发现它们并不是松散并列,而是互相支撑的。

因为结构化,所以可以定义工具与状态; 因为进入真实环境,所以状态问题暴露出来; 因为长链和多角色出现,所以轨迹评测和角色边界变重要; 因为有执行权,所以安全和治理被拉进主结构; 因为这些对象都被显式化,研究和工程才终于开始收敛。

所以,本章最后要留下的判断是:

text
如果把足够多 Agent 论文压缩成一句话,那么最稳定的共识就是:可靠 Agent 不是“更放开的模型”,而是“被更清晰结构持续约束、支持、评测和治理的模型系统”。