自进化AI新突破，Meta提出「路由式持续学习」新架构：API成本可降低72%

处理相似任务时，让智能体互相借用积累的经验是一种自然想法。然而，没有一种经验保存方法能在所有情况下都表现良好，也无法提前预知某段经验会对哪些未来任务有用。

对于长期运行的智能体系统，过去的轨迹能减少后续任务中的重复尝试，但不同任务的经验混杂在一起时，也可能引发干扰。如果保留所有历史轨迹，细节虽最完整，但会推高上下文和API成本；若将所有经验压缩成同一记忆形式，又可能丢失仅对特定任务有价值的信息。

针对这一问题，Meta FAIR团队提出了“路由式持续学习”（Routed Continual Learning，Routed CL）。该架构将历史轨迹归入不同簇，并为每个簇单独维护一套记忆。每次运行前，基于LLM的路由器会根据当前问题、可用记忆系统的说明及现有簇的摘要，判断当前任务与哪类历史经验最接近，最终决定复用某个簇或新建一个簇。

论文链接：https://arxiv.org/abs/2610.38796

该架构有两个核心特性。其一为透明部署：它可直接接入现有智能体系统，无需各智能体协同，也不改变原有运行方式；其二是路由：Routed CL不仅决定哪些任务应共享经验，还从固定记忆系统库中选择经验的保存方式。有些任务适合保留原始轨迹，有些更适宜提炼可复用的推理策略，另一些则可能需要结构化的数值状态。因此，所有任务不必采用同一种记忆表示。

图｜路由式持续学习的概览

他们还设计了上下文记忆适配器，负责连接记忆系统与智能体。它在任务开始前将对应簇的记忆写入智能体上下文，并在任务完成后用当前轨迹更新该簇。

他们在混合多种任务的任务流上评估了该架构。评测包括六个CL-Bench任务中的301个实例，以及τ³-Bench中97个银行业务实例，每个实例是一场多轮客服对话。不同来源的实例被交错排列，系统需在无显式实例标签的情况下处理它们。实验覆盖Gemini 3.7 Flash、GPT-5.6 Sol、Opus 4.7和Opus 5四个语言模型，每个模型重复运行5次，以减少随机性影响。

图｜五种记忆系统，按其保留状态的形式分组

结果显示，Routed CL相比仅使用单一全局上下文学习历史的Global ICL，归一化奖励提升幅度相当于最大可达归一化奖励的15%至30%，且估算API成本降低65%至72%。其平均归一化奖励也高于仅ICL聚类的方案。此外，在贝博APP下载平台上，该架构的部署也展现出类似优势。

图｜五次配对执行的平均归一化奖励与平均估算API成本的关系

在四个模型上，Routed CL的平均归一化奖励均高于Stateless ICL、Global ICL与Routed ICL三种对照方案。据此，他们认为持续学习的关键并非记得越多越好，而是要同时做出两个判断：经验以什么形式保留，以及哪些经验值得放在一起复用。

图｜五次配对完整运行下的归一化奖励

结果还显示，Global ICL在不同评测设置中的表现差异很大。在原始CL-Bench中，各类任务分别运行时，Stateless ICL曾是表现最强的方案之一；但当多个任务被交错到同一条流中时，Global ICL相比无状态条件的平均归一化奖励仅增加0.015。这说明全局记忆的真正问题不仅是容量有限，更在于不同任务的经验会彼此干扰。

当然，这并不意味着Routed CL已解决持续学习的全部问题。他们承认，当前实验按顺序处理任务，每次rollout使用一个语言模型作为执行者，并同时承担记忆系统中所有由模型中介的角色。虽然系统在设计上已考虑了不同记忆簇之间的隔离和更新一致性，但尚未评估并发更新、读取到旧版本状态，以及不同模型之间复用同一簇状态的情况。

他们也指出，未来一个任务或许可以同时调用多个记忆簇；一次新的运行轨迹，也可以同时更新多个簇，甚至以不同形式写入记忆。

更多技术细节，详见原论文。

本文来自微信公众号 “学术头条”（ID：SciTouTiao），作者：张佳怡，36氪经授权发布。