多 Agent 调度的三个结构判断:Router、Thread 与链式召回
上个月有几天,我同时开着三个 Agent 会话:一个在写公众号稿,一个在改一套本地系统的代码,还有一个在查国标条款。到了晚上我发现,三个都停在半路——不是它们干不动,是三个都在等我回一句话。
那天我才认真去看 DeepSeek 10 月 31 日发的那篇《Super-agent 设计探索》。里面有一句被很多人略过的话:**一个人通常只能同时跟进 3 到 5 个活跃 Session。**
多数人把这句归到产品体验上——窗口切换麻烦、要是有个统一看板就好了。我一开始也这么想。直到看见另一句:**Session 应当是系统的实现细节,而不应是用户的认知负担。**
这句话把问题挪了个位置:不是我的注意力只有三格,是记忆、调度、审批、恢复这四件事,本来该系统干,现在全压在我身上。任务并行了,协调却退回给人,所以「让 AI 干活」才这么累。
一、Router 听起来很美,但它凭什么知道派给谁
DSH 的方案是加一个控制层,叫 Router:判断一件事值不值得做、该交给谁、做到什么程度算完成。它不执行,只决策。执行交给 Worker,而 Worker 是可以替换的。
腾讯云开发者那篇解读里有个质疑,我觉得问得比原文还准:**Router 凭什么知道你这句话该派给谁?**
这不是杠。如果 Router 要理解全局——所有项目、所有群、所有历史都糊在一起——那它要么慢,要么贵,要么开始幻觉。而它一错,代价不是「答得不好」:一句「把那个临时文件删掉」,历史里恰好有个同名文件,删掉的就是真东西。
所以我的结论是:**Router 能不能用,不取决于它多聪明,取决于它能看到的东西有没有边界。**
这也是我在自己系统里最先做的一件事——不是写 Router,是先给上下文划边界。
二、判断一:Thread 要先于 Router
我们做小微企业知识库和 AI 客服,系统里本来就有一种边界:资料分区。公司公共的资料谁都能查,某个岗位的私有资料只有那个岗位能查。这条规则救过我们很多次——它让一个岗位的 Agent 不会拿着销售的话术去答技术问题。
但这个边界只解决了「能看什么」,没解决「这件事和什么有关」。
现实里,一件事的上下文是散着的:A 项目有三个群,B 项目的代码散在三个仓库,客户的一句抱怨可能上午在群里、下午在邮件里。真正决定「这次干活要参考什么」的,不是全部历史,而是跟这件事有关的那一条线。
所以我们给系统加了一个对象,叫 Thread(线索):一个群、一个项目、一份文档、一个任务,都可以是一条线索。规则只有三条:
1. **任何任务必须挂在一条线索上**,不许有「孤儿任务」;
2. **Router 只看这条线索的摘要和最近几条事件**,跨线索的信息一律不注入;
3. **线索自己带权限上限**,只能比公司策略更严,不能更松。
第三条是我加的,原文没讲。理由是:一旦线索能扩权,它就成了绕过审批的后门——「这条线索特殊,允许直接发对外邮件」,这种话只要出现过一次,权限体系就废了。
三、判断二:Router 只决策,而且要允许它说「不知道」
有了边界,Router 才敢做小。我们给它的输入只有三样:这条线索的摘要(两百字以内)、最近五条事件、这条线索允许的动作集。输出必须是严格 JSON:做不做、派给谁、凭什么算做完、优先级。
三条纪律:
**第一,规则能定的,绝不问模型。** 已订阅的线索来了新消息,直接投给订阅的人,不经过 Router;权限上明确禁止的事,直接拒,也不经过 Router。只有「没见过的、需要判断的」才进模型。这一层叫 Fast Path,目标是六成以上的事件不走模型——不是为了省钱,是为了让决策可预测。
**第二,允许它说「不知道」。** 我们给它留了一个出口:当它拿不准时,返回「问老板」,系统给老板发一条消息,附事件链接。**宁可少干一件,不可乱干一件。** 这个取舍看起来保守,但它是这套东西敢上线的前提——因为错的代价不对称。
**第三,每次决策都留痕。** 谁派的、为什么派、用了哪个模型、花了多少毫秒,全写进事件账本。没有这本账,你永远不知道 Router 是在帮你还是在给你添乱。
四、判断三:把上下文窗口当缓存,不当仓库
第三个判断,是这套架构里最省钱的一条,也是最少人讲的。
长任务跑到第二十轮,早期信息一定丢——因为窗口就那么大,要么压缩,要么截断。压缩会丢细节,全塞会挤掉注意力。
DSH 的处理方式是把窗口当 Cache:系统里每个对象都有 ID,每次给模型的只是「摘要 + ID」,需要细节时再顺着 ID 去取。
我们照这个思路改了上下文组装:原来是把记忆、知识片段、历史对话拼成一大段塞进去;现在只给一张清单——每条不超过 60 字,最多 8 条,末尾注明「还有 N 个对象未展开,可用 fetch_object 取」。
效果很直接:注入量从「全文乘以对象数」降到「对象数乘以 60 字」,长任务不再随轮次线性涨;早期信息也不会被摘要压没,因为原文一直在库里。
这套东西对做 AI 客服同样成立。客户问一句,回答只带被引用的两三段,其余留在库里——回答更短,而且每句话都能指到出处。这恰好是我们对外承诺的那句话:可核验。
五、反方推演:为什么我们没照搬「状态全上云」
DSH 还有一个更激进的设计:Worker 完全无状态,会话状态放数据库,计算可以调度到任何一台空闲机器。这样并行度理论上等于算力,换模型、换 harness 对上层透明。
方向我认同,但我们没照搬。
因为我们做的是客户现场:客户的机器上有未提交的修改、有本地凭据、有只在那个内网里能访问的服务。把状态搬上云,等于把这些东西的身份和上下文一起搬出去——这不是技术问题,是合规问题,也是客户最敏感的那根神经。
我们的折中是:**profile 只当技能目录,会话状态留在本地库。** 换模型、换版本可以,但状态不搬家。代价是并行度上限比它低;收益是客户敢把机器交给我们。
还有一条更土的理由。我自己常说一句话:**连自己的网站都推不出去,还咋给别人服务呢。** 这套系统也一样——如果我自己都不敢把它用在每天的真实工作上,那就没资格卖给别人。所以我宁可在并行度上认输,也要保证每一条记录都能在自己那台机器上找得到。
客户现场也不是实验室。我给自己定过一条规矩:**能不用升级就先不升级**,因为一次升级失败,赔的是客户的营业时间。这也是「状态不跟着版本走」的实际理由——不是理念正确,是赔过时间。
工具也是一样。DSH 说「Sandbox 不该是 Agent 的容器,而该是 Agent 的工具」——云端 Agent 通过一个端侧 daemon,按需调用用户机器。这个思路我们其实已经在用,只是做得很窄:远程通道只允许诊断、看日志、重启,白名单,一客户一签名,可吊销。
它可以更通用,但每放宽一步,就等于在那台机器上多开一个执行入口。这条线我们宁愿走得慢一点。
六、如果你也想试,最小起步是这五件事
不用先写 Router,也不用先接多 Agent。按这个顺序,一个人两天能做完前三件:
1. **给事件建一张表**:来源、类型、去重键、状态。重复的事件只留一条。
2. **给活挂线索**:任务必须有 thread_id;没有就自动建一条,不许孤儿任务。
3. **让 Router 只出 JSON**:做不做、派给谁、凭什么算完;拿不准就返回「问老板」,不许它自己发挥。
4. **上下文只给清单**:ID + 60 字摘要,最多 8 条;细节用工具按需取。
5. **验收必须留痕**:谁提交、谁验收、以什么权限验收,缺一个字段就不算完成。
这五件事做完,你会发现真正的变化不是「AI 更能干了」,而是**你不用再同时记着五个会话的进度**——它们各自有线索、有验收、有账。
补一句边界:我们只做小微企业,不做大客户定制。这不是谦虚,是能力圈。大客户要的是流程改造和驻场,我们要的是「一周能上线、老板自己能管」。同样是 Router,长在完全不同的身体上。
七、我的判断
多 Agent 的门槛,从来不在模型,也不在框架。
它在两件事上:**你敢不敢让系统自己决定「这活派给谁」,以及你能不能接受「它派错了也能查出来」。**
前者靠边界,后者靠留痕。这两样做不好,接再多 Agent 也只是把混乱放大五倍。
**我们是合尘猫savantcat,专注小微企业知识库 / AI 客服落地。**
**参考资料**
1. DeepSeek《Super-agent 设计探索:迈向更自主的 Agent 系统》,2026-10-31。
2. 腾讯云开发者《一文拆解 DeepSeek Harness 新架构》,陈焕新,2026-11-04。
3. 合尘猫 SavantCat《AI 客服国标合规知识库》
本文探讨多Agent系统中Router、Thread与链式召回三种调度结构的设计本质,提出三个核心判断:Thread需先于Router建立上下文边界;Router仅作轻量决策且必须支持「不知道」出口;上下文窗口应作为缓存而非仓库,通过ID+摘要机制按需加载。强调边界划分、权限收敛、决策留痕与本地状态保留对小微企业AI落地的关键作用。
275

被折叠的 条评论
为什么被折叠?



