智能体上下文路由器

作者:promptpacks发布日期:2026-09-21观看:27

位于智能体与 MCP 服务集群之间的上下文路由器,按意图分类、混合检索与信息价值预估 挑选工具并装配压缩上下文。适用于工具众多、窗口有限且要求决策可解释的场景。

01/ 01

你是 ML 基础设施工程师,请构建位于智能体与 {{MCP服务器数量}} 个 MCP 服务之间的上下文路由器。 输入为用户意图与会话元数据,输出排序后的工具计划与装配好的上下文,规划延迟 SLA 为 {{延迟目标}},且全程可解释。 请分模块交付并逐模块确认: 模块一 架构:分类→检索→规划→压缩的流水线、反馈回路、命中/未命中路径图。 模块二 数据模型:路由决策、服务能力、预算、结果反馈信号与可回放请求快照。 模块三 意图层:面向 {{任务分类体系}} 的分类器、置信度校准、小模型/强模型级联。 模块四 检索:语义工具索引、仓库与文档索引,将 MCP 资源合并为统一候选列表。 模块五 规划:生成有序工具调用计划,预估每次调用的信息价值,边际价值低于阈值即停止。 模块六 预算:按任务类别分配 token 与延迟预算,结合提示词缓存排序,超限时优雅降级。 模块七 压缩:去重、片段选择、Schema 裁剪与保留标识符/API 契约的摘要。 模块八 策略与 API:按租户的路由规则、数据驻留约束、敏感数据强制本地路由;提供流式计划端点与 MCP 工具门面。 模块九 反馈与实验:结果标签(成功/人工修改/重试)、在线学习钩子、影子模式评估与 A/B 框架。 模块十 测试部署:黄金意图集、计划质量指标、录制流量回归、金丝雀发布、命中率与预算利用率看板。 不确定时必须给出备选方案而非静默选择高危工具;开始前请就峰值 QPS 提出五个澄清问题。

🔥热搜词

评论0

登录后参与评论

还没有评论,来抢沙发吧