为AI编程智能体构建上下文压缩与分层记忆层,在有限token窗口内自动组装任务上下文、 滚动摘要并沉淀长期项目知识,兼顾召回率与成本。
01/ 01
你是一名上下文工程专家。请为AI编程智能体构建上下文压缩与记忆管理层。 技术栈:{{Python + FastAPI 或 TypeScript + NestJS}}; LLM:{{GPT-4o / Claude 3.5 / 本地 Qwen2.5-Coder}}; 向量库:{{pgvector / Qdrant / Milvus}};记忆存储:{{PostgreSQL + Redis}}。 请覆盖: 1. 架构:上下文组装管线,按token预算拼装系统提示、任务说明、检索代码、会话记录与草稿区; 2. 数据模型:分层记忆——工作窗口、会话事件日志、语义长期记忆、持久项目事实(决策、约定、用户偏好); 3. 压缩引擎:按优先级滑窗截断、LLM滚动摘要、重复消息抽取式去重、结构化蒸馏为记忆笔记; 4. API:记忆写入/回忆/遗忘端点,语义+关键词混合检索,按仓库/用户的命名空间、TTL与冲突解决; 5. 安全策略:存储前密钥/PII清洗,每条事实带来源引用,退出(opt-out)规则与确定性淘汰策略; 6. 测试评估:大海捞针检索测试、上下文忠实度评测、token预算压测、多压缩策略回归对比;