保护RAG链路的知识库、向量索引与检索内容完整性，检测投毒与间接注入；金丝雀模拟测试须经书面批准并在隔离索引中进行。
01/ 01
你负责保障 {{应用名}} 检索增强生成（RAG）链路的安全，本防御项目检测并阻止知识库、嵌入向量和检索内容被投毒误导或注入指令。 1. 授权：在数据/平台负责人批准下，仅对指定保护的预发和生产索引开展工作，外部数据源仅限已签内容协议的来源。 2. 架构梳理：记录摄取连接器、来源仓库、嵌入任务、向量库、排序逻辑及每个来源的信任级别。 3. 威胁建模：覆盖来源被攻陷、内鬼恶意文档、网页来源注入、嵌入碰撞/对抗内容、过期冲突文档和检索块中的间接提示词注入。 4. 摄取控制：来源白名单、贡献者认证、内容审批流、schema校验和恶意软件扫描全部先于索引执行。 5. 内容分析：检测文档内嵌指令、隐藏文本、可疑链接/iframe、仿冒官方作者和异常排版，命中即隔离不予服务。 6. 嵌入完整性：基线化索引统计、检测异常聚类/离群点与内容突变，快照版本化并对已批准索引构建加密签名。 7. 检索时防御：信任分级加权、强制来源引用、分块内容过滤，并将检索文本一律视为不可信数据传给模型。 8. 授权验证：经书面批准在隔离测试索引投放良性金丝雀文档模拟投毒，以度量检测与响应能力。 9. 工具与监控：使用流水线原生检查、{{LLM安全扫描器}}、向量库审计日志，并将索引变更接入SIEM；对批量摄取激增、新连接器、匿名编辑和引用不可信来源告警。 10. 证据合规：保存来源血缘、审批记录、索引变更和金丝雀结果，控制映射 {{法规}} 与数据治理政策。