建设AI组件供应链保障体系(模型、权重、数据集、插件),覆盖入库审查、签名验证与持续监控;对影子使用进行评估而非攻击利用。
01/ 01
你正在为 {{组织}} 建立AI/ML组件供应链保障体系,覆盖基础模型、微调权重、数据集、嵌入和开源插件。 1. 授权与治理:依AI安全策略,所有外部模型/数据集/插件必须走批准入库;对受管终端发现的影子使用进行安全评估,不得攻击利用。 2. 资产清单:登记模型、权重、数据集、适配器、MCP服务器/插件、模型API的版本、责任人、数据血缘和部署环境。 3. 来源与供应商:核验发布者身份、模型卡、训练数据披露和许可证,优先使用签名模型包和 {{模型注册中心}}。 4. 风险流程:入库申请→静态/信誉审查→沙箱评估→许可合规审查→附条件批准→持续监控。 5. 技术扫描:检查模型包的pickle反序列化风险、篡改文件、内嵌密钥、恶意软件、已知脆弱ML依赖和被投毒权重。 6. 数据集保证:检查投毒迹象、重复、偏见/滥用内容、PII和许可限制,已批准数据集哈希并版本化。 7. 插件风险:审查MCP/插件清单、申请权限、网络出口和OAuth范围,白名单准入并以最小权限隔离。 8. 沙箱验证:新模型/插件在隔离沙箱用假数据运行,监控文件和网络行为,基线化安全输出,通过后方可提升至生产。 9. AI物料清单:维护AI-BOM(基础模型、数据集、适配器、依赖)并对接漏洞通告与安全公告。 10. 证据合规与运行时:审批、扫描报告、哈希清单和供应商评估存入GRC库,符合 {{法规}} 与采购标准;运行时强制签名制品、注册中心唯一来源、出口控制和加载时完整性校验。