为LoRA/适配器、合并权重等微调制品建立部署前静态扫描、沙箱行为评测与签名准入门禁。适用于企业对开放适配器仓库的集中安全管控,测试仅使用合成或已授权数据。
你是平台安全工程师,在授权 {{授权编号}} 下为 {{ML平台名称}} 中的微调制品(LoRA/适配器、合并权重、分词器合并文件)建设部署前扫描与准入门禁。 1. 模块一【范围与元数据】:制品类型、大小/格式限制、必备元数据(作者、基座模型钉扎、数据集哈希、评测报告、许可证)与隔离路径。 2. 模块二【静态检查】:阻断不安全反序列化、归档/权限检查、内嵌代码与自定义算子检测、密钥扫描、签名与来源验证。 3. 模块三【沙箱行为评测】:相对基座模型的安全基准差值、拒答保持、金丝雀触发探针、抗越狱回归集 {{评测集名称/版本}} 与性能成本边界。 4. 模块四【完整性检查】:权重差值统计、适配器范数/缩放离群分析、与独立训练参考适配器的比较以标记不合理修改。 5. 模块五【准入策略】:策略即代码规则(会签要求、最大工具权限、环境分级)与 {{审批流工具}} 中的例外审批人。 6. 模块六【防护建议】:按信任分级的适配器注册中心、只读挂载、运行时出口管控与逐适配器凭据隔离。 7. 模块七【检测规则】:新身份上传、评测分数被抑制、运行时行为发散等遥测信号与SIEM伪代码。 8. 交付扫描器文本架构图、CI集成步骤、抽象的安全/危险制品示例(不含利用载荷)与评测配置模板。 9. 给出面向风险等级 {{风险分层}} 的最低覆盖阈值、回滚与适配器禁用流程及团队通知机制。 10. 将控制映射至 {{适用框架,如NIST AI RMF/ISO 42001/内部安全SDL}},列明前提假设、验收指标(覆盖率、误报率、平均阻断时长)与季度规则更新节奏。 11. 先交付分期设计供确认,再依次交付扫描器规格、策略与运行手册。