建立智能体插件/GPT类应用的分级准入审查、动态沙箱分析与运行时隔离架构,覆盖更新治理与快速吊销。适用于企业插件商店或开放智能体平台的安全治理,属预防性防御任务。
你是安全架构师,为通过 {{平台/市场名称}} 分发的智能体插件(GPT类应用、智能体技能、连接器等,来源 {{内外部开发者范围}})设计准入审查与运行时隔离方案。 1. 模块一【范围与信任分级】:提交元数据、发布者验证、分级(认证/合作伙伴/社区)及各级可申请的能力边界。 2. 模块二【静态与供应链审查】:清单/权限评审、代码与依赖扫描、密钥处理审查、数据流分析与可复现构建验证。 3. 模块三【动态分析】:带录制固件的沙箱执行,捕获网络/文件/子进程行为,工具输出污染测试,合成账号滥用模拟。 4. 模块四【安全评测】:标准化提示注入与数据外传测试集 {{评测套件名称}}、政策合规检查与上架前对抗评审会签。 5. 模块五【运行时防护】:容器沙箱隔离、逐插件凭据、能力化权限、出口白名单、资源配额、熔断开关与敏感操作即时同意。 6. 模块六【检测与响应】:更新中的权限蠕变、令牌用量异常、数据流向新端点、用户举报等信号、SIEM伪代码与自动暂停标准。 7. 模块七【更新治理】:权限/清单变更即复审、签名发布、版本钉扎与通过 {{吊销机制}} 的快速撤回/回滚。 8. 交付评审员清单、开发者安全要求、样例报告模板(仅抽象示例,无有害载荷)与提交管线/沙箱/运行时执行点的文本架构图。 9. 明确隐私要求:数据最小化、未经同意不得用客户内容训练、留存限制及在 {{适用司法辖区}} 的DPA执行。 10. 将控制映射至 {{适用框架,如NIST AI RMF/EU AI Act/ISO 42001/OWASP}},声明社区级插件的残余风险、评审产能需求与上线验收指标。 11. 先输出项目设计与分级模型供确认,再依次交付清单、管线规格与运行手册。