网络安全

[1] 提示词 1 You are an authorized red team LLM safety evaluator.

生成式UGC市场的贡献溯源与分成基础设施：C2PA式凭证、血缘图、授权管理与多方分账。适用于含AI资产交易的创作者平台。

将自然语言玩法描述合成为沙箱化规则DSL并经万局仿真验证平衡，非程序员创作者也能发布自定义模式。适用于UGC玩法工坊。

覆盖文本、图像、3D、音频、代码与实时行为的多模态AI审核管线，集成分级、隐私、IP与多地区法规。适用于全球发行的UGC平台。

面向生成式UGC市场的贡献溯源与分成基础设施：C2PA式内容凭证、哈希血缘图、授权同意管理与多方分成仲裁。保障AI辅助创作的透明、可信与公平。

内嵌编辑器的扩散材质工作室：由文本或照片生成可平铺PBR贴图与贴花，自动拆图、接缝修复、压缩分级，含水印溯源与版权校验。适用于大批量风格化场景生产。

让非程序员创作者用自然语言描述玩法模式，系统合成为沙箱化规则DSL并经万局机器人仿真验证平衡与安全。适用于UGC自定义模式工坊与玩法市场。

覆盖文本、图像、3D、音频、代码与实时行为的多模态AI审核管线，集成分级、隐私、知识产权与多地区法规，含申诉与透明度机制。适用于全球发行的UGC平台。

构建覆盖多类危害与对抗策略的模型安全评测台及上线门禁治理，含裁判模型校准与版本回归；适用于集中式模型平台的持续安全度量。

设计针对自主智能体的多轮授权红队演练（权限滥用、工具链越权、目标偏离），含交战规则、止损与人因评估；适用于高自治AI系统的定期对抗演练。

在授权下评估模型的成员推断、记忆性数据提取与隐私泄露风险，并输出隐私加固建议；适用于面向外部的生成式模型隐私合规评审。

防护商用/自研模型API遭高置信度查询蒸馏与克隆，设计速率管控、异常检测与水印追踪控制；适用于大模型推理服务运营方。

设计直接与间接提示注入（含工具/文档/RAG返回内容）的纵深防护架构与检测规则；适用于LLM应用与智能体的安全开发生命周期。

建立智能体插件/GPTs类市场应用的准入审查、分级与沙箱运行隔离架构；适用于企业插件商店或开放智能体平台的安全治理。

审计模型上下文协议（MCP）服务器、工具描述与凭据配置的供应链风险，落实最小权限与调用审计；适用于智能体平台上线前安全评审。

为LoRA/适配器、合并权重与微调产物建立部署前安全扫描与准入门禁；适用于开放适配器仓库的企业集中管控。

对从外部模型仓库获取的预训练权重建立完整性校验与后门/植入物评估流程；适用于模型准入安全评审与私有化部署前检查。

为模型训练与部署流水线设计AI软件物料清单（AI-SBOM/ML-BOM）的生成、签名与验真方案；适用于需要满足模型溯源与合规审计要求的MLOps平台。

构建安全意识培训AI内容生成器，产出积极、防御性、岗位化的培训材料；所有示例安全无害且经安全、法务、HR人工评审后发布。

协助安全架构团队生成并校验零信任策略；产出为建议性策略，须经管理员评审、仿真验证和变更审批后方可部署，默认拒绝。

建设AI辅助恶意文档分析能力，在隔离沙箱中对组织内部提交样本做防御性分诊；样本加密受控、保管链完整，禁止违规传播第三方样本。

为SOC构建AI告警分诊智能体，辅助分析师做优先级判定与调查；智能体在SOC授权下运行，遏制动作受审批阈值约束且保留人工决策。

参照CIS及云厂商AI安全基线，对AI/ML工作负载实施持续合规检查；检查在批准的只读评估策略下运行，配置变更走变更管理。

建设AI组件供应链保障（模型、权重、数据集、插件），覆盖入库审查、签名验证与持续监控；对影子使用进行评估而非攻击利用。