“LLM安全”

分类验证-红队LLM安全评估

LLM评测与对齐平台

构建LLM评测与对齐平台，覆盖自动评测、人工评测、RLHF/DPO对齐训练与红蓝对抗 安全评测，适用于模型质量保障与安全合规。

LLM系统安全：全面提示防御策略

探索LLM系统提示安全措施，包含恶意提示检测、安全指令强化与URL匿名化，全面防御LLM安全风险。

LLM应用威胁建模

为大模型应用开展AI专项威胁建模（OWASP LLM Top 10与滥用案例），在上线前识别并缓解风险；本活动为设计评审，不包含真实攻击…

RAG投毒检测与知识库完整性防护

保护RAG链路的知识库、向量索引与检索内容完整性，检测投毒与间接注入；金丝雀模拟测试须经书面批准并在隔离索引中进行。

提示词注入防护工程

为大模型应用设计并验证提示词注入纵深防护体系；注入测试仅在书面授权的指定测试端点或授权红队环境中进行，目标为防御…

LLM Evaluation & Alignment Platform

构建LLM评测与对齐平台，覆盖自动评测、人工评测、RLHF/DPO对齐训练与红蓝对抗安全评测。

智能体NPC社会模拟层

LLM驱动的NPC智能体层：带目标、记忆、关系图谱与受约束对话，按近远玩家分仿真层级控制成本，含人设事实库防穿帮与儿童…

直接与间接提示注入纵深防护与检测工程

…输出、网页等不可信通道）的纵深防御架构与检测规则。适用于LLM应用与智能体的安全开发生命周期，仅以抽象攻击模式测试自有控制。

生成内容自动化试玩评测场

用LLM玩家智能体与强化学习/行为克隆智能体大规模无头试玩AI生成内容，自动发现卡死、失衡、误导与安全缺陷，并量化"好玩度"。作为生成…

Automated Playtesting and GenAI Evaluation Harness

用LLM与强化学习智能体大规模无头试玩生成内容，自动挖掘卡死、失衡、误导与安全缺陷。适用于生成式内容的发布前质量闸门。

Direct and Indirect Prompt Injection Defense Architecture and Detection Engineering

设计直接与间接提示注入（含工具/文档/RAG返回内容）的纵深防护架构与检测规则；适用于LLM应用与智能体的安全开发生命周期。

Zero-Trust Policy Generation Assistant

协助安全架构团队生成并校验零信任策略；产出为建议性策略，须经管理员评审、仿真验证和变更审批后方可部署，默认拒绝。

Security Awareness Training Content Generator

构建安全意识培训AI内容生成器，产出积极、防御性、岗位化的培训材料；所有示例安全无害且经安全、法务、HR人工评审后发布。

CIS-Style Baseline Checks for AI Systems

参照CIS及云厂商AI安全基线，对AI/ML工作负载实施持续合规检查；检查在批准的只读评估策略下运行，配置变更走变更管理。

AI驱动的SOC安全运营中心

构建AI驱动的安全运营中心，实现告警分诊自动化、事件响应编排、分析师智能辅助与持续优化。

AI代码安全审计工具

构建AI代码安全审计工具，对源代码、IaC和配置进行自动化安全审查并生成修复建议。

企业AI供应链安全评估与治理总体方案

对企业全部AI资产（基座模型、数据集、适配器、MCP服务器、插件、智能体工具）开展授权的全链路供应链风险评估并建立治理机制。适用于新AI…

Authorized Red Team AI Reconnaissance Assistant

构建仅在书面授权范围内运行的红队AI侦察助手，辅助安全团队梳理自有资产的暴露面；所有活动须有授权书与明确范围，禁止针对…

全LLM驱动叙事AI原生游戏

设计一款完全由大模型驱动叙事的AI原生游戏，剧情、角色与世界规则均实时生成， 大模型是核心游戏引擎而非聊天插件，适用于…