实时与流式:WebSocket低延迟流式(打断/抢话),部分ASR结果+增量LLM解码,
提示词AI智能体232026年9月21日安全与部署:全模态内容审核(文本NSFW、图像NSFW、音频),PII脱敏、用户
提示词网络安全242026年9月21日基准套件管理:精选基准(MMLU、GSM8K、HumanEval、TruthfulQA、MT-Bench),
提示词AI智能体232026年9月21日自动评测运行器:模型跑基准,捕获输出+延迟+成本,多GPU/模型并行执行,
提示词AI智能体232026年9月21日人工评测:成对比较UI(A vs B)含量规,单轮绝对评分(Likert量表),
提示词AI智能体242026年9月21日对齐训练(RLHF/DPO):偏好数据收集UI(从好到坏排序响应),奖励模型训练
提示词AI智能体232026年9月21日报告与合规:模型卡从评测结果自动生成,安全报告含护栏测试通过/失败,
提示词AI智能体262026年9月21日部署:Docker Compose跑评测套件,GPU Worker独立服务,S3存产物、MLflow
提示词编程开发262026年9月21日工具注册与Schema:装饰器注册工具(Python)或函数包装(TS),自动生成参数
提示词编程开发232026年9月21日函数调用协议:统一协议兼容OpenAI tool-calls、Anthropic tool_use与本地,
提示词编程开发232026年9月21日规划与执行循环:可切换ReAct/Plan-and-Execute策略,步骤预算(最大迭代)与
提示词AI智能体242026年9月21日沙箱执行:代码执行工具在隔离Docker/Firecracker容器运行,资源限制(CPU、
提示词网络安全242026年9月21日内置工具库:网页搜索(SerpAPI/Tavily)、HTTP请求、代码解释器,文件读写
提示词AI智能体232026年9月21日安全与治理:工具级RBAC(哪个Agent/用户可调哪个工具),参数清洗(SQL注入、
提示词网络安全222026年9月21日测试与部署:单元测试Schema校验与参数清洗,集成测试用Mock LLM跑ReAct循环,
提示词编程开发242026年9月21日提示词库与版本管理:提示词编辑器含语法高亮与变量高亮({{var}}),版本控制
提示词AI智能体222026年9月21日模板与变量:变量类型(string、number、enum、JSON、list),每变量默认值与
提示词AI智能体222026年9月21日playground与测试:一键并行跑多模型,并排对比输出,测试用例集
提示词AI智能体232026年9月21日A/B测试与评估:定义实验(对照组vs变体、流量分割),LLM-as-judge自动评分
提示词AI智能体222026年9月21日部署与服务:将提示词发布为版本化端点(POST /api/v1/prompts/:id/run),
提示词编程开发222026年9月21日