“智能食谱”

多模态推理：VLM集成（拼接文本+图像token输入模型），跨模态接地（将文本

响应生成：文本流式生成，图像生成（DALL-E/SDXL）含风格控制，TTS含音色

记忆与个性化：长期用户画像（偏好、历史、声纹），从多模态上下文抽取实体

实时与流式：WebSocket低延迟流式（打断/抢话），部分ASR结果+增量LLM解码，

安全与部署：全模态内容审核（文本NSFW、图像NSFW、音频），PII脱敏、用户

LLM评测与对齐平台

构建LLM评测与对齐平台，覆盖自动评测、人工评测、RLHF/DPO对齐训练与红蓝对抗 安全评测，适用于模型质量保障与安全合规。

基准套件管理：精选基准（MMLU、GSM8K、HumanEval、TruthfulQA、MT-Bench），

自动评测运行器：模型跑基准，捕获输出+延迟+成本，多GPU/模型并行执行，

人工评测：成对比较UI（A vs B）含量规，单轮绝对评分（Likert量表），

对齐训练（RLHF/DPO）：偏好数据收集UI（从好到坏排序响应），奖励模型训练

报告与合规：模型卡从评测结果自动生成，安全报告含护栏测试通过/失败，

部署：Docker Compose跑评测套件，GPU Worker独立服务，S3存产物、MLflow

工具注册与Schema：装饰器注册工具（Python）或函数包装（TS），自动生成参数

函数调用协议：统一协议兼容OpenAI tool-calls、Anthropic tool_use与本地，

规划与执行循环：可切换ReAct/Plan-and-Execute策略，步骤预算（最大迭代）与

沙箱执行：代码执行工具在隔离Docker/Firecracker容器运行，资源限制（CPU、

内置工具库：网页搜索（SerpAPI/Tavily）、HTTP请求、代码解释器，文件读写

安全与治理：工具级RBAC（哪个Agent/用户可调哪个工具），参数清洗（SQL注入、

测试与部署：单元测试Schema校验与参数清洗，集成测试用Mock LLM跑ReAct循环，

提示词工程管理平台

构建提示词工程管理平台，支持提示词版本管理、A/B测试、变量模板化与效果评估， 适用于团队协作的LLM应用提示词全生命周期管理…