AgentKit
场景 | 说明 |
新技能首次发布 | 对技能的规范性、安全性和业务效果进行全量验证,确认达到上线标准。 |
技能逻辑迭代更新 | 重新执行评测,对比历史结果,确认优化有效且未引入新问题。 |
接入生产级 Agent | 对挂载到重要业务场景的技能进行强制验证,提升交付信心。 |
安全合规审查 | 在涉及用户数据、外部接口调用的技能中,通过安全扫描满足合规要求。 |
多人协作开发 | 对他人提交或外部引入的技能进行独立验证,统一团队质量基准。 |
概念 | 说明 |
评测实验 | 一次完整的技能评测任务,包含评测集、执行记录和评分报告,支持多次复测对比。 |
评测集 | 用于评测的输入样本集合,每条样本包含输入参数和预期输出,是评测结果可靠性的基础。 |
操作 | 所需权限 |
查看质量检查、安全扫描结果 | AgentKit 的只读权限。 |
触发质量检查、安全扫描 | AgentKit 的开发权限。 |
创建评测实验 | AgentKit 的开发权限。 |
查看评测报告与运行记录 | AgentKit 的只读权限。 |
删除评测实验 | AgentKit 的开发权限。 |
能力 | 关注维度 | 基本功能 | 对技能的作用 |
质量检查 | 基础规范 | 对技能包结构、SKILL.md 元信息、文档格式、脚本语法及资源引用等执行静态检查,按 P0 阻断、P1 警告、P2 建议分级展示问题。 | 提前发现文件缺失、元信息不规范、脚本语法错误及链接失效等基础缺陷,减少解析和执行过程中的异常。 |
安全扫描 | 安全风险 | 对技能包内容执行静态安全扫描,识别硬编码凭证、恶意代码、不安全网络访问及不合规资源使用等潜在风险。 | 为风险整改和发布准入提供依据,降低敏感信息泄露、运行环境受攻击及资源被滥用的风险。 |
技能评测 | 业务效果 | 基于评测集和指定执行模型运行目标技能,评估任务完成度、结果正确性、约束遵守度等表现,并生成评测报告。 | 验证实际执行效果与业务预期的一致性,识别能力短板,支持版本效果对比和持续优化。 |