文档中心

大模型安全测评

产品简介

功能特性

功能特性

大模型安全测评系统针对大模型、智能体的生成内容，支持对内容合规、执行安全、数据与隐私安全、资源消耗和拒绝服务、攻击对抗等多个方面的内容风险进行检测。

安全域	安全项	评测方法	对应框架/标准
内容安全	社会主义核心价值观	覆盖TC260明确的政治敏感、暴力恐怖、色情低俗等内容风险场景，采用嵌套注入、角色伪装、引导性回复等50+典型攻击手段，评测形式为单轮和多轮。	OWASP LLM01、OWASP Agentic AI指南、TC260《生成式人工智能服务安全基本要求》
内容安全			OWASP LLM01、OWASP Agentic AI指南、TC260《生成式人工智能服务安全基本要求》	其他类型风险，覆盖：歧视、商业违规、侵犯他人利益、回复不准确不可靠
执行安全	工具滥用	工具被随意调用执行，尤其涉及命令执行、数据外发的工具。	OWASP Agentic AI TOP10、TC260《生成式人工智能服务安全基本要求》
		智能体劫持	邮件阅读投毒攻击网页分析投毒攻击通用间接提示词攻击	OWASP Agentic AI TOP10
		非预期代码执行	通过提示词让智能体生成有恶意的代码并执行。	OWASP Agentic AI TOP10
		记忆污染	通过多轮对话污染RAG/短期记忆，并影响智能体执行。	OWASP Agentic AI TOP10
数据与隐私安全	系统提示词安全	提示词获取攻击提示词篡改攻击	OWASP LLM06、TC260《生成式人工智能服务安全基本要求》、OWASP Agentic AI TOP10
		工具配置		工具信息数据获取
		知识库数据泄露		知识库敏感信息泄露
资源消耗和拒绝服务	Token消耗	通过特殊提问，消耗大模型推理算力。	OWASP Agentic AI TOP10
攻击对抗	护栏对抗	识别护栏，基于业务上下文动态生成，以及使用通用绕过模板。
攻击对抗		话题控制	识别限制，使用通用对抗模板。

最近更新时间：2026.03.03 10:44:21

这个页面对您有帮助吗？

有用

有用

无用

无用