文档中心

大模型安全测评

产品简介

什么是大模型安全测评

火山引擎大模型安全测评平台（以下简称“测评平台”）基于大模型合规标准《生成式人工智能服务管理暂行办法》、《生成式人工智能服务安全基本要求》和大模型的攻防风险，构建100+安全合规测试子项和大模型常用攻击手法的攻击样例，比如提示词越狱，诱导、角色扮演等，自动对大模型进行测评并生成详细的风险测评报告，旨在帮助大模型研发相关企业快速有效地识别大模型潜在的合规和对抗风险，以确保其符合法律法规、政策标准和抵抗外部的攻击。

测评平台具有以下特点：

全方位完整的测评：测评平台覆盖内容安全风险5大类，31小类，支持20+种技战术，实现50+种单轮攻击算法，以及包括TAP/PAIR/回音壁等10+种复杂多轮攻击算法，内置1万+个测评题目和20万+个关键词。

严格遵循行业标准：测评平台的功能设计和题库设计严格遵循国家和行业标准，包括《生成式人工智能服务管理暂行办法》、《生成式人工智能服务安全基本要求》。

自动生成测评题目：测评平台内置50+种自研攻击算法，能够根据客户录入的种子问题自动生成题目，构建个性化题库，满足客户探索新题目用于测评的需求。

为什么需要大模型安全测评

随着大模型技术的飞速发展，越来越多的企业将大模型应用于企业业务，以加速业务发展。企业在从大模型技术受益的同时，也面临着大模型安全风险的挑战，如提示词越狱、提示词注入、数据泄露等风险。此外，国家对人工智能的监管日益严格，相继出台了多项大模型合规标准，如《生成式人工智能服务管理暂行办法》、《生成式人工智能服务安全基本要求》。在此背景下，开展系统化、专业化的大模型安全测评已成为防范技术滥用、保障客户权益、满足合规要求的必要举措。

应用场景

大模型安全测评可以适用以下应用场景：

模型训练完成后

初步验证基础安全能力，尽早发现安全问题，尽早修复。

正式上线发布前

确保不因安全问题导致上线失败，满足《生成式人工智能服务管理暂行办法》第九条要求。

版本更新或模型升级后

确认原有修复问题未复发，验证新版本是否引入新的安全漏洞。

模型加固或实施防护后

验证防护策略的有效性。

定期例行安全巡检

持续监控模型行为是否漂移，验证防护策略的有效性。

收到重大安全事件

快速定位是否存在类似安全问题，快速评估安全问题影响范围。

第三方检测前

提前自查自纠，避免检测时暴露问题，准备完整的测评记录和报告。

最近更新时间：2025.11.27 14:56:56

这个页面对您有帮助吗？

有用

无用