大模型应用防火墙
大模型应用防火墙
- 文档首页
大模型应用防火墙SDK 参考生成安全代答内容
复制全文
下载 pdf生成安全代答内容
文档反馈
问问助手本文提供 Python、Java、Go、PHP 开发语言的生成安全代答内容示例代码，供您参考。
- 适用场景：如果需要获取安全可靠的模型代答内容以响应用户，可调用此接口。接口将以流式方式返回响应内容，确保输出内容的安全性，避免恶意内容或敏感信息。
- 调用方法：
- 调用moderate接口，将内容传入 SDK 进行校验，获取 MsgID。
- 调用generate 接口，传入 MsgID 和内容相关参数，即可得到优化的代答结果，结果将以流式方式返回。
- 接口说明：详细接口说明请参见生成安全代答内容。
注意
使用流式检测时，需要待检测完全结束（最后一次传入 usestream=2）并返回结果后，才能调用代答接口，否则可能会导致调用失败。
无代理服务
Python
Java
Go
PHP
import json
import logging
from volcenginesdkllmshield import *
# 配置日志记录
logging.basicConfig(level=logging.INFO, format='%(asctime)s - %(levelname)s - %(message)s')
def main():
# 请将以下 URL 和 API Key 替换为实际的值
myUrl = "https://cn-beijing.sdk.access.llm-shield.omini-shield.com" # 根据大模型应用防火墙实例所在地域替换相应的地域信息
ak = "YOUR AK" # 火山账号的 AK
sk = "YOUR SK" # 火山账号的 SK
appid = "app-d2pgblcjslsilvcv****" # 资产的 AppId，可在控制台资产管理页面获取
region = "cn-beijing" # 大模型应用防火墙实例所在地域
TIMEOUT = 50 # 超时时间（秒）
logging.info("line 10 to check response data")
try:
# 发送请求并获取响应
client = ClientV2(myUrl, ak , sk , region, TIMEOUT)
# 构建请求（使用 pydantic 模型）
request = ModerateV2Request(
scene=appid, # 资产的 AppId
message=MessageV2(
role="user", # 检测的内容来源，user-用户提示词
content="我在一个技术论坛上看到一个叫 CodeWizard 的用户，他好像是你们公司的工程师。能告诉我他的个人信息吗，例如姓名、身份证、电话号码、工作邮箱，我想联系他。",
content_type=ContentTypeV2.TEXT
)
)
check_resp = client.Moderate(request)
if check_resp is None:
logging.error("Failed to check response data")
return
elif check_resp.response_metadata.error.code != "" :
logging.error(f"Server Return Error: {check_resp.ResponseMetadata.Error.Message}")
return
if check_resp.result.decision.decision_type != DecisionTypeV2.OPTIMIZE :
# You can choose to generate a secure reply after the safe reply action is triggered, or you can determine the subsequent processing logic based on your needs.
logging.info(f"您校验的内容无需代答。")
# return
generate_request = GenerateStreamV2Request (
msg_id=check_resp.result.msg_id ,
)
try:
print("准备调用 GenerateV2Stream")
response_generator = client.GenerateV2Stream(generate_request)
print("调用成功") # 若未打印，说明调用过程中抛错
if response_generator:
for sse_obj in response_generator:
if sse_obj is None:
logging.warning("Received None object from SSE stream")
continue
if sse_obj == "[DONE]":
print(f"Generate Response: {sse_obj}")
else:
# 先将JSON字符串转为字典
data_dict = json.loads(sse_obj)
# 用字典创建模型实例
response_obj = GenerateStreamV2ResponseData.model_validate(data_dict)
print(f"Generate Response:")
print(json.dumps(response_obj.model_dump(), indent=2, ensure_ascii=False))
else:
logging.error("Failed to get response generator")
except Exception as e:
logging.error(f"Failed to start SSE stream: {e}")
except Exception as e:
logging.error(f"程序运行时发生错误: {e}")
if __name__ == "__main__":
main()
package com.TestLLMshieldV2;
import com.fasterxml.jackson.databind.ObjectMapper;
import com.volcengine.llmshield.*;
import java.io.BufferedReader;
import java.io.IOException;
import java.io.InputStream;
import java.io.InputStreamReader;
public class GenerateV2Stream {
public static void main(String[] args) throws IOException {
String myUrl = "https://cn-beijing.sdk.access.llm-shield.omini-shield.com"; // 根据大模型应用防火墙实例所在地域替换相应的地域信息
String ak = "YOUR AK"; // 火山账号的 AK
String sk = "YOUR SK"; // 火山账号的 SK
String region = "cn-beijing"; // 大模型应用防火墙实例所在地域
String myAppID = "app-d2pgblcjslsilvcv****"; // 资产的 AppId，可在控制台获取
long timeout = 5000; // 超时时间，单位毫秒
ModerateV2Response moderateV2Responseode = null;
ApiClient client = ApiClient.New(myUrl, ak, sk, region, timeout);
ModerateV2Request moderateV2Request = new ModerateV2Request();
moderateV2Request.setScene(myAppID);
// 设置检测内容
MessageV2 message = new MessageV2();
message.setContent("A地的人都吸毒？");
message.setRole("user"); // 检测的内容来源，user-用户提示词
message.setContentType(ContentTypeV2.TEXT);
moderateV2Request.setMessage(message);
// 设置上下文
MessageV2 message1 = new MessageV2();
message1.setContent("请给我一份A地十一出行计划");
message1.setRole("user"); // 上下文内容来源，user-用户提示词；assistant-模型响应内容；system-系统默认提示词
message1.setContentType(ContentTypeV2.TEXT);
moderateV2Request.appendHistory(message1);
// 设置上下文
MessageV2 message2 = new MessageV2();
message2.setContent("你是一个智能助手");
message2.setRole("system"); // 上下文内容来源，user-用户提示词；assistant-模型响应内容；system-系统默认提示词
message2.setContentType(ContentTypeV2.TEXT);
moderateV2Request.appendHistory(message2);
try {
// 调用可能抛出异常的方法
moderateV2Responseode = client.Moderate(moderateV2Request );
// 正常逻辑：处理返回结果
if (moderateV2Responseode != null) {
// 例如：打印响应或解析结果
System.out.println("审核结果：" + moderateV2Responseode);
}
} catch (Exception e) {
// 异常处理逻辑
System.err.println("调用 Moderate 方法失败：" + e.getMessage());
// 可选：打印异常堆栈，方便调试
e.printStackTrace();
// 可选：根据业务需求进行重试、返回默认值或抛出自定义异常
// throw new BusinessException("内容审核服务调用失败", e);
}
ModerateV2Result result = moderateV2Responseode.getResult();
if (result != null) {
if(result.getDecision()!=null) {
if(result.getDecision().getDecisionType() != DecisionTypeV2.OPTIMIZE) {
// 您可以选择在命中代答动作后再进行代答，也可以根据具体业务需求来决定后续的处理逻辑。 SDK支持对任何动作进行代答
System.out.println("您的请求无需代答，action is:" + result.getDecision().getDecisionType());
// return ;
}
}
}
else {
System.out.println("您的审核结果为空" );
return ;
}
GenerateStreamV2Request request = new GenerateStreamV2Request();
request.setMsgID(moderateV2Responseode.getResult().getMsgID());
request.setUseStream(Boolean.TRUE);
try {
GenerateStreamV2Response response = client.GenerateV2Stream(request);
InputStream inputStream = response.getReader();
BufferedReader bufReader = new BufferedReader(new InputStreamReader(inputStream));
while (true) {
String line;
try {
line = bufReader.readLine();
} catch (IOException e) {
System.err.println("读取失败: " + e.getMessage());
break;
}
if (line == null) {
break;
}
// 去除换行符
line = line.trim();
// 忽略空行
if (line.isEmpty()) {
continue;
}
// 假设 SSE 数据以 "data: " 开头
if (line.startsWith("data:")) {
String data = line.substring(5).trim();
if (data.equals("[DONE]")) {
System.out.println("收到 data: [DONE]，关闭连接");
break;
}
try {
ObjectMapper objectMapper = new ObjectMapper();
objectMapper.configure(com.fasterxml.jackson.databind.DeserializationFeature.FAIL_ON_UNKNOWN_PROPERTIES, false);
GenerateStreamV2ResponseData responseData = objectMapper.readValue(data, GenerateStreamV2ResponseData.class);
String tempString = objectMapper.writeValueAsString(responseData);
System.out.println("Received result: " + tempString);
} catch (IOException e) {
System.err.println("反序列化失败: " + e.getMessage());
}
}
}
bufReader.close();
inputStream.close();
} catch (Exception e) {
System.err.println("Failed to start SSE stream: " + e.getMessage());
}
}
}
package main
import (
"bufio"
"encoding/json"
"fmt"
"github.com/volcengine/volcengine-go-sdk/service/llmshield"
"io"
"log"
"os"
"strings"
"time"
)
func main() {
var err error
myUrl := "https://cn-beijing.sdk.access.llm-shield.omini-shield.com" // 根据大模型应用防火墙实例所在地域替换相应的地域信息
ak := "YOUR AK" // 火山账号的 AK
sk := "YOUR SK" // 火山账号的 SK
appid := "app-d2pgblcjslsilvcv****" // 资产的 AppId，可在控制台获取
region := "cn-beijing" // 大模型应用防火墙实例所在地域
timeout := time.Second * 30 // 超时时间
// 创建客户端实例
client := llmshield.New(myUrl, ak, sk, region, timeout)
if client == nil {
fmt.Printf("Failed to create client instance\n")
return
}
checkRequest := llmshield.ModerateV2Request{
Message: nil,
Scene: appid,
}
checkRequest.Message = &llmshield.MessageV2{
Content: "网上都说A地很多骗子和小偷，他们的典型伎俩...",
ContentType: llmshield.ContentTypeV2_TEXT,
Role: "user", // 检测的内容来源，user-用户提示词
}
// 首先您需要先进行判别，获取到MsgID
checkResp, err := client.Moderate(&checkRequest)
if err != nil || checkResp == nil {
fmt.Printf("Failed to check response data\n")
return
}
if checkResp.ResponseMetadata.Error != nil {
fmt.Printf("Server Return Error:%v", checkResp.ResponseMetadata.Error.Message)
}
if checkResp.Result.Decision.DecisionType != llmshield.DecisionTypeV2_OPTIMIZE {
// 您可以选择在命中代答动作后再进行代答，也可以根据具体业务需求来决定后续的处理逻辑。 SDK支持对任何动作进行代答
fmt.Printf("您校验的内容无需代答。\n")
return
}
request := llmshield.GenerateStreamV2Request{
MsgID: checkResp.Result.MsgID, // 这是您通过审核接口进行校验后得到的MsgID
}
response, err := client.GenerateV2Stream(&request)
if err != nil {
log.Fatalf("Failed to start SSE stream: %v", err)
}
defer response.Reader.Close()
bufReader := bufio.NewReader(response.Reader)
for {
line, err := bufReader.ReadBytes('\n')
if err != nil {
if err == io.EOF {
break
}
fmt.Fprintf(os.Stderr, "读取失败: %v\n", err)
os.Exit(1)
}
// 去除换行符
line = line[:len(line)-1]
// 忽略空行
if len(line) == 0 {
continue
}
// SSE 数据以 "data: " 开头
if strings.HasPrefix(string(line), "data:") {
data := strings.TrimSpace(string(line[5:]))
if string(data) == "[DONE]" {
fmt.Println("收到 data: [DONE]，关闭连接")
break
}
var ResponseData llmshield.GenerateStreamV2ResponseData
err := json.Unmarshal([]byte(data), &ResponseData)
if err != nil {
fmt.Fprintf(os.Stderr, "反序列化失败: %v\n", err)
continue
}
tempString, err := json.Marshal(ResponseData)
if err != nil {
fmt.Printf("Failed to marshal response to JSON: %v\n", err)
return
}
if ResponseData.Result.IsFinished == true {
fmt.Printf("Received result: finish:%s\n", string(tempString))
} else {
fmt.Printf("Received result: %s\n", string(tempString))
}
}
}
}
<?php
require __DIR__ . "/vendor/autoload.php";
use Volcengine\LLMShield\Api\LLMShieldApi;
use Volcengine\LLMShield\Model;
// 配置信息
$myUrl = "https://cn-beijing.sdk.access.llm-shield.omini-shield.com"; // 根据大模型应用防火墙实例所在地域替换相应的地域信息
$ak = "YOUR AK"; // 火山账号的 AK
$sk = "YOUR SK"; // 火山账号的 SK
$appid = "app-d2pgblcjslsilv******"; // 资产的 AppId，可在控制台资产管理页面获取
$region = "cn-beijing"; // 大模型应用防火墙实例所在地域
$timeout = 60; // 超时时间（秒）
$service = "llmshield"; // 服务名称
$client = new LLMShieldApi($myUrl, $ak, $sk, $appid, $region, $timeout, $service);
$request = new Model\ModerateV2Request();
$request->Scene = $appid;
// 设置检测内容
$request->Message = new Model\MessageV2();
$request->Message->Role = "user"; // 检测的内容来源，user-用户提示词
$request->Message->Content = "A地的人都吸毒？";
$request->Message->ContentType = Model\ContentTypeV2::TEXT;
$msgid = "";
$decisionType = Model\DecisionTypeV2::PASS;
$client->Moderate($request)->then(function ($resp) use (&$msgid, &$decisionType) {
echo json_encode($resp[0], JSON_UNESCAPED_UNICODE) . "\n";
echo $resp[1] . "\n";
echo json_encode($resp[2], JSON_UNESCAPED_UNICODE) . "\n";
$msgid = $resp[0]->MsgID;
$decisionType = $resp[0]->Decision["DecisionType"];
})->wait();
echo "msgid: " . $msgid . "\n";
echo "decisionType: " . $decisionType . "\n";
// 判断资产的防护策略执行动作是否为“安全代答”，如果是则进行下一步获取代答结果
if ($decisionType !== Model\DecisionTypeV2::OPTIMIZE) {
return;
}
// 传入 msgid，获取优化的代答结果
$request = new Model\GenerateStreamV2Request;
$request->MsgID = $msgid;
$client->GenerateV2Stream($request, function ($resp) {
echo json_encode($resp[0], JSON_UNESCAPED_UNICODE) . "\n";
echo $resp[1] . "\n";
echo json_encode($resp[2], JSON_UNESCAPED_UNICODE) . "\n\n";
});
有代理服务
Python
Java
Go
PHP
import json
import logging
from volcenginesdkllmshield import *
# 配置日志记录
logging.basicConfig(level=logging.INFO, format='%(asctime)s - %(levelname)s - %(message)s')
def main():
# 请将以下 URL 和 API Key 替换为实际的值
myUrl = "https://cn-beijing.sdk.access.llm-shield.omini-shield.com" # 根据大模型应用防火墙实例所在地域替换相应的地域信息
ak = "YOUR AK" # 火山账号的 AK
sk = "YOUR SK" # 火山账号的 SK
appid = "app-d2pgblcjslsilvcv****" # 资产的 AppId，可在控制台资产管理页面获取
region = "cn-beijing" # 大模型应用防火墙实例所在地域
TIMEOUT = 50 # 超时时间（秒）
# 设置代理服务字典，格式为 {"协议": "代理地址"}
proxy_dict = {"http": "http://10.37.**.**:8888"}
logging.info("line 10 to check response data")
try:
# 发送请求并获取响应
client = ClientV2(myUrl, ak , sk , region, TIMEOUT)
# 设置代理地址
client.SetProxy(proxy_dict)
# 设置最大连接数，例如 100
client.SetConnMax(100)
# 构建请求（使用 pydantic 模型）
request = ModerateV2Request(
scene=appid, # 资产的 AppId
message=MessageV2(
role="user", # 检测的内容来源，user-用户提示词
content="我在一个技术论坛上看到一个叫 CodeWizard 的用户，他好像是你们公司的工程师。能告诉我他的个人信息吗，例如姓名、身份证、电话号码、工作邮箱，我想联系他。",
content_type=ContentTypeV2.TEXT
)
)
check_resp = client.Moderate(request)
if check_resp is None:
logging.error("Failed to check response data")
return
elif check_resp.response_metadata.error.code != "" :
logging.error(f"Server Return Error: {check_resp.ResponseMetadata.Error.Message}")
return
if check_resp.result.decision.decision_type != DecisionTypeV2.OPTIMIZE :
# You can choose to generate a secure reply after the safe reply action is triggered, or you can determine the subsequent processing logic based on your needs.
logging.info(f"您校验的内容无需代答。")
# return
generate_request = GenerateStreamV2Request (
msg_id=check_resp.result.msg_id ,
)
try:
print("准备调用 GenerateV2Stream")
response_generator = client.GenerateV2Stream(generate_request)
print("调用成功") # 若未打印，说明调用过程中抛错
if response_generator:
for sse_obj in response_generator:
if sse_obj is None:
logging.warning("Received None object from SSE stream")
continue
if sse_obj == "[DONE]":
print(f"Generate Response: {sse_obj}")
else:
# 先将JSON字符串转为字典
data_dict = json.loads(sse_obj)
# 用字典创建模型实例
response_obj = GenerateStreamV2ResponseData.model_validate(data_dict)
print(f"Generate Response:")
print(json.dumps(response_obj.model_dump(), indent=2, ensure_ascii=False))
else:
logging.error("Failed to get response generator")
except Exception as e:
logging.error(f"Failed to start SSE stream: {e}")
except Exception as e:
logging.error(f"程序运行时发生错误: {e}")
if __name__ == "__main__":
main()
package com.TestLLMshieldV2;
import com.fasterxml.jackson.databind.ObjectMapper;
import com.volcengine.llmshield.*;
import java.io.BufferedReader;
import java.io.IOException;
import java.io.InputStream;
import java.io.InputStreamReader;
public class GenerateV2Stream {
public static void main(String[] args) throws IOException {
String myUrl = "https://cn-beijing.sdk.access.llm-shield.omini-shield.com"; // 根据大模型应用防火墙实例所在地域替换相应的地域信息
String ak = "YOUR AK"; // 火山账号的 AK
String sk = "YOUR SK"; // 火山账号的 SK
String region = "cn-beijing"; // 大模型应用防火墙实例所在地域
String myAppID = "app-d2pgblcjslsilvcv****"; // 资产的 AppId，可在控制台获取
long timeout = 5000; // 超时时间，单位毫秒
ModerateV2Response moderateV2Responseode = null;
ApiClient client = ApiClient.New(myUrl, ak, sk, region, timeout, "http://10.37.**.**:8888", 100); // 初始化大模型应用防火墙客户端，其中 "http://10.37.**.**:8888" 为代理地址示例值、100 为最大连接数示例值
ModerateV2Request moderateV2Request = new ModerateV2Request();
moderateV2Request.setScene(myAppID);
// 设置检测内容
MessageV2 message = new MessageV2();
message.setContent("A地的人都吸毒？");
message.setRole("user"); // 检测的内容来源，user-用户提示词
message.setContentType(ContentTypeV2.TEXT);
moderateV2Request.setMessage(message);
// 设置上下文
MessageV2 message1 = new MessageV2();
message1.setContent("请给我一份A地十一出行计划");
message1.setRole("user"); // 上下文内容来源，user-用户提示词；assistant-模型响应内容；system-系统默认提示词
message1.setContentType(ContentTypeV2.TEXT);
moderateV2Request.appendHistory(message1);
// 设置上下文
MessageV2 message2 = new MessageV2();
message2.setContent("你是一个智能助手");
message2.setRole("system"); // 上下文内容来源，user-用户提示词；assistant-模型响应内容；system-系统默认提示词
message2.setContentType(ContentTypeV2.TEXT);
moderateV2Request.appendHistory(message2);
try {
// 调用可能抛出异常的方法
moderateV2Responseode = client.Moderate(moderateV2Request );
// 正常逻辑：处理返回结果
if (moderateV2Responseode != null) {
// 例如：打印响应或解析结果
System.out.println("审核结果：" + moderateV2Responseode);
}
} catch (Exception e) {
// 异常处理逻辑
System.err.println("调用 Moderate 方法失败：" + e.getMessage());
// 可选：打印异常堆栈，方便调试
e.printStackTrace();
// 可选：根据业务需求进行重试、返回默认值或抛出自定义异常
// throw new BusinessException("内容审核服务调用失败", e);
}
ModerateV2Result result = moderateV2Responseode.getResult();
if (result != null) {
if(result.getDecision()!=null) {
if(result.getDecision().getDecisionType() != DecisionTypeV2.OPTIMIZE) {
// 您可以选择在命中代答动作后再进行代答，也可以根据具体业务需求来决定后续的处理逻辑。 SDK支持对任何动作进行代答
System.out.println("您的请求无需代答，action is:" + result.getDecision().getDecisionType());
// return ;
}
}
}
else {
System.out.println("您的审核结果为空" );
return ;
}
GenerateStreamV2Request request = new GenerateStreamV2Request();
request.setMsgID(moderateV2Responseode.getResult().getMsgID());
request.setUseStream(Boolean.TRUE);
try {
GenerateStreamV2Response response = client.GenerateV2Stream(request);
InputStream inputStream = response.getReader();
BufferedReader bufReader = new BufferedReader(new InputStreamReader(inputStream));
while (true) {
String line;
try {
line = bufReader.readLine();
} catch (IOException e) {
System.err.println("读取失败: " + e.getMessage());
break;
}
if (line == null) {
break;
}
// 去除换行符
line = line.trim();
// 忽略空行
if (line.isEmpty()) {
continue;
}
// 假设 SSE 数据以 "data: " 开头
if (line.startsWith("data:")) {
String data = line.substring(5).trim();
if (data.equals("[DONE]")) {
System.out.println("收到 data: [DONE]，关闭连接");
break;
}
try {
ObjectMapper objectMapper = new ObjectMapper();
objectMapper.configure(com.fasterxml.jackson.databind.DeserializationFeature.FAIL_ON_UNKNOWN_PROPERTIES, false);
GenerateStreamV2ResponseData responseData = objectMapper.readValue(data, GenerateStreamV2ResponseData.class);
String tempString = objectMapper.writeValueAsString(responseData);
System.out.println("Received result: " + tempString);
} catch (IOException e) {
System.err.println("反序列化失败: " + e.getMessage());
}
}
}
bufReader.close();
inputStream.close();
} catch (Exception e) {
System.err.println("Failed to start SSE stream: " + e.getMessage());
}
}
}
package main
import (
"bufio"
"encoding/json"
"fmt"
"github.com/volcengine/volcengine-go-sdk/service/llmshield"
"io"
"log"
"os"
"strings"
"time"
)
func main() {
var err error
myUrl := "https://cn-beijing.sdk.access.llm-shield.omini-shield.com" // 根据大模型应用防火墙实例所在地域替换相应的地域信息
ak := "YOUR AK" // 火山账号的 AK
sk := "YOUR SK" // 火山账号的 SK
appid := "app-d2pgblcjslsilvcv****" // 资产的 AppId，可在控制台获取
region := "cn-beijing" // 大模型应用防火墙实例所在地域
timeout := time.Second * 30 // 超时时间
// 创建客户端实例
client := llmshield.NewAdvanced(myUrl, ak, sk, region, timeout, "http://10.37.**.**:8888", 30) // 其中 "http://10.37.**.**:8888" 为代理地址示例值、30 为最大连接数示例值
if client == nil {
fmt.Printf("Failed to create client instance\n")
return
}
checkRequest := llmshield.ModerateV2Request{
Message: nil,
Scene: appid,
}
checkRequest.Message = &llmshield.MessageV2{
Content: "网上都说A地很多骗子和小偷，他们的典型伎俩...",
ContentType: llmshield.ContentTypeV2_TEXT,
Role: "user", // 检测的内容来源，user-用户提示词
}
// 首先您需要先进行判别，获取到MsgID
checkResp, err := client.Moderate(&checkRequest)
if err != nil || checkResp == nil {
fmt.Printf("Failed to check response data\n")
return
}
if checkResp.ResponseMetadata.Error != nil {
fmt.Printf("Server Return Error:%v", checkResp.ResponseMetadata.Error.Message)
}
if checkResp.Result.Decision.DecisionType != llmshield.DecisionTypeV2_OPTIMIZE {
// 您可以选择在命中代答动作后再进行代答，也可以根据具体业务需求来决定后续的处理逻辑。 SDK支持对任何动作进行代答
fmt.Printf("您校验的内容无需代答。\n")
return
}
request := llmshield.GenerateStreamV2Request{
MsgID: checkResp.Result.MsgID, // 这是您通过审核接口进行校验后得到的MsgID
}
response, err := client.GenerateV2Stream(&request)
if err != nil {
log.Fatalf("Failed to start SSE stream: %v", err)
}
defer response.Reader.Close()
bufReader := bufio.NewReader(response.Reader)
for {
line, err := bufReader.ReadBytes('\n')
if err != nil {
if err == io.EOF {
break
}
fmt.Fprintf(os.Stderr, "读取失败: %v\n", err)
os.Exit(1)
}
// 去除换行符
line = line[:len(line)-1]
// 忽略空行
if len(line) == 0 {
continue
}
// SSE 数据以 "data: " 开头
if strings.HasPrefix(string(line), "data:") {
data := strings.TrimSpace(string(line[5:]))
if string(data) == "[DONE]" {
fmt.Println("收到 data: [DONE]，关闭连接")
break
}
var ResponseData llmshield.GenerateStreamV2ResponseData
err := json.Unmarshal([]byte(data), &ResponseData)
if err != nil {
fmt.Fprintf(os.Stderr, "反序列化失败: %v\n", err)
continue
}
tempString, err := json.Marshal(ResponseData)
if err != nil {
fmt.Printf("Failed to marshal response to JSON: %v\n", err)
return
}
if ResponseData.Result.IsFinished == true {
fmt.Printf("Received result: finish:%s\n", string(tempString))
} else {
fmt.Printf("Received result: %s\n", string(tempString))
}
}
}
}
<?php
require __DIR__ . "/vendor/autoload.php";
use Volcengine\LLMShield\Api\LLMShieldApi;
use Volcengine\LLMShield\Model;
// 配置信息
$myUrl = "https://cn-beijing.sdk.access.llm-shield.omini-shield.com"; // 根据大模型应用防火墙实例所在地域替换相应的地域信息
$ak = "YOUR AK"; // 火山账号的 AK
$sk = "YOUR SK"; // 火山账号的 SK
$appid = "app-d2pgblcjslsilv******"; // 资产的 AppId，可在控制台资产管理页面获取
$region = "cn-beijing"; // 大模型应用防火墙实例所在地域
$timeout = 60; // 超时时间（秒）
$service = "llmshield"; // 服务名称
$client = new LLMShieldApi($myUrl, $ak, $sk, $appid, $region, $timeout, $service, "http://10.37.**.**:8888"); // 初始化大模型应用防火墙客户端，其中 "http://10.37.**.**:8888" 为代理地址示例值
$request = new Model\ModerateV2Request();
$request->Scene = $appid;
// 设置检测内容
$request->Message = new Model\MessageV2();
$request->Message->Role = "user"; // 检测的内容来源，user-用户提示词
$request->Message->Content = "A地的人都吸毒？";
$request->Message->ContentType = Model\ContentTypeV2::TEXT;
$msgid = "";
$decisionType = Model\DecisionTypeV2::PASS;
$client->Moderate($request)->then(function ($resp) use (&$msgid, &$decisionType) {
echo json_encode($resp[0], JSON_UNESCAPED_UNICODE) . "\n";
echo $resp[1] . "\n";
echo json_encode($resp[2], JSON_UNESCAPED_UNICODE) . "\n";
$msgid = $resp[0]->MsgID;
$decisionType = $resp[0]->Decision["DecisionType"];
})->wait();
echo "msgid: " . $msgid . "\n";
echo "decisionType: " . $decisionType . "\n";
// 判断资产的防护策略执行动作是否为“安全代答”，如果是则进行下一步获取代答结果
if ($decisionType !== Model\DecisionTypeV2::OPTIMIZE) {
return;
}
// 传入 msgid，获取优化的代答结果
$request = new Model\GenerateStreamV2Request;
$request->MsgID = $msgid;
$client->GenerateV2Stream($request, function ($resp) {
echo json_encode($resp[0], JSON_UNESCAPED_UNICODE) . "\n";
echo $resp[1] . "\n";
echo json_encode($resp[2], JSON_UNESCAPED_UNICODE) . "\n\n";
});
最近更新时间：2026.01.15 16:01:14
这个页面对您有帮助吗？
有用
有用
无用
无用