Web RTC SDK 提供虚拟背景插件,在互动直播、视频会议、在线授课等场景下,可将用户人像和背景分离,采用模糊背景或自定义图片作为虚拟背景,从而避免杂乱背景对观众的影响,保护用户隐私,呈现较高的视频效果。你可以参考本文,实现这一功能。
在你的项目中引入虚拟背景插件,可直接引入或通过 UMD 方式引入。
import RTCBeautyExtension from '@volcengine/rtc/extension-beauty';
const {BackgroundMode, RTCBeautyExtension} = window.VERTCExtensions;
注册虚拟背景插件。
注意
注册插件后,无法动态修改视频流帧率。你可以在注册插件前调用 setVideoEncoderConfig 修改帧率。
import VERTC from '@volcengine/rtc'; import RTCBeautyExtension, { BackgroundAIBackend } from '@volcengine/rtc/extension-beauty'; // 创建引擎实例 const engine = VERTC.createEngine('appid'); // 创建虚拟背景插件实例,需传入鉴权文件 const extension = new RTCBeautyExtension({ authFileUrl: 'https://xxxx.auth', // 自 v4.53 版本起,可设置使用 GPU 模式 aiBackend: BackgroundAIBackend.GPU }); // 注册插件 try { await engine.registerExtension(extension); } catch (error) { // 注册失败,详细信息:error.message }
注意
虚拟背景仅对主流、本地流生效,不支持屏幕流、远端流。即 StreamIndex 必须为 STREAM_INDEX_MAIN。
// 开启内部视频采集 engine.startVideoCapture(); // 设置本地视频渲染时使用的视图,并设置渲染模式。 engine.setLocalVideoPlayer(StreamIndex.STREAM_INDEX_MAIN, { renderDom: 'yourDomId' });
import { BackgroundMode } from '@volcengine/rtc/extension-beauty'; // ① 设置虚拟背景模式为背景模糊(默认) extension.setBackgroundMode(BackgroundMode.BACKGROUND_BLUR); // ② 或设置背景模式为背景图片 extension.setBackgroundMode(BackgroundMode.BACKGROUND_IMAGE); extension.loadBackgroundImage('https://image_url');
extension.enableVirtualBackground();
extension.disableVirtualBackground();
类型: interface
方法 | 描述 |
|---|---|
测试当前浏览器兼容性情况。 | |
开启虚拟背景。 | |
关闭虚拟背景。 | |
设置虚拟背景模式。 | |
获取当前虚拟背景图片。背景模式为 | |
设置虚拟背景图片。背景模式为 | |
设置虚拟背景使用的人像识别 AI 算法效果。 | |
设置模糊效果半径。背景模式为 | |
设置虚拟背景颜色,背景模式为 | |
设置背景视频。背景模式为 | |
获取背景视频的点播地址。背景模式为 |
测试当前浏览器兼容性情况。
类型
() => Promise<CompatibilityCheckResult>
返回值
类型: Promise<CompatibilityCheckResult>
兼容性测试结果。
开启虚拟背景。
类型
() => void
注意
关闭虚拟背景。
() => void
设置虚拟背景模式。
类型
(mode: BackgroundMode) => void
注意
开启虚拟背景后,可调用本方法动态切换使用的虚拟背景模式。
参数
获取当前虚拟背景图片。背景模式为 BACKGROUND_IMAGE 时有效。
类型
() => string
返回值
类型: string
当前虚拟背景图片 URL。
设置虚拟背景图片。背景模式为 BACKGROUND_IMAGE 时有效。
类型
(url: string) => Promise<void>
注意
参数
string返回值
类型: Promise<void>
设置虚拟背景使用的人像识别 AI 算法效果。
类型
(type: BackgroundAIModelType) => void
参数
设置模糊效果半径。背景模式为 BACKGROUND_BLUR 时有效。
类型
(radius: number) => void
注意
设置在插件的生命周期内有效。
参数
number设置虚拟背景颜色,背景模式为 BACKGROUND_COLOR 时有效。
类型
(color: string) => boolean
注意
设置在插件的生命周期内有效。
参数
stringrgba(255, 255, 255, 1)。alpha 取值范围为 0(透明)到 1(不透明)。其余字段为0~255。0(透明)到 1(不透明)。其余字段为 0~0xFF。返回值
类型: boolean
true:设置成功。false:设置失败。设置背景视频。背景模式为 BACKGROUND_VIDEO 时有效。
类型
(url: string) => Promise<void>
注意
设置在插件的生命周期内有效。
参数
string返回值
类型: Promise<void>
视频资源加载异常会通过 promise.reject() 抛出
获取背景视频的点播地址。背景模式为 BACKGROUND_VIDEO 时有效。
类型
() => string
返回值
类型: string
虚拟背景视频 URL。
类型: interface
兼容性测试结果。
isCompatible
类型: boolean
是否兼容。
true:符合兼容性最低要求,可正常运行。false:不兼容,无法正常运行。
reasons
类型: number[]
不兼容的原因。
类型: interface
美颜和虚拟背景插件参数。
authFileUrl
类型: string
鉴权文件地址。
aiBackend
类型: BackgroundAIBackend
初始化时选择使用 CPU/GPU 模式,默认使用 CPU 模式。
aiModelType
类型: BackgroundAIModelType
人像识别 AI 算法效果。
类型: enum
虚拟背景模式。
成员
属性 | 值 | 描述 |
|---|---|---|
BACKGROUND_BLUR |
| 背景模糊。 |
BACKGROUND_IMAGE |
| 背景图片。 |
BACKGROUND_COLOR |
| 背景颜色。 |
BACKGROUND_VIDEO |
| 背景视频。 |
类型: enum
人像识别 AI 算法效果。
成员
属性 | 值 | 描述 |
|---|---|---|
PERFORMANCE |
| 性能优先。 |
QUALITY |
| 效果优先。 |
类型: enum
初始化时选择使用 CPU/GPU 模式,默认使用 CPU 模式。
成员
属性 | 值 | 描述 |
|---|---|---|
CPU |
| CPU 模式。 |
GPU |
| GPU 模式。SDK 内部会自动判断当前环境是否支持开启 GPU 模式,对于不支持的环境会自动回退为 CPU 模式。 |
浏览器兼容性变动,变更后的浏览器最低版本要求如下表。
设备类型 | 浏览器 | 浏览器最低版本要求 |
|---|---|---|
桌面端 | Chrome | 78 |
Safari | 15 | |
Firefox | 80 | |
Edge | 83 | |
移动端 | Chrome | 78 |
Safari | 15.4 | |
微信内嵌浏览器 | 8.0.32 |
修改了部分枚举类型中的字面量值:
BackgroundMode 枚举中,BACKGROUND_IMAGE 的取值从 'image' 改为 'image-url'。BackgroundAIModelType 枚举中,PERFORMANCE 的取值从 0 改为 'fast';QUALITY 的取值从 1 改为 'accurate'。BackgroundAIBackend 枚举中,CPU 的取值从 -1 改为 'cpu';GPU 的取值从 1 改为 'gpu'。