本文旨在介绍在智能图文匹配成片-通用场景下的合成参数、进阶配置、SDK调用示例。
为了更好地阅读本文,建议您在阅读本文之前先通过智能一键成片操作指南了解【智能图文匹配成片-通用场景】相关的概念与使用流程。
智能图文匹配-通用场景包含两种成片模式。本文将针对以下几种“模式”进行详细阐述:
全局口播模式
分镜脚本模式
支持的区域:华东2(上海)、华北2(北京)、华东1(杭州)、华南1(深圳)。
使用说明
将多个视频、音频、图片素材进行智能混剪,一键批量合成视频接口说明,请参见SubmitBatchMediaProducingJob - 批量智能一键成片,api关键参数详见下文InputConfig 参数说明、EditingConfig 参数说明、OutputConfig 参数说明。
获取批量智能一键成片作业的详细信息,请参见GetBatchMediaProducingJob - 获取批量智能一键成片任务信息。
InputConfig 参数说明
用户可通过配置InputConfig,指定视频素材、口播、背景音乐、贴纸等基础素材的参数配置。
参数 | 类型 | 说明 | 是否必填 | 支持模式 |
MediaArray | List<String> | 智能图文匹配模式。支持传入媒资ID或素材OSS URL列表,视频总时长最多两小时。 | 是 | 全部支持 |
TitleArray | List<String> | 标题数组,每次合成随机选一个 最多50个,每个标题不超过20字 | 否 | 全部支持 |
SpeechTextArray | List<String> | 口播文案数组,每次合成随机选一个。 最多50个,每条口播文案最长1000个字符。 | 否 |
|
SceneInfo | 场景信息,用于场景相关的参数. | 是 |
| |
StickerArray | List<Sticker> | 贴纸数组,每次合成随机选择一个。 最多50个。 | 否 | 全部支持 |
BackgroundMusicArray | List<String> | 背景音乐数组,每次合成随机选一个。 最多50个,支持媒资ID 或 OSS URL。 | 否 | 全部支持 |
BackgroundImageArray | List<String> | 背景图片数组,每次合成随机选一个。 最多50个,支持媒资ID 或 OSS URL。 | 否 | 全部支持 |
Sticker 参数说明
参数 | 类型 | 说明 | 是否必填 |
MediaId | String | 贴纸、logo、水印等图片ID | 二选一必填 都填写时优先取用MediaId |
MediaURL | String | 图片URL,仅支持自有OSS | |
X | Float | 参考VideoTrackClip.X | 否 |
Y | Float | 参考VideoTrackClip.Y | 否 |
Width | Float | 参考VideoTrackClip.Width | 否 |
Height | Float | 参考VideoTrackClip.Height | 否 |
DynamicFrames | Integer | 动图的帧数 | 否,当贴纸为动图时填写 |
SceneInfo 参数说明
此参数只适用于分镜脚本模式,如果是全局口播模式无需设置此参数。
参数 | 类型 | 说明 | 是否必填 |
Scene | String | 匹配场景类型,通用场景下固定传值“General”即可。 | 是 |
ShotInfo | 设置分镜脚本 | 是 |
ShotInfo 参数说明
此参数只适用于分镜脚本模式,如果是全局口播模式无需设置此参数。
参数 | 类型 | 说明 | 是否必填 |
ShotScripts | List<ShotScript> | 分镜脚本数组 | 是 |
ShotScript 参数说明
此参数只适用于分镜脚本模式,如果是全局口播模式无需设置此参数。
参数 | 类型 | 说明 | 是否必填 |
ScriptText | String | 单个分镜中的脚本文案,用于描述分镜的内容,例如:老魔法师丹尼在倒腾着奇怪的仪器,他最近在研制一种新的魔法药剂。 | 否 |
SpeechText | String | 单个分镜中的口播文案,长度不超过100 | 否 |
Duration | Float | 分镜的时长,仅在没有口播时生效,如果存在口播,分镜时长自动按口播时长计算。 | 否 |
参数示例:全局口播模式
{
"MediaArray": [
"****9d46c886b45481030f6e****",
"****c886810b4549d4630f6e****",
"http://test-bucket.oss-cn-shanghai.aliyuncs.com/test1.mp4",
"http://test-bucket.oss-cn-shanghai.aliyuncs.com/test2.png"
],
"TitleArray": [
"回龙观盒马鲜生开业啦",
"盒马鲜生开业啦"
],
"SpeechTextArray": [
"附近的商场新开了一家盒马鲜生,今天是第一天开业,赶紧来凑热闹,这家盒马面积不大,但商场里的人不少,零食、酒水都比较便宜,排队的人都排成了长龙,大家也快来看看呀",
"附近的商场新开了一家盒马鲜生,今天是第一天开业,赶紧来凑热闹"
],
"Sticker": {
"MediaId": "****b681034549d46c880f6e****",
"X": 10,
"Y": 100,
"Width": 300,
"Height": 300
},
"StickerArray": [
{
"MediaId": "****9d46c8b4548681030f6e****",
"X": 10,
"Y": 100,
"Width": 300,
"Height": 300
},
{
"MediaURL": "http://test-bucket.oss-cn-shanghai.aliyuncs.com/test3.png",
"X": 10,
"Y": 100,
"Width": 300,
"Height": 300
}
],
"BackgroundMusicArray": [
"****b4549d46c88681030f6e****",
"****549d46c88b4681030f6e****",
"http://test-bucket.oss-cn-shanghai.aliyuncs.com/test4.mp3"
],
"BackgroundImageArray": [
"****6c886b4549d481030f6e****",
"****9d46c8548b4681030f6e****",
"http://test-bucket.oss-cn-shanghai.aliyuncs.com/test1.png"
]
}
参数示例:分镜脚本模式
{
"MediaArray": ["MediaId1", "MediaId2"],
"SceneInfo": {
"Scene": "General", // General 通用匹配
"ShotInfo": {
"ShotScripts": [
{
"ScriptText": "这里是第一场分镜的脚本文案",
"SpeechText": "这里是第一场分镜的口播文案",
"Duration": 5.0 // 无口播文案时支持设置
},
{
"ScriptText": "这里是第二场分镜的脚本文案",
"SpeechText": "这里是第二场分镜的口播文案",
"Duration": 8.0 // 无口播文案时支持设置
}
]
}
},
"TitleArray": [
"回龙观盒马鲜生开业啦",
"盒马鲜生开业啦"
],
"StickerArray": [
{
"MediaId": "****9d46c8b4548681030f6e****",
"X": 10,
"Y": 100,
"Width": 300,
"Height": 300
},
{
"MediaURL": "http://test-bucket.oss-cn-shanghai.aliyuncs.com/test3.png",
"X": 10,
"Y": 100,
"Width": 300,
"Height": 300
}
],
"BackgroundMusicArray": [
"****b4549d46c88681030f6e****",
"****549d46c88b4681030f6e****",
"http://test-bucket.oss-cn-shanghai.aliyuncs.com/test4.mp3"
],
"BackgroundImageArray": [
"****6c886b4549d481030f6e****",
"****9d46c8548b4681030f6e****",
"http://test-bucket.oss-cn-shanghai.aliyuncs.com/test1.png"
]
}
EditingConfig 参数说明
用户可通过配置EditingConfig,指定成片素材的音量、位置及其他合成参数。如无特殊需求,建议客户使用默认配置,该字段可置空。
通用场景下的“全局口播模式”和“分镜脚本模式”参数说明皆相同。
参数 | 类型 | 说明 | 是否必填 |
MediaConfig | JSON | 输入视频素材相关配置。 支持字段:
| 否 |
TitleConfig | JSON | 标题相关配置。支持配置字幕参数,字段详见:横幅文字。 | 否 |
SpeechConfig | JSON | 口播文案相关配置。 支持字段:
说明 计算方法如下:
小于1倍速时,使用0.002系数。 大于1倍速时,使用0.001系数。 实际算法结果取近似值。
| 否 |
BackgroundMusicConfig | JSON | 背景音乐相关配置。 支持字段:
| 否 |
BackgroundImageConfig | JSON | 背景图相关配置。如果InputConfig中已配置背景图,则此字段不生效。 支持字段:
| 否 |
ProcessConfig | 混剪处理配置。 支持字段:
| ||
ProduceConfig | JSON | 普通剪辑合成配置,字段详见:EditingProduceConfig | 否 |
EditingConfig参数示例
EditingConfig 中的所有参数均为非必填项,以下是默认配置。
{
"MediaConfig": {
"Volume": 0 // 默认视频素材静音
},
"TitleConfig": {
"Alignment": "TopCenter",
"AdaptMode": "AutoWrap",
"Font": "Alibaba PuHuiTi 2.0 95 ExtraBold",
"SizeRequestType": "Nominal",
"Y": 0.1, // 成片为竖屏时,标题Y坐标值
"Y": 0.05, // 成片为横屏时,标题Y坐标值
"Y": 0.08 // 成片为方屏时,标题Y坐标值
},
"SpeechConfig": {
"Volume": 1, // 口播音频默认用原始音量
"SpeechRate": 0,
"Voice": null,
"Style": null,
"AsrConfig": {
"Alignment": "TopCenter",
"AdaptMode": "AutoWrap",
"Font": "Alibaba PuHuiTi 2.0 65 Medium",
"SizeRequestType": "Nominal",
"Spacing": -1,
"Y": 0.8, // 成片为竖屏时,字幕Y坐标值
"Y": 0.9, // 成片为横屏时,字幕Y坐标值
"Y": 0.85 // 成片为方屏时,字幕Y坐标值
}
},
"BackgroundMusicConfig": {
"Volume": 0.2, // 背景音乐默认用20%音量,
"Style": null
},
"ProcessConfig": {
"SingleShotDuration": 3, // 拆条后的镜头时长
"AllowVfxEffect": false, // 是否添加特效效果
"AllowTransition": false, // 是否添加转场效果
"AllowDuplicateMatch": false, // 图文匹配模式下,匹配过的片段是否允许重复使用
}
}
OutputConfig 参数说明
用户可通过配置OutputConfig,指定成片输出地址、名称规则、成片的宽高、输出成片数量等合成参数配置。
通用场景下的“全局口播模式”和“分镜脚本模式”参数说明皆相同。
参数 | 类型 | 必填 | 说明 |
MediaURL | String | 成片输出到OSS时必填 | 输出视频地址,必须要有占位符 如:http://xxx.oss-cn-shanghai.aliyuncs.com/xxx_{index}.mp4 |
StorageLocation | String | 成片输出到VOD时必填 | 指定输出到VOD的媒资文件存储地址 如:outin-xxxxxx.oss-cn-shanghai.aliyuncs.com |
FileName | String | 成片输出到VOD时必填 | 输出文件名称,必须要有占位符, 如:xxx_{index}.mp4 |
GeneratePreviewOnly | Boolean | 否,默认false | GeneratePreviewOnly = true时,表示当前任务仅生成预览用的时间线,不实际合成,可不填写输出视频的地址。 一键成片任务完成后,通过GetBatchMediaProducingJob查询任务结果,返回的子任务列表中会包含剪辑工程projectId,再调用GetEditingProject可获取到预览时间线。 |
Count | Integer | 否,默认1 | 输出视频数
|
MaxDuration | Float | 否 | 输出视频单片时长上限。 如果有确定「口播文本」参数,以口播文本tts时长为准,当前参数无效; 如果无「口播文本」,以当前设置单片时长为最大时长,默认15s。 |
FixedDuration | Float | 否 | 输出视频单片的固定时长。如果设置了固定时长,视频时长将会对齐此参数。 注意:
|
Width | Integer | 是 | 成片宽,px |
Height | Integer | 是 | 成片高,px |
JSONObject | 否 | 输出视频流相关配置,Crf、Codec等 |
参数示例
{
"MediaURL": "http://xxx.oss-cn-shanghai.aliyuncs.com/xxx_{index}.mp4",
"Count": 1,
"MaxDuration": 15,
"Width": 1080,
"Height": 1920,
"Video": {"Crf": 27},
"GeneratePreviewOnly":false
}
SDK调用示例
前提条件
您已安装IMS服务端SDK,详情请参见准备工作。
代码示例
以全局口播模式为例
API调用入参详情
结果示例
竖屏 | 横屏 |
混剪逻辑与进阶配置
处理逻辑
全局口播模式:
如果输入视频为长视频片段,会先进行拆条,混剪时选取拆条后的视频片段进行拼接合成。拆条后单镜头的时长默认为3s,您也可以通过参数EditingConfig.ProcessConfig.SingleShotDuration指定镜头时长。
如果没有口播文案,则随机选取视频片段进行前后拼接,合成大约15s的成片。
如果有口播文案,则进行图文智能匹配并对齐口播文案,批量合成多条成片。
分镜脚本模式:
在分镜脚本模式下,无需设置SpeechTextArray/SpeechText,通过SceneInfo.ShotInfo.ShotScripts控制成片中的每一个分镜的内容、时长、口播等内容。
在单个分镜中,优先通过脚本文案进行片段的智能截取和匹配,如未设置脚本文案,但设置了口播文案,则通过口播文案进行匹配。
在单个分镜中,分镜的时长与口播时长或自定义时长进行对齐。
进阶配置
进阶配置详见批量一键成片混剪逻辑与进阶配置