本文介绍如何在实时互动中,将外部音频(如背景音乐、音效或自定义的 PCM 音频流)混入 RTC SDK 的音频流中,实现本地播放和远端分享。
功能介绍
ARTC SDK支持将外部音频输入进行本地播放和推流,兼容 MP4、WAV、AAC 等多种音频文件格式,也支持 PCM 格式的流式音频数据输入。您可以根据具体的应用场景选择最适合的音频源,无论是预录制好的文件还是实时生成的数据流,都能被高效地集成与传输。
示例代码
Android端示例代码:Android/ARTCExample/BasicUsage/src/main/java/com/aliyun/artc/api/basicusage/PlayAudioFiles/PlayAudioFilesActivity.java
iOS端示例代码:iOS/ARTCExample/BasicUsage/PlayAudioFiles/PlayAudioFilesVC.swift
前提条件
在实现相关功能前,请确保满足以下条件:
播放或推流音频文件
实现原理
该功能适用于需要播放或推流音乐文件的多种场景。
伴奏 API:用于播放比较长的音乐文件,例如伴奏音乐、背景音乐等。同时只能播放一个音乐文件。
音效 API:用于播放较短的音效文件,例如掌声、笑声等音效。可以同时播放多个音乐文件。
需要加入频道并开启音频推流,等到onAudioPublishStateChanged为已推流状态后才可以播放/推流伴奏或音效文件。
相关功能如下:
功能 | 伴奏 API | 音效 API |
音乐文件播放、停止、暂停、恢复 |
|
|
获取和调整播放进度 |
| |
获取和调整音频播放的音量 |
|
|
报告音乐文件的播放状态 | 本地:
远端:
| 本地:
|
获取音频文件信息 |
| |
实现播放伴奏
调用伴奏相关 API 时,一次只能播放一个音频文件。
加入频道并推送音频流,SDK 默认是推送的。
Android
// 播放伴奏或音效需要推送音频流,SDK默认是开启的 mAliRtcEngine.publishLocalAudioStream(true);iOS
// 播放伴奏或音效需要推送音频流,SDK默认是开启的 engine.publishLocalVideoStream(true)播放控制
加入频道并推音频流后,调用 startAudioAccompany 播放伴奏。成功调用该方法后,本地会触发 onAudioAccompanyStateChanged 回调,远端会触发 onRemoteAudioAccompanyStarted 回调。
除此之外,你还可以通过下面的接口实现播放控制:
stopAudioAccompany:停止播放。pauseAudioAccompany:暂停播放。resumeAudioAccompany:恢复播放。getAudioAccompanyDuration、getAudioAccompanyCurrentPosition、setAudioAccompanyPosition:文件时长获取与播放进度控制。setAudioAccompanyVolume:同时设置伴奏本地播放和远端推流的音量。getAudioAccompanyPublishVolume、setAudioAccompanyPublishVolume:获取或调节伴奏在远端的播放音量。getAudioAccompanyPlayoutVolume、setAudioAccompanyPlayoutVolume:获取或调节伴奏在本地播放的音量
Android
// 伴奏文件路径
private String mMixingMusicFilepath = "/assets/music.wav";
// 伴奏播放配置
AliRtcEngine.AliRtcAudioAccompanyConfig config = new AliRtcEngine.AliRtcAudioAccompanyConfig();
config.loopCycles = -1; // 循环次数, -1表示无限循环
config.publishVolume = publishVolume; // 推流音量,[0-100]
config.playoutVolume = playbackVolume; // 本地播放音量,[0-100]
config.startPosMs = 0; // 起始播放位置
// 开始播放
mAliRtcEngine.startAudioAccompany(mMixingMusicFilepath, config);
// 暂停/恢复伴奏
mAliRtcEngine.pauseAudioAccompany();
mAliRtcEngine.resumeAudioAccompany();
// 停止播放
mAliRtcEngine.stopAudioAccompany();
// 获取伴奏文件的时长(单位为ms),需要在startAudioAccompany之后调用,否则会返回-1
int duration = mAliRtcEngine.getAudioAccompanyDuration();
// 如果需要获取指定文件的时长,可以通过getAudioFileInfo接口,该接口在创建引擎后即可调用,结果通过onAudioFileInfo回调返回
mAliRtcEngine.getAudioFileInfo(filePath);
@Override
public void onAudioFileInfo(AliRtcEngine.AliRtcAudioFileInfo info, AliRtcEngine.AliRtcAudioAccompanyErrorCode errorCode) {
handler.post(() -> {
String msg = "onAudioFileInfo.file:" + info.filePath + "duration:" + info.durationMs + "audioPlayingErrorCode=" + errorCode;
ToastHelper.showToast(PlayAudioFilesActivity.this, msg, Toast.LENGTH_SHORT);
});
}
// 获取/设置音量
mAliRtcEngine.setAudioAccompanyVolume(50); // [0-100]
int publishVolume = mAliRtcEngine.getAudioAccompanyPublishVolume();
mAliRtcEngine.setAudioAccompanyPublishVolume(50);
int playoutVolume = mAliRtcEngine.getAudioAccompanyPlayoutVolume();
mAliRtcEngine.setAudioAccompanyPlayoutVolume(50);
// 获取/设置播放进度
int currPosition = mAliRtcEngine.getAudioAccompanyCurrentPosition(); // 单位为ms
int targetPosition = 1000; // 以1000ms处开始播放为例
mAliRtcEngine.setAudioAccompanyPosition(targetPosition);iOS
// 伴奏文件路径
let filePath = Bundle.main.path(forResource: "music", ofType: "wav")
// 伴奏播放配置
let config = AliRtcAudioAccompanyConfig()
config.loopCycles = loopCount
config.publishVolume = publishVolume
config.playoutVolume = playoutVolume
config.startPosMs = 0
// 开始播放
let result = rtcEngine.startAudioAccompany(withFile: filePath, config: config)
// 暂停/恢复播放
rtcEngine.pauseAudioAccompany()
rtcEngine.resumeAudioAccompany()
// 停止播放
rtcEngine.stopAudioAccompany()
// 获取伴奏文件的时长(单位为ms),需要在startAudioAccompany之后调用,否则会返回-1
let duration = rtcEngine.getAudioAccompanyDuration()
// 如果需要获取指定文件的时长,可以通过getAudioFileInfo接口,该接口在创建引擎后即可调用,结果通过onAudioFileInfo回调返回
rtcEngine.getAudioFileInfo(filePath)
func onAudioFileInfo(_ info: AliRtcAudioFileInfo, errorCode: AliRtcAudioAccompanyErrorCode) {
"onAudioFileInfo, filePath: \(info.filePath), durationMs: \(info.durationMs), errorCode: \(errorCode)".printLog()
}
// 获取/设置音量
rtcEngine.setAudioAccompanyVolume(50) // 同时设置伴奏推流和播放音量,范围[0-100]
let audioPublishVolume = rtcEngine.getAudioAccompanyPublishVolume() // 获取当前伴奏的推流音量
rtcEngine.setAudioAccompanyPublishVolume(50) // 设置伴奏推流音量,范围[0-100]
let audioPlayoutVolume = rtcEngine.getAudioAccompanyPlayoutVolume() // 获取当前伴奏的本地播放音量
rtcEngine.setAudioAccompanyPlayoutVolume(50) // 设置伴奏的本地播放音,范围[0-100]
// 获取/设置播放进度
let currentPosition = rtcEngine.getAudioAccompanyCurrentPosition() // 单位为ms
let targetPosition:Int32 = 1000; // 以1000ms处开始播放为例
rtcEngine.setAudioAccompanyPosition(targetPosition)实现播放音效
如需同时播放多个音效文件(例如掌声、笑声),可调用 preloadAudioEffect 和 playAudioEffect 等 API。
每个音效文件需要分配一个唯一的 ID。ID 的管理需您根据业务场景自行实现。
加入频道并推送音频流,SDK 默认是推送的。
Android
// 播放伴奏或音效需要推送音频流,SDK默认是开启的 mAliRtcEngine.publishLocalAudioStream(true);iOS
// 播放伴奏或音效需要推送音频流,SDK默认是开启的 engine.publishLocalVideoStream(true)(可选)预加载资源
如果需要重复播放同一音效,建议调用 preloadAudioEffect 将音频文件预加载到内存,以优化性能。
preloadAudioEffect:加载指定的音效文件,支持本地文件和网络文件 url,推荐使用本地文件。unloadAudioEffect:当加载的音效文件使用完毕后,可以调用此接口卸载以释放相关资源。
Android
// 加载指定ID和filePath的音效文件,ID请自行定义
mAliRtcEngine.preloadAudioEffect(mCurrSoundID, filePath);
// 卸载指定ID的音效文件
mAliRtcEngine.unloadAudioEffect(mCurrSoundID);iOS
// 加载指定ID和filePath的音效文件,ID请自行定义
rtcEngine.preloadAudioEffect(withSoundId: self.soundId, filePath: filePath)
// 卸载指定ID的音效文件
rtcEngine.unloadAudioEffect(withSoundId: self.currentEffectIndex)播放控制
加入频道并推音频流后,调用 playAudioEffect 播放音效文件。播放完成后,本地会触发 onAudioEffectFinished 回调。
除此之外,你还可以通过下面的接口实现播放控制:
stopAudioEffect/stopAllAudioEffects:停止播放。pauseAudioEffect/pauseAllAudioEffects:暂停播放。resumeAudioEffect/resumeAllAudioEffects:恢复播放。getAudioEffectPublishVolume、setAudioEffectPublishVolume、setAllAudioEffectsPublishVolume:获取或调节音效在远端的播放音量。getAudioEffectPlayoutVolume、setAudioEffectPlayoutVolume、setAllAudioEffectsPlayoutVolume:获取或调节音效在本地播放的音量
Android
// 播放伴奏
AliRtcEngine.AliRtcAudioEffectConfig config = new AliRtcEngine.AliRtcAudioEffectConfig();
config.loopCycles = -1; // 循环播放次数,-1表示无限循环
config.startPosMs = 0; // 开始播放位置
config.publishVolume = 50; // 推流音量,[0-100]
config.playoutVolume = 50; // 本地播放音量,[0-100]
mAliRtcEngine.playAudioEffect(mCurrSoundID, filePath, config);
// 停止播放
mAliRtcEngine.stopAudioEffect(soundId);
mAliRtcEngine.stopAllAudioEffects();
// 暂停播放
mAliRtcEngine.pauseAudioEffect(soundId);
mAliRtcEngine.pauseAllAudioEffects();
// 恢复播放
mAliRtcEngine.resumeAudioEffect(soundId);
mAliRtcEngine.resumeAllAudioEffects();
// 获取或者设置音量
// 推流音量
mAliRtcEngine.getAudioEffectPublishVolume(soundId);
mAliRtcEngine.setAudioEffectPublishVolume(soundId, 50);
mAliRtcEngine.setAllAudioEffectsPublishVolume(50);
// 播放音量
mAliRtcEngine.getAudioEffectPlayoutVolume(soundId);
mAliRtcEngine.setAudioEffectPlayoutVolume(soundId, 50);
mAliRtcEngine.setAllAudioEffectsPlayoutVolume(50);iOS
// 播放
let config = AliRtcAudioEffectConfig()
config.loopCycles = -1
config.startPosMs = 0
config.publishVolume = 50
config.playoutVolume = 50
let result = rtcEngine.playAudioEffect(withSoundId: self.soundId, filePath: filePath, config: config)
if result != 0 {
UIAlertController.showAlertWithMainThread(msg: "播放音效失败,错误码: \(result)", vc: self)
}
// 停止播放
rtcEngine.stopAudioEffect(withSoundId: soundId)
rtcEngine.stopAllAudioEffects()
// 暂停播放
rtcEngine.pauseAudioEffect(withSoundId: soundId)
rtcEngine.pauseAllAudioEffects()
// 恢复播放
rtcEngine.resumeAudioEffect(withSoundId: soundId)
rtcEngine.resumeAllAudioEffects()
// 获取或设置音量
rtcEngine.getAudioEffectPublishVolume(withSoundId: soundId)
rtcEngine.setAudioEffectPublishVolumeWithSoundId(soundId, volume: 50)
rtcEngine.setAllAudioEffectsPublishVolume(50)
rtcEngine.resumeAudioEffect(withSoundId: soundId)
rtcEngine.getAudioEffectPlayoutVolume(withSoundId: soundId)
rtcEngine.setAudioEffectPlayoutVolumeWithSoundId(soundId, volume: 50)播放或推流 PCM 音频数据
如果需要播放或推流的音频数据为 PCM 格式,可以参考自定义音频采集中的方法。
实现原理
示例代码
添加外部输入流
Android
/* 根据自己的业务设置对应的参数 */
AliRtcEngine.AliRtcExternalAudioStreamConfig config = new AliRtcEngine.AliRtcExternalAudioStreamConfig();
/* 设置播放音量为0 ,意味着不进行本地播放 */
config.playoutVolume = currentAudioPlayoutVolume;
/* 设置推流音量为0, 意味着不进行推流 */
config.publishVolume = currentAudioPublishVolume;
config.channels = 1;
config.sampleRate = 48000;
// 返回值为外部输入流ID,后续通过该ID将数据送入SDK
audioStreamID = mAliRtcEngine.addExternalAudioStream(config);iOS
/* 根据自己的业务设置对应的参数 */
AliRtcExternalAudioStreamConfig *config = [AliRtcExternalAudioStreamConfig new];
config.channels = _pcmChannels;
config.sampleRate = _pcmSampleRate;
/* 设置播放音量为0 ,意味着不进行本地播放 */
config.playoutVolume = 0;
/* 设置推流音量为0, 意味着不进行推流 */
config.publishVolume = 100;
// 返回值为外部输入流ID,后续通过该ID将数据送入SDK
_externalPlayoutStreamId = [self.engine addExternalAudioStream:config];向音频流内送入PCM数据
Android
AliRtcEngine.AliRtcAudioFrame rawData = new AliRtcEngine.AliRtcAudioFrame();
rawData.data = frameInfo.audio_data[0];
rawData.numSamples = (int) (frameInfo.audio_data[0].length / (2 * frameInfo.audio_channels));
rawData.bytesPerSample = 2;
rawData.numChannels = frameInfo.audio_channels;
rawData.samplesPerSec = frameInfo.audio_sample_rate;
int ret = mAliRtcEngine.pushExternalAudioStreamRawData(audioStreamID, rawData);
if(ret == 0x01070101) {
// 缓冲区满
sleep(20);
} else if(ret < 0) {
/* 异常, 检查参数和推流状态 */
}iOS
AliRtcAudioFrame *sample = [AliRtcAudioFrame new];
sample.dataPtr = _pcmLocalData;
sample.samplesPerSec = _pcmLocalSampleRate;
sample.bytesPerSample = sizeof(int16_t);
sample.numOfChannels = _pcmLocalChannels;
sample.numOfSamples = numOfSamples;
int rc = [self.engine pushExternalAudioStream:_externalPlayoutStreamId rawData:sample];
if(rc == 0x01070101) {
// 缓冲区满
sleep(20);
} else if(ret < 0) {
/* 异常, 检查参数和推流状态 */
}移除外部音频流
Android
mAliRtcEngine.removeExternalAudioStream(audioStreamID);iOS
[self.engine removeExternalAudioStream:_externalPublishStreamId];常见问题
使用
startAudioAccompany播放伴奏时,如何只让远端听到伴奏声,而听不到本地麦克风的人声?在开始播放伴奏前或播放过程中,调用
muteLocalMic方法即可静音麦克风。此时,远端只能听到伴奏的音频。