阿里云RTC SDK为您提供接入美颜功能的接口和回调,您可以通过本章节了解接入流程。

功能简介

目前阿里云RTC支持美颜接入的版本为1.14.0以上版本。

通常美颜SDK接受如下两种类型的数据回调处理
  • YUV裸数据用于做人脸识别。
  • openGL纹理数据用于最终做美颜效果处理。

客户案例

阿里云RTC美颜功能和多个客户SDK成功完成对接并使用,包括但不限于以下:

  • 商汤SDK需要YUV裸数据用于做人脸识别,需要openGL纹理数据用于最终做美颜效果处理。
  • 手淘美颜SDK需要YUV裸数据用于做人脸识别,需要openGL纹理数据用于最终做美颜效果处理。
  • 相芯SDK只需要openGL纹理数据用于最终做美颜效果处理(人脸识别和美颜效果处理同时进行)。

接入流程

为了避免完成集成SDK,自己能看到美颜效果,对方却看不到美颜效果。在接入前,我们需要在SDK的实例extra字段中添加开关,设置user_specified_video_preprocess为TRUE。

  1. SDK的instance构造函数里面,扩展字段添加[extrasDic setValue:@"TRUE" forKey:@"user_specified_video_preprocess"],并且将extraDic经过序列化之后传入到AliRtcEngine sharedInstance的第二个字段extra中。
  2. 在调用本地预览开启接口startPreview之后,调用subscribeVideoTexture订阅openGL纹理数据。
    说明 通常是对本地用户进行美颜,uid填写为英文半角双引号("")字符串即可。
  3. 需要对接YUV数据人脸识别功能时候:在调用本地预览开启接口startPreview之后,再调用subscribeVideoPreprocessData订阅采集前处理YUV数据(通常是对采集图像做人脸识别)。
  4. 需要对接YUV数据人脸识别功能时候:在onVideoDetectCallback回调中做第三方算法的人脸识别操作,返回的long为人脸识别之后的该图像的人脸结构体指针。
  5. 在onVideoTextureCreated中做第三方算法的初始化工作,其中context为openGL的上下文。
  6. 在onVideoTexture做第三方算法的每一帧美颜处理工作,如果不需要美颜或者第三方算法处理不成功,请将输入的textureId返回给该函数。如果美颜处理成功,则返回第三方算法处理过的textureId。
  7. 在onVideoTextureDestory做第三方算法的销毁工作。

接口调用

  • RTC SDK YUV裸数据人脸识别接入接口 (商汤SDK和手淘SDK)人脸识别接入时,需要订阅采集之后的前处理buffer数据,所以在startPreview之后需要调用subscribeVideoPreprocessData接口获取采集前处理数据并处理。

    ///@brief 订阅采集视频前处理裸数据
    ///@param videoSource 订阅本地采集的哪一路流,移动端场景填写AliRtcVideosourceCameraLargeType
    - (void)subscribeVideoPreprocessData:(AliRtcVideoSource)videoSource;
    onVideoDetectCallback回调方法如下:
    说明 订阅成功后,通过delegate回调本地采集数据。
    ///@brief RTC采集视频数据前处理回调
    ///@param type 视频流类型
    ///@param videoFrame 视频数据帧
    ///@return 人脸识别结构体指针(第三方定义结构体),SDK只做传递 (该返回值传递人脸数据)
    - (long)onVideoDetectCallback:(AliRtcVideoSource)type videoFrame:(AliRtcVideoDataSample *)videoFrame;
    AliRtcVideoDataSample对象定义如下:
    @interface AliRtcVideoDataSample : NSObject
    @property (nonatomic, assign) AliRtcImageFormat format; //iOS输出的YUV数据格式为NV12
    @property (nonatomic, assign) AliRtcVideoDataType dataType;
    @property (nonatomic, assign) long dataPtr;
    @property (nonatomic, assign) long dataYPtr;
    @property (nonatomic, assign) long dataUPtr;
    @property (nonatomic, assign) long dataVPtr;
    @property (nonatomic, assign) int strideY;
    @property (nonatomic, assign) int strideU;
    @property (nonatomic, assign) int strideV;
    @property (nonatomic, assign) int height;
    @property (nonatomic, assign) int width;
    @property (nonatomic, assign) int rotation;
    @property (nonatomic, assign) int stride;
    @property (nonatomic, assign) long long timeStamp;
    @end
  • RTC SDK openGL 纹理接口美颜接入时,需要订阅视频的纹理数据,所以在startPreview之后需要调用以下接口获取openGL的纹理数据和openGL的线程环境:

    • subscribeVideoTexture接口
      ///@brief 订阅openGL的纹理数据
      ///@param[in] uid 订阅的用户,通常本地需要美颜,填写""或者本地uid都可以
      ///@param[in] videoSource 订阅本地pub的哪一路流,移动端场景填写AliRtcVideosourceCameraLargeType
      ///@param[in] videoTextureType 美颜的场景选择AliRtcVideoTextureTypePre
      - (void)subscribeVideoTexture:(NSString *)uid videoSource:(AliRtcVideoSource)videoSource videoTextureType:(AliRtcVideoTextureType)videoTextureType;
    • onVideoTextureCreated回调(相芯SDK不处理此回调)
      ///@brief 表示本地视频流纹理创建
      ///@param[in] uid 订阅的用户,subscribeVideoTexture所填写的uid
      ///@param[in] videoTextureType,subscribeVideoTexture所填写的videoTextureType
      ///@param[in] context openGL的上下文EAGLContext指针
      - (void)onVideoTextureCreated:(NSString *)uid videoTextureType:(AliRtcVideoTextureType)videoTextureType context:(void *)context
    • onVideoTexture回调
      ///@brief 表示每一帧视频流处理
      ///@param[in] uid 订阅的用户,subscribeVideoTexture所填写的uid
      ///@param[in] videoTextureType,subscribeVideoTexture所填写的videoTextureType
      ///@param[in] textureId 视频流纹理的输入texture id
      ///@param[in] width 视频流纹理的宽度
      ///@param[in] height 视频流纹理的高度
      ///@param[in] extraData 检测的人脸数据, 带人脸识别时:为onVideoDetectCallback返回的人脸结构数据指针;不带人脸识别时:为0
      ///@param[out] 处理之后的texture id,如果不需要美颜,请把textureId输入的texture id传回
      - (int)onVideoTexture:(NSString *)uid videoTextureType:(AliRtcVideoTextureType)videoTextureType textureId:(int)textureId width:(int)width height:(int)height extraData:(long)extraData
    • onVideoTextureDestory回调(相芯SDK不处理此回调)
      ///@brief 表示本地视频流纹理销毁
      ///@param[in] uid 订阅的用户,subscribeVideoTexture所填写的uid
      ///@param[in] videoTextureType,subscribeVideoTexture所填写的videoTextureType
      - (void)onVideoTextureDestory:(NSString *)uid videoTextureType:(AliRtcVideoTextureType)videoTextureType
  • 外置美颜SDK相关接口调用。

    外置美颜SDK根据各自的设计,有对应的SDK自己的提供的接口,需要App对接时候正确使用,主要有如下:
    • 初始化、销毁。
    • 资源加载和释放(通常是人脸识别使用的资源文件)。
    • 美颜控制接口(美颜等级、强度的调节接口,美颜开关接口)。
    • 对接RTC SDK回调的接口。
手淘美颜iOS SDK如下:
  • 美颜处理类
    @interface AliTaoBeautifyManager : NSObject
    + (AliTaoBeautifyManager *)shareManager; 
    - (int)create:(void*)context;
    - (void)setBeautyParam:(AliTaoBeautifyParam)type param:(float)param;
    - (void)switchOn:(bool)on;
    - (int)process:(int)tex width:(int)width height:(int)height rotate:(int)rotate extra:(long)extra;
    - (void)destroy;
    @end
  • 人脸识别类
    @interface AliTaoFaceManager : NSObject
    + (AliTaoFaceManager *)shareManager;
    - (int)create;
    - (long)process:(long)data width:(int)width height:(int)height rotation:(int)rotation format:(int)format extra:(long)extra;
    - (void)destroy;
    @end