Processor是包含在线预测逻辑(模型加载和请求预测逻辑)的程序包,如果PAI-EAS提供的官方通用Processor无法满足模型部署需求,则可以根据Processor的开发标准自定义Processor。

前提条件

为保证模型服务安全,在公共资源组中无法使用自定义Processor。因此,您必须购买(创建)专属资源组,才能使用自定义Processor部署模型服务。购买(创建)专属资源组请参见购买专属资源组

自定义Processor开发手册

支持使用以下编程语言开发自定义Processor:

使用自定义Processor部署模型服务

自定义Processor开发完成后,建议在本地调试通过后再进行线上服务部署。您可以通过PAI-EAS控制台上传或EASCMD工具进行服务部署:
  • 控制台上传

    选择资源组种类专属资源组,选择Processor种类自定义processor,详情请参见控制台上传部署

  • EASCMD工具部署

    部署时,将resource字段配置为您已购买的专属资源组ID,详情请参见EASCMD使用手册