文档

模型服务

更新时间:

iTAG支持在线模型服务预标注,创建EAS模型在线服务后,您可以在模型服务中完成注册,然后在创建任务的时候利用模型服务进行预标注。

前提条件

已在EAS上部署了一个模型在线服务,或是使用其它无需鉴权的在线服务。

使用限制

目前仅支持分类场景,例如图像分类、文本分类。

模型服务管理操作

  1. 进入iTAG

    1. 登录PAI控制台

    2. 在左侧导航栏单击工作空间列表,在工作空间列表页面中单击待操作的工作空间名称,进入对应工作空间内。

    3. 在工作空间页面的左侧导航栏选择数据准备 > 智能标注(iTAG),进入智能标注页面。

  2. 单击右上方的前往管理页,进入iTAG平台。

  3. 服务市场页签下,选择模型服务(旧版)页签,单击新建服务

  4. 新建服务页面的配置向导页面,配置如下参数。

    参数

    描述

    服务名称

    以小写字母、大写字母、数字或中文开头,可以包含下划线(_)或短划线(-)。

    服务类型

    目前仅支持HTTP

    服务来源

    支持PAI其他来源的服务。

    • PAI:支持EAS上部署的模型服务,输入服务地址鉴权token以及能力类型

    • 其他:输入公开可访问的服务地址,不支持加密鉴权类的服务。

    请求方式

    支持GETPOST请求,EAS部署的服务选择POST请求类。

    参数提交方式

    支持JSON提交表单提交EAS部署的服务选择JSON提交

    服务入参配置

    以PAI提供的通用文本分类模型的入参为例,详情请参见自然语言处理(NLP)类模型

    上述示例入参:

    {
        "id": "该文本的ID",
        "first_sequence": "待分类的新闻文本字符串",
        "sequence_length": 128
    }
    • 可变入参:

      • 参数1:需要识别的可变入参,本案例中:first_sequence。

      • 别名:自定义输入,用于后续创建标注任务的匹配。例如:content。

      • 类型:支持String和raw类型,本案例中为String。

      • 默认值:识别的默认值,可不填。

    • 固定入参:

      • 参数1:入参中的固定参数,本案例中:id。

      • 对应值:固定入参的固定输入值,本案例中:110。

      • 参数2:入参中的固定参数,本案例中:sequence_length。

      • 对应值:固定入参的固定输入值,本案例中:128。

    服务出参配置

    上述示例出参:

    {
        "id": "110", 
        "output": [
             {"pred": "国际", "prob": 0.99915063, "logit": 10.21936}, 
             {"pred": "健康", "prob": 8.557205e-05, "logit": 0.8540586}, 
             {"pred": "财经", "prob": 8.2030325e-05, "logit": 0.81178904}, 
             {"pred": "科技", "prob": 8.076288e-05, "logit": 0.79621744}, 
             {"pred": "体育", "prob": 7.966044e-05, "logit": 0.7824724},
             ......
        ]
    }
    • 参数1:出参的参数说明,本案例中:result

    • 取值路径:识别结果从出参中的取值路径,本案例中:$.result.output[0].pred

  5. 单击下一步,进入调试配置向导页面。

  6. 输入入参值,单击请求服务进行调试。image

  7. 单击新建,对创建的模型服务进行保存。

  8. 模型服务的列表页面,可以对模型进行调试删除编辑等操作。

后续操作

创建并调试完成模型服务后,您可以在创建标注任务时,选择线上服务预测进行智能标注,详情请参见数据预标注:智能标注配置