在Elasticsearch(简称ES)实例中使用AI推理模型时,需要首先在引擎中创建AI模型。根据模型的来源,可以分为两种操作方式,即内置模型、自部署模型对应的操作方式。您可以参考本文进行操作。
背景信息
两种模型操作方式。
第一种是创建AI搜索开放平台中,暴露API供客户直接调用的内置模型服务。
第二种是创建AI搜索开放平台中,您购买资源自行部署的自部署模型服务,或来自其他模型平台的其他模型服务。
操作指引(AI搜索开放平台模型)
内置模型
- 登录阿里云Elasticsearch控制台。
- 在左侧导航栏,单击Elasticsearch实例。
- 进入目标实例。
- 在顶部菜单栏处,选择资源组和地域。
- 在Elasticsearch实例中单击目标实例ID。
在左侧导航栏,选择
。(条件必选)单击开通服务并初始化模型,跳转进入AI搜索开放平台开通页面,单击立即开通,开通搜索开放平台。
单击初始化模型,自动创建所有AI模型服务。
说明AI模型按实际调用量计费,不使用不计费。
为确保模型正常调用,请勿自行在搜索开放平台中删除或禁用模型调用信息,删除后模型列表中对应模型将无法使用。后续如需新增模型,请参见AI搜索开放平台内置模型服务。
在海外地域使用AI搜索开放平台模型会涉及跨境数据传输问题。
使用该功能将使您的业务数据传输至产品部署(中国上海)的区域进行处理,具体情况将根据您的配置而有所不同,可能会涉及跨境数据传输。如涉及跨境数据传输,使用本功能,即表示您确保您业务数据的跨境传输符合所有适用法律,包括提供充分的数据保护、提供充分的隐私声明、获得有关个人的必要同意等,且您的业务数据不含任何适用法律限制或禁止传输或披露的内容。您在此声明并保证,您将遵守以上合规要求。如因您违反前述声明与保证,导致阿里云和/或其关联公司遭受任何损失,您应承担相应的赔偿责任。
查看调用AI模型需要的参数信息。
模型服务空间名称:空间用于隔离和管理数据。在首次开通AI搜索开放平台后,系统会自动创建一个默认空间(Default)。您也可以根据需要创建其他空间,具体的操作,请参见创建空间。
模型调用API Key:您需要通过API Key实现AI模型API/SDK调用时的身份认证。您可以单击模型调用API Key后面的
图标,以查看AI搜索开放平台的API Key。有关API Key的管理,请参见管理API Key。
模型服务接入地址:ES实例优先提供私有网络下的AI模型接入地址。位于杭州、深圳、北京、张家口和青岛地区的ES实例,可以通过私有网络进行跨地域调用AI搜索开放平台的服务。如需使用公共网络调用AI搜索开放平台的服务,请参见获取公网服务接入地址。
(可选)在ES实例中调用AI模型。
AI模型的详细信息,请参见AI搜索开放平台内置模型服务。
自部署模型
- 登录阿里云Elasticsearch控制台。
- 在左侧导航栏,单击Elasticsearch实例。
- 进入目标实例。
- 在顶部菜单栏处,选择资源组和地域。
- 在Elasticsearch实例中单击目标实例ID。
在左侧导航栏,选择
。开通AI搜索开放平台,并在AI搜索开放平台中进行服务部署,以及创建
API Key
。
在模型管理页面,选择 AI搜索开放平台模型 > 自部署模型 ,点击创建模型。
说明AI平台自部署模型按模型部署资源计费。
为确保模型正常调用,请勿自行在搜索开放平台中删除或禁用模型调用信息,删除后模型列表中对应模型将无法使用。后续如需新增模型,请参见自定义模型推理服务。
在海外地域使用AI搜索开放平台模型会涉及跨境数据传输问题。
使用该功能将使您的业务数据传输至产品部署(中国上海)的区域进行处理,因您的配置而异,可能会涉及跨境数据传输。如涉及跨境数据传输,使用本功能,即表示您确保您业务数据的跨境传输符合所有适用法律,包括提供充分的数据保护、提供充分的隐私声明、获得有关个人的必要同意等,且您的业务数据不含任何适用法律限制或禁止传输或披露的内容。您在此声明并保证,您将遵守以上合规要求。如因您违反前述声明与保证,导致阿里云和/或其关联公司遭受任何损失,您应承担赔偿责任。
ES控制台仅展示自部署模型区域与ES实例所在区域相同的模型服务。
查看调用AI模型需要的参数信息。
说明获取Token:获取对应区域的私网访问token。
在ES实例中调用AI搜索开放平台自部署模型的具体方案,请参见自定义模型推理服务。
其他模型
在Kibana中通过 Inference API 创建来自其他平台的自定义模型,请参见自定义模型推理服务。
创建成功的模型可在Elasticsearch实例 > AI服务中心 > 模型管理 > 其他模型中查看。