模型加载器
字段说明 字段 说明 url 模型加载器加载模型的URL地址。position 模型位置设置。rotation 模型旋转设置。scale 模型缩放设置。encrypted 模型是否加密。如果您在创建三维城市构建器项目时，使用了 空间数据项目 模式，并且项目内包含了模型...
多点位模型
模型加载完成 当模型加载完成时的事件，抛出类型为object的数据。动作 动作 说明 请求模型点位数据 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如多点位模型配置了API数据源为 http://api.test ，传到 请求...
多点位模型
模型加载完成 当模型加载完成时的事件，抛出类型为object的数据。动作 动作 说明 请求模型点位数据 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如多点位模型配置了API数据源为 http://api.test ，传到 请求...
模型加载器
数据面板 字段 说明 url 模型加载器加载模型的URL地址。position 模型位置设置。rotation 模型旋转设置。scale 模型缩放设置。encrypted 模型是否加密。配置项 说明 受控模式 打开开关，组件初始化状态下不请求数据，仅通过回调ID或蓝图...
路径动画模型
模型加载完成 当模型加载完成时的事件，抛出类型为object的数据。动作 动作 说明 请求运动路径 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如路径动画模型配置了API数据源为 http://api.test ，传到 请求运动...
路径动画模型
模型加载完成 当模型加载完成时的事件，抛出类型为object的数据。动作 动作 说明 请求运动路径 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如路径动画模型配置了API数据源为 https://api.test ，传到 请求...
高级配置：模型服务预热
为了解决模型初次请求耗时较长的问题，EAS 提供了模型预热功能，使模型服务在上线之前得到预热，从而实现模型服务上线后即可进入正常服务状态。本文介绍如何使用模型预热功能。背景信息 通常向模型发送初次请求时，不同的Runtime会进行不同...
基本概念
Processor 在线预测逻辑（模型加载和请求预测逻辑）的程序包，通常与模型文件一起部署，从而获得模型服务。PAI支持以下两类Processor：预置Processor：针对常用的PMML、TensorFlow等模型，EAS提供了预置的Processor。自定义Processor：如果...
Golang SDK使用说明
AddFetch(outputName string)功能：请求TensorFlow的在线预测服务模型时，设置需要输出Tensor的别名。参数：outputName 表示待获取的输出Tensor的别名。对于SavedModel模型，该参数可选。如果未设置，则输出所有的outputs。对于Frozen ...
量化优化
PAI-Blade支持TensorFlow和PyTorch模型在GPU硬件、端侧设备的INT8量化。本文主要介绍在GPU硬件上，如何使用PAI-Blade量化优化。背景信息 量化是模型压缩常用手段之一，通过将原始的全精度32位浮点数分桶量化为位宽更小的定点整数，可以达到...
服务部署：控制台
EAS 支持将从开源社区下载的模型或您自己训练获得的模型部署为推理服务或AI-Web应用。针对不同方式获取的训练模型，EAS 支持不同的部署方式。此外，EAS还提供了一系列针对特定场景的部署方式，您可以通过控制台快速将其部署为API服务。本文...
Stable Diffusion AIACC加速版部署文档
请注意，切换模型时请确保webui已经打开，由于webui是单进程模式，单个机器请执行单个切换模型的操作。usr/bin/env python3#-*-coding:utf-8-*-"""Created on Wed May 24 11:13:15 2023@author:lyuniqi"""import requests import random ...
Tensorflow
tensorflow_cpu_2.7 Tensorflow 2.7 否 tensorflow_gpu_1.12 Tensorflow 1.12 是 tensorflow_gpu_1.14 Tensorflow 1.14 是 tensorflow_gpu_1.15 Tensorflow 1.15 是 tensorflow_gpu_2.4 Tensorflow 2.4 是 tensorflow_gpu_2.7 Tensorflow 2...
TensorFlow模型如何导出为SavedModel
本文为您介绍如何将TensorFlow模型导出为SavedModel格式。SavedModel格式 使用 EAS 预置官方Processor将TensorFlow模型部署为在线服务，必须先将模型导出为官方定义的SavedModel格式（TensorFlow官方推荐的导出模型格式）。SavedModel模型...
AI编译器优化
import numpy as np import tensorflow as tf import blade#加载模型和测试数据。graph_def=tf.GraphDef()with open('./frozen.pb','rb')as f:graph_def.ParseFromString(f.read())test_data=np.load('test_bc4.npy',allow_pickle=True,...
页面性能
页面性能主要关注 App 各个页面的加载时长，同时展示 App 所有访问页面的实时访问数据，包括访问量、访问用户数、访问账户数等。查看页面性能分析报告 查看步骤如下：登录控制台，进入 产品与服务>移动开发平台 mPaaS 后，选择应用。在左侧...
预置Processor使用说明
1.14 TensorFlow1.14 Processor TensorFlow1.15 tensorflow_cpu_1.15 tensorflow_gpu_1.15 TensorFlow1.15 Processor（内置PAI-Blade敏捷版优化引擎）TensorFlow2.3 tensorflow_cpu_2.3 无 TensorFlow2.3 Processor PyTorch1.6 pytorch_cpu...
实时同步常见问题
本文为您介绍实时同步的...实时同步至Oracle报错：logminer doesn't init,send HeartbeatRecord 实时同步至Oracle任务在初始化找合适的同步位点时，需要加载上一份归档的日志，如果归档日志较大，则需要加载3～5分钟才会完成初始化init阶段。
GPU实例FAQ
本文介绍使用GPU实例过程中可能遇到的问题，并提供对应的解决方案。函数计算GPU实例的驱动版本是什么？函数计算GPU实例的CUDA版本是什么?构建镜像时报错CUDA GPG Error如何解决？为什么我的GPU实例规格显示的是g1？为什么我的预留GPU实例...
GPU实例FAQ
本文介绍使用GPU实例过程中可能遇到的问题，并提供对应的解决方案。函数计算GPU实例的驱动版本是什么？函数计算GPU实例的CUDA版本是什么?构建镜像时报错CUDA GPG Error如何解决？为什么我的GPU实例规格显示的是g1？为什么我的预留GPU实例...
优化TensorFlow模型
对于TensorFlow模型，支持以下三种方式传入模型：直接传入tf.GraphDef对象 从文件加载PB或PBTXT格式的Frozen PB 从指定路径导入SavedModel 在本文示例中，为 blade.optimize 函数传入了内存中的tf.GraphDef对象。另外两种方式可以参考如下...
步骤一：部署客户端
TensorFlow Serving在加载模型时，加载模型的路径为models/resnet50-v15-fp32/1/saved_model.pb，加密使用的密钥位于files/wrap-key。您也可以自定义128位密码，按照文件路径匹配原则，加密时文件路径要和使用时保持一致。利用gramine-sgx-...
概述
背景信息 TensorFlow Serving是Google开源的机器学习平台TensorFlow生态的一部分，它的功能是将训练好的模型运行起来，提供接口给其他服务调用，以便使用模型进行推理预测。阿里云ECS部分安全增强型实例基于Intel ® SGX（Software Guard ...
TensorFlow Serving镜像部署
TensorFlow Serving是一个适用于深度学习模型的推理服务引擎，支持将TensorFlow标准的SavedModel格式的模型部署为在线服务，并支持模型热更新与模型版本管理等功能。本文为您介绍如何使用镜像部署的方式部署TensorFlow Serving模型服务。...
5分钟使用EAS一键部署AI视频生成应用
您可以通过EAS一键部署基于ComfyUI和Stable Video Diffusion模型的AI视频生成Web应用，快速实现文本生成视频的AI生成解决方案，帮助您完成社交平台短视频内容生成、动画制作等任务。本文为您介绍如何部署AI视频生成应用、推理服务以及常见...
使用Blade优化基于TensorFlow的ResNet50模型
ResNet使用卷积层提取图像的特征，并通过引入残差块结构，解决了深层神经网络训练时的梯度消失和梯度爆炸问题，大幅提升了深度神经网络的训练效果。ResNet典型的网络有ResNet26、ResNet50及ResNet101等。使用限制 本文使用的环境需要满足...
Quick BI如何设置加载进度条？
详细信息 页面加载或图表查询时的加载loading动画如何设置？方法如下：在配置面板-组织管理-组织信息-自定义配置中，上传页面加载loading动画、区块加载loading动画即可。适用于 Quick BI 说明：本文适用于公共云v4.5版本配置面板模块。
Triton Inference Server镜像部署
dlpack,to_dlpack import triton_python_backend_utils as pb_utils class TritonPythonModel:"""必须以"TritonPythonModel"为类名"""def initialize(self,args):"""初始化函数，可选实现，在加载模型时被调用一次，可用于初始化与模型属性...
OSS存储读写分离最佳实践
通过Pod运行日志查询数据加载所需的时间，该时间包含从OSS下载文件及TensorFlow加载的时间。kubectl logs pod tf-mnist|grep dataload 预期输出：dataload cost time:1.54191803932 实际查询的时间与实例的性能和网络状态相关。登录 OSS...
使用SDK部署TensorFlow模型推理
PAI-Blade提供了C++ SDK帮助您部署优化后的模型推理。本文以TensorFlow模型为例，介绍PAI-Blade的SDK的使用方法。前提条件 已使用PAI-Blade对TensorFlow模型进行了优化，详情请参见 优化TensorFlow模型。已安装SDK并获取鉴权Token，详情请...
Python SDK使用说明
add_feed(self,input_name,shape,data_type,content)功能：请求TensorFlow在线预测服务模型时，设置需要输入的 input 数据。参数：input_name：输入Tensor的别名。shape：输入Tensor的TensorShape。data_type：输入Tensor的DataType，支持...
数据缓存概述
功能简介 为了解决数据加载与容器镜像加载解耦的问题，ECI提供了数据缓存的功能。在创建业务应用前，您可以提前创建数据缓存，将业务应用所需的数据缓存到本地。在创建业务应用时，可以直接挂载使用缓存好的数据。通过数据缓存功能，您无需...
数据缓存概述
功能简介 为了解决数据加载与容器镜像加载解耦的问题，ECI提供了数据缓存的功能。在创建业务应用前，您可以提前创建数据缓存，将业务应用所需的数据缓存到本地。在创建业务应用时，可以直接挂载使用缓存好的数据。通过数据缓存功能，您无需...
EasyRec Processor（推荐打分服务）
EAS 内置的EasyRec Processor支持将EasyRec或TensorFlow训练的推荐模型部署为打分服务，并具备集成特征工程的能力。通过联合优化特征工程和TensorFlow模型，EasyRec Processor能够实现高性能的打分服务。本文为您介绍如何部署及调用EasyRec...
Model
名称 类型 描述 示例值 object 模型。ModelId string 模型 ID。model-1123*ModelName string 模型名称。情感分析 GmtCreateTime string 创建模型 UTC 时间，格式 iso8601。2021-01-21T17:12:35Z GmtModifiedTime string 最后更新模型 UTC ...
UpdateModel-更新模型
更新模型的基本配置信息。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 PUT/api/v1/models/{ModelId} ...
加载（Loading）
属性 属性 类型 默认值 说明 className string-类名 color string '#999' 加载时的颜色，当 type 为 'spin' 时，只支持十六进制颜色码，如 '#fff' delay number-延时显示加载状态，单位 ms，注意，delay 的变更不能实时生效，当 type 为 '...
使用AIACC-Training PyTorch版
加载模型显存OOM 一般是由于模型数据太大导致，可以通过将模型导入为CPU内存来解决此问题，如 torch.load(pretrain,map_location='cpu')。系统提示退出异常 首先请确保您已经正确完成了代码的适配操作。具体操作，请参见 代码适配与运行。...
EmbeddingVariable
使用EmbeddingVariable进行超大规模训练，不仅可以保证模型特征无损，而且可以节约内存资源。警告 公共云GPU服务器即将过保下线，您可以继续提交CPU版本的TensorFlow任务。如需使用GPU进行模型训练，请前往DLC提交任务，具体操作请参见 ...
AI推理服务概述
借助ACK云原生AI套件提供的Arena命令行工具、AI负载调度、GPU管理、资源弹性伸缩等基础能力，您可以在Kubernetes集群中简便、高效地把训练好的模型部署为AI推理服务。阿里云容器服务ACK支持为推理服务提供弹性伸缩、GPU共享调度、性能监控...
- 产品推荐
- 这些文档可能帮助您