基本概念
cuDNN NVIDIA推出的用于深度神经网络的GPU加速库。DeepGPU 阿里云专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集合。AIACC-Taining 阿里云自研的分布式训练任务AI加速器，可以显著提升训练性能。AIACC-Inference 阿里云自研...
云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，...涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU 云服务器》最佳实践
应用场景
GPU云服务器应用场景 直播实时视频转码 阿里云GPU云服务器重点支持2019年天猫双11狂欢夜直播的实时视频转码，以高画质、低带宽、高分辨率、实时的综合优势服务于天猫双11狂欢夜当天直播业务4K、2K、1080P等各个分辨率的转码。具体说明如下...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
异构计算产品最佳实践概览
神龙AI加速引擎AIACC 使用AIACC-Training（AIACC训练加速）加速BERT Finetune模型 适用于自然语言训练场景，使用GPU云服务器和极速型NAS进行BERT Finetune模型训练，使用AIACC-Training（AIACC训练加速）可以有效提升多机多卡的训练效率。...
GPU云服务器计费
GPU云服务器计费相关功能与云服务器ECS一致，本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的GPU资源如下表所示...
部署GPU云服务器
请按照标签顺序依次点击 新建>新建空白应用，构建如下图所示的包含GPU云服务器实例的应用架构：本文所选地域为 华北2（北京）可用区H。双击GPU实例，配置相关参数。参考 创建GPU实例，选择对应的实例规格、镜像及版本。需要修改自定义登录...
directx-device-plugin-windows
在阿里云上使用虚拟化GPU云服务器时，directx-device-plugin-windows可以为Windows容器提供基于DirectX构建的GPU加速功能。关于虚拟化GPU云服务器的详细介绍，请参见 GPU虚拟化型。directx-device-plugin-windows仅支持v1.20.4及其以上版本...
开启GPU加速计算
如果是带有GPU设备的环境，Ganos默认开启GPU加速计算，如果此时想关闭GPU加速计算，直接使用原来的CPU计算模式，则在会话中执行 set ganos.raster.use_cuda=off：rasterdb=set ganos.raster.use_cuda=off;SET rasterdb=show ganos.raster....
开启GPU加速计算
如果是带有GPU设备的环境，Ganos默认开启GPU加速计算，如果此时想关闭GPU加速计算，直接使用原来的CPU计算模式，则在会话中执行 set ganos.raster.use_cuda=off：rasterdb=set ganos.raster.use_cuda=off;SET rasterdb=show ganos.raster....
灵骏常见问题
为什么深度学习和神经网络需要GPU？GPU与CPU的对比如下表所示。对比项 GPU CPU 算术运算单元（ALU）大量擅长处理大规模并发计算的算术运算单元（ALU）。拥有强大的算术运算单元（ALU），但数量较少。逻辑控制单元 相对简单的逻辑控制单元。...
安装GPU拓扑感知调度组件
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。获取集群KubeConfig并通过kubectl工具连接集群。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上...
阿里云异构计算产品总览
阿里云异构计算产品家族介绍 下文为您介绍阿里云异构计算产品家族：GPU云服务器、FPGA云服务器 以及弹性加速计算实例EAIS 等异构产品。而神行工具包（DeepGPU）服务于GPU云服务器，为GPU云服务器搭配了GPU计算服务增强能力，其包括神龙AI...
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
在Windows容器中使用基于DirectX的GPU加速
Windows容器支持对基于DirectX构建的所有框架进行GPU加速。本文介绍在Windows节点如何安装DirectX设备插件以及在Windows容器中如何使用基于DirectX构建的GPU加速功能。前提条件 已创建Kubernetes集群，且集群版本不低于v1.20.4。具体操作，...
安装共享GPU调度组件
ACK Pro集群的实例规格架构设置为 GPU云服务器。其他配置，请参见 创建ACK集群Pro版。已获取集群KubeConfig并通过kubectl工具连接集群。使用限制 请勿将共享GPU调度的节点的CPU Policy设置为 static。cGPU服务的隔离功能不支持以UVM的方式...
准实时推理场景
本文以购买T4加速类型的GPU云服务器为例进行对比说明。与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU...
准实时推理场景
本文以购买T4加速类型的GPU云服务器为例进行对比说明。与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU...
GPU云服务器常见问题
为了有效排查和解决GPU云服务器的相关问题，本文为您汇总了使用GPU时遇到的一些常见问题。类别 相关问题 功能问题 为什么Windows操作系统不支持DirectX等功能？GPU实例支持安卓模拟器吗？我能变更GPU实例的配置吗？按量付费GPU实例支持节省...
配置共享GPU调度节点选卡策略
配置项 说明 实例规格 架构 选择 GPU云服务器，选择多个GPU实例规格。由于只有在节点有多张GPU卡的情况下，节点选卡策略才能看出效果，建议选择带有多张GPU卡机型。期望节点数 设置节点池初始节点数量。如无需创建节点，可以填写为0。节点...
功能发布记录
2019-03-19 全部 实例规格族 2018年9月 功能名称 功能描述 发布时间 发布地域 相关文档 实例规格族 最新一代GPU云主机gn6v（V100机型）正式售卖。2018-09-12 全部 实例规格族 2018年3月 功能名称 功能描述 发布时间 发布地域 相关文档 GPU...
什么是全球加速
源站连接 客户端流量从阿里云加速网络进入后端服务，支持以下两种网络连接类型：私网连接：主要针对部署在阿里云上的后端服务，支持的后端服务类型包括：云服务器 ECS（Elastic Compute Service）、弹性网卡 ENI（Elastic Network ...
人工神经网络
人工神经网络（Artificial Neural Network，缩写ANN），简称神经网络或类神经网络，是一种模仿生物神经网络（动物的中枢神经系统，特别是大脑）的结构和功能的数学模型或计算模型，用于对函数进行估计或近似。人工神经网络有多层和单层之分...
关于全站加速的OpenAPI禁止操作IPA域名的公告
自2022年05月31日起，禁止通过全站加速的OpenAPI配置IP应用加速（IPA）的加速域名，请调整使用IP应用加速的OpenAPI对IPA域名进行增删改查等操作。禁止配置IP应用加速域名的全站加速OpenAPI 禁止通过以下全站加速OpenAPI配置IP应用加速域名...
基础型全球加速实例概述
基础型 全球加速 实例依托阿里云优质的全球互联网带宽与高品质传输网络，为您提供点到点的加速体验。基础型全球加速实例介绍 基础型 全球加速 用于三层（IP协议）加速场景，您只需要配置加速区域和终端节点组即可实现业务加速。接入方式 ...
在GPU实例上使用RAPIDS加速机器学习任务
背景信息 RAPIDS（全称Real-time Acceleration Platform for Integrated Data Science）是NVIDIA针对数据科学和机器学习推出的GPU加速库。更多信息，请参见 RAPIDS网站。RAPIDS预装镜像已经发布到阿里云镜像市场，创建GPU实例时，您可以在...
标准型全球加速实例概述
源站连接 客户端流量从阿里云加速网络进入后端服务，支持以下两种网络连接类型：私网连接：主要针对部署在阿里云上的后端服务，支持的后端服务类型包括：云服务器 ECS（Elastic Compute Service）、弹性网卡 ENI（Elastic Network ...
按流量计费
购买带宽计费方式为 按流量 的 全球加速 实例后，接入全球加速网络产生的流量费用统一由 云数据传输 CDT（Cloud Data Transfer）结算出账。本文为您介绍 全球加速 按流量计费的计费规则。前提条件 如果您的业务涉及中国内地地域与中国香港...
添加和管理加速区域
加速区域是您需要进行访问加速的区域。您可以选择客户端所在地域或就近地域作为加速地域。背景信息 仅加速IP类型为弹性公网IP的 全球加速 实例需要配置加速区域。加速IP类型为任播弹性公网IP的 全球加速 实例无需配置加速区域。关于加速IP...
使用GPU拓扑感知调度（Pytorch版）
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。已安装 Arena。已安装GPU拓扑感知调度组件。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上版本 ...
使用基础型全球加速实现访问加速
某公司总部在阿里云美国（硅谷）地域，总部的企业应用部署在专有网络VPC（Virtual Private Cloud）内的云服务器ECS（Elastic Compute Service）上，ECS通过绑定的弹性公网IP（Elastic IP Address，简称EIP）对外提供服务。但因公网不稳定，...
图像处理最佳实践
原始图像 边缘检测结果 准备工作 OpenCV需要自行编译以使用GPU加速，编译方式如下：（推荐）通过Docker使用已编译好的OpenCV。下载地址：opencv-cuda-docker 或 cuda-opencv 自行编译。具体步骤，请参见 官网编译手册。将需处理的音视频...
加速区域概述
加速IP 客户端请求通过访问加速IP就近进入阿里云加速网络。加速IP类型 加速IP类型包括 弹性公网IP 和 任播弹性公网IP。下表为您介绍 弹性公网IP 和 任播弹性公网IP 类型加速IP的主要区别：对比项 弹性公网IP 任播弹性公网IP 接入模式 采用...
使用Anycast IP加速海外服务
全球加速集成任播弹性公网IP服务可实现全球多地域通过一个固定加速IP就近接入阿里云加速网络，为全球用户提供高可用和高性能的网络加速服务。背景信息 全球加速为您提供以下两种加速IP类型：对比项 弹性公网IP 任播弹性公网IP 接入模式 ...
计费概述
接入阿里云加速网络的网络传输带宽费用支持 按流量 和 按带宽 两种计费方式：按流量：使用 云数据传输 CDT（Cloud Data Transfer）结算，CDT 支持按量付费模式。该方式下，无需为 全球加速 实例绑定基础带宽包，系统根据您业务地域分布情况...
购买与选型
带宽类型 加速类型 加速后端服务 加速范围 标准加速带宽 加速部署在阿里云上的应用 标准型 全球加速 实例：阿里云公网IP 云服务器 ECS 弹性网卡 ENI 传统型负载均衡 CLB（原SLB）应用型负载均衡 ALB 网络型负载均衡 NLB 对象存储 OSS 交换...
离线异步任务场景
本文介绍什么是GPU离线异步任务场景和如何使用函数计算GPU异步调用、异步有状态调用服务离线AI推理、离线AI训练、离线GPU加速场景，以及如何基于非Web Server模式的Custom Container满足离线GPU应用场景。场景介绍 在离线异步应用场景中，...
加速访问指定IP的后端服务
如果您的应用在访问时面临延迟大、丢包等问题，严重影响终端用户的访问体验时，您可以使用 全球加速 GA（Global Accelerator）将访问请求就近接入阿里云加速网络，实现应用加速。本文指导您使用 全球加速 服务加速访问指定IP的后端服务，...
跨境流量计费
购买带宽计费方式为 按流量 的 全球加速 实例后，接入 全球加速 网络产生的流量费用统一由 云数据传输 CDT（Cloud Data Transfer）结算出账。本文为您介绍使用 联通跨境专线加速 所产生跨境流量的计费规则。前提条件 如果您需要使用联通...
- 产品推荐
- 这些文档可能帮助您