应用场景
GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景，神行工具包（DeepGPU）为了配合GPU云服务器的计算服务增强能力，也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的...
云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
基本概念
本文汇总使用GPU云服务器过程中涉及的基本概念，方便您查询和了解相关概念。GPU云服务器相关概念 概念 说明 GPU 图形处理器（Graphics Processing Unit）。相比CPU具有众多计算单元和更多的流水线，适合用于大规模并行计算等场景。CUDA ...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
GPU监控
云监控通过安装在阿里云主机（ECS实例）上的云监控插件，采集GPU的监控数据，您还可以为这些监控项设置报警规则。当某个监控项达到报警条件时，会给您发送报警通知，以便您及时关注其动态。前提条件 请确保您已在云服务器ECS上创建GPU计算...
GPU云服务器常见问题
为了有效排查和解决GPU云服务器的相关问题，本文为您汇总了使用GPU时遇到的一些常见问题。类别 相关问题 功能问题 为什么Windows操作系统不支持DirectX等功能？GPU实例支持安卓模拟器吗？我能变更GPU实例的配置吗？按量付费GPU实例支持节省...
部署GPU云服务器
请按照标签顺序依次点击 新建>新建空白应用，构建如下图所示的包含GPU云服务器实例的应用架构：本文所选地域为 华北2（北京）可用区H。双击GPU实例，配置相关参数。参考 创建GPU实例，选择对应的实例规格、镜像及版本。需要修改自定义登录...
在GPU集群中加速AI模型训练
本文适用于AI图片的训练场景，使用文件存储CPFS/NAS作为共享存储，使用容器服务Kubernetes版管理GPU云服务器集群实现AI图片的训练加速。方案优势 使用阿里云的容器服务ACK可快速搭建AI图片训练基础环境。使用CPFS存储训练数据，支持多个...
实例命名规则
命名规则 阿里云云服务器ECS提供了多种实例规格族，一种实例规格族又包括多个实例规格。其中，实例规格族名称格式为 ecs.<规格族>，实例规格名称为 ecs.<规格族>.<nx>large。实例具体命名含义如下所示：ecs：云服务器ECS的产品代号。规格...
产品优势
阿里云GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式，神行工具包（DeepGPU）是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的优势。...
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
阿里云异构计算产品总览
神行工具包（DeepGPU）神行工具包是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，用户可以基于IaaS产品快速构建企业级服务能力。目前所有神行工具包中的组件都是免费搭配阿里云GPU服务器使用，帮助用户更方便、更高效地使用阿里...
什么是GPU云服务器
为什么选择GPU云服务器 阿里云GPU云服务器是基于GPU与CPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势，特别是在浮点运算、并行运算等方面，GPU可以提供比CPU高百倍的计算能力。GPU的功能特性如下：拥有大量擅长...
支持升级的主机
不支持 支持 支持 不支持 不支持 不支持 不支持 独享高级版 不支持 不支持 不支持 支持 不支持 不支持 不支持 不支持 独享豪华版 不支持 不支持 不支持 不支持 不支持 不支持 不支持 不支持 独享基础增强版 不支持 不支持 不支持 不支持 不...
GPU自助诊断
ECS管理控制台支持配置 GPU设备健康检查 功能，通过该功能可以对当前实例的GPU卡状态或驱动状态进行全方位诊断，方便您自行诊断当前实例的GPU卡或驱动是否存在异常，帮助您及时发现和解决存在的常见问题。前提条件 已创建GPU实例且该实例...
已停售的GPU实例规格
本文为您汇总了已停售的GPU实例规格族详情，请您根据业务需求（例如场景或计算能力）选择当前主售的实例规格族。说明 关于在售实例规格的详细介绍，请参见 实例规格族。GPU虚拟化型实例规格族vgn6i GPU虚拟化型实例规格族vgn5i GPU计算型...
什么是GPU容器共享技术cGPU
GPU容器共享技术cGPU是阿里云基于内核虚拟GPU隔离的容器共享技术。即多个容器共享一张GPU卡，从而实现业务的安全隔离，提高GPU硬件资源的利用率并降低使用成本。为什么选择cGPU 兼容性好 不仅适配标准的Docker和Containerd工作方式，而且还...
新功能发布记录
2020年12月 功能名称 功能描述 发布时间 发布地域 相关文档 faasutil faasutil是阿里云FPGA云服务器提供的新一代命令行工具，进一步提高FPGA云服务器的易用性、稳定性、安全性和可扩展性。2020-12-08 部分 获取faasutil 使用faasutil 2018...
重启实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式，如系统更新、重启保存相关配置等...
基本概念
服务器迁移 可将服务器、虚拟机、云服务器的业务迁移到阿里云，提高业务迁移到阿里云的效率。更多信息，请参见 各源环境迁移至阿里云。VMware无代理迁移 通过VMware Agentless无侵入式迁移技术，可将VMware虚拟机的业务迁移到阿里云，提高...
镜像商品的版本管理
可以不做设置，不设置代表该镜像运行可以支持1核及以上GPU的云服务器 内存配置 不做设置 0.5 GiB – 1024 GiB 可以不做设置，不设置代表该镜像部署和运行可以支持0.5GiB及以上内存的云服务器 VPC专有网络是否支持多网卡 支持 支持和不支持...
功能发布记录
2019-03-19 全部 实例规格族 2018年9月 功能名称 功能描述 发布时间 发布地域 相关文档 实例规格族 最新一代GPU云主机gn6v（V100机型）正式售卖。2018-09-12 全部 实例规格族 2018年3月 功能名称 功能描述 发布时间 发布地域 相关文档 GPU...
GPU监控
云监控通过安装在阿里云主机（ECS实例）上的云监控插件，采集GPU的监控数据，您还可以为这些监控项设置报警规则。当某个监控项达到报警条件时，会给您发送报警通知，以便您及时关注其动态。前提条件 请确保您已在云服务器ECS上创建GPU计算...
安装GPU拓扑感知调度组件
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。获取集群KubeConfig并通过kubectl工具连接集群。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上...
跨可用区迁移
跨可用区迁移可将阿里云ECS云服务器迁移到同地域的不同可用区，提高阿里云ECS云服务器的迁移效率。本视频指导您如何跨可用区迁移阿里云ECS云服务器。
迁移概述
通用型实例规格族g8y 计算型实例规格族c8y 内存型实例规格族r8y 迁移必要性 与x86架构不同的是，倚天云服务器采用的ARM架构，一个基于x86平台上源代码的程序，如果需要部署到基于阿里云倚天实例的服务器上使用，必须经过编译、优化等操作。...
ECS安全组实践（安全组设置）
在分布式应用中，大多数应用都有不同的分层和分组，对于不提供公网访问的云服务器尽量不提供公网IP，如果有多台服务器提供公网访问，建议您配置公网流量分发的负载均衡服务来公网服务，提升系统的可用性，避免单点。详情请参见 负载均衡...
开源软件迁移
您可以直接在倚天云服务器上安装使用。sudo yum install nginx-y MySQL MySQL是当前较流行的关系型数据库管理系统之一，由于其体积小、速度快、成本低等优势，一般中小型和大型网站的开发者都会选择MySQL作为网站数据库。您可以直接在倚天...
E-MapReduce支持倚天云服务器
阿里云E-MapReduce（简称EMR）支持使用倚天云服务器构建开源大数据集群。与现有X86架构实例体验完全相同的情况下，具有更高的性价比，帮助您降低成本并提高效率。本文为您介绍倚天云服务器的特性、优势，以及在E-Mapreduce上倚天云服务器的...
创建GPU实例
如果您购买的是包年包月实例，请阅读《云服务器ECS服务条款》、《镜像商品使用条款》和《云服务器ECS退订说明》，如无疑问，选中《云服务器ECS服务条款》|《镜像商品使用条款》|《云服务器ECS退订说明》。单击 确定下单。在支付页面，查看...
新手指引
云服务器ECS概述 云服务器ECS（Elastic Compute Service）是阿里云提供的性能卓越、稳定可靠、弹性扩展的IaaS级别云计算服务，让您像使用水、电、天然气等公共资源一样便捷、高效地使用服务器，免去了您采购IT硬件的前期准备，实现计算资源...
云服务器压力测试指引
DDoS原生防护基础版（DDoS基础防护）服务免费为云服务器提供DDoS攻击防御能力。默认情况下，当云服务器的网络带宽超过180 Mbps、每秒30,000个报文数、每秒480个HTTP请求中的任何一项（根据实际实例规格可能有所不同）阿里云将自动启动DDoS...
将云虚拟主机MySQL备份导入其他服务器MySQL数据库
您可以将云虚拟主机的MySQL备份文件导入到其他云服务器的MySQL数据库中。本文以Linux操作系统云服务器（例如云服务器ECS）的MySQL数据库为目标数据库，为您介绍具体导入方法。背景信息 将云虚拟主机MySQL数据库的数据导入到其他Linux操作...
在GPU实例上部署NGC环境
NGC（NVIDIA GPU CLOUD）是NVIDIA开发的一套深度学习生态系统，方便您免费访问深度学习软件堆栈，建立适合深度学习的开发环境。本文以搭建TensorFlow深度学习框架为例，为您介绍如何在GPU实例上部署NGC环境。背景信息 NGC作为一套深度学习...
阿里云客户端概述
您可以在本地安装阿里云客户端（Alibaba Cloud Client），高效、便捷地统一管理和使用账号下的资源（云服务器ECS、弹性容器实例ECI、轻量应用服务器和阿里云托管实例），进行浏览、查找、远程连接等操作。本客户端目前支持在Windows、Mac x...
网络FAQ
使用这种转发模型，SLB负载均衡将客户端请求转发到云服务器ECS，ECS服务器通过外网带宽响应给用户，这个响应占用的带宽，在ECS控制台中不显示，它是计入到SLB负载均衡使用的出流量中，因此云监控显示的云服务器ECS带宽和ECS控制台显示带宽...
在GPU实例（计算型和虚拟化型）中安装GRID驱动...
在OpenGL、Direct3D、云游戏等图形加速/图形渲染场景下，安装了GRID驱动的GPU可有效提高图形渲染效率和性能。本文为您介绍通过云助手方式在GPU实例（计算型和虚拟化型）中安装GRID驱动（Windows）的方法。说明 创建GPU实例时会默认预装云...
- 产品推荐
- 这些文档可能帮助您