应用场景
GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景，神行工具包（DeepGPU）为了配合GPU云服务器的计算服务增强能力，也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的...
云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
实例命名规则
命名规则 阿里云云服务器ECS提供了多种实例规格族，一种实例规格族又包括多个实例规格。其中，实例规格族名称格式为 ecs.<规格族>，实例规格名称为 ecs.<规格族>.<nx>large。实例具体命名含义如下所示：ecs：云服务器ECS的产品代号。规格...
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
部署GPU云服务器
请按照标签顺序依次点击 新建>新建空白应用，构建如下图所示的包含GPU云服务器实例的应用架构：本文所选地域为 华北2（北京）可用区H。双击GPU实例，配置相关参数。参考 创建GPU实例，选择对应的实例规格、镜像及版本。需要修改自定义登录...
镜像使用说明
ACR版本 镜像大小限制（GB）是否付费 ACR企业版-标准版 10 是 ACR企业版-高级版 10 是 ACR企业版-基础版 10 是 ACR个人版 10 免费 使用官方基础镜像 为了更好地提高兼容性和性能，函数计算 的GPU提供并推荐优先使用官方基础镜像进行业务...
在GPU集群中加速AI模型训练
本文适用于AI图片的训练场景，使用文件存储CPFS/NAS作为共享存储，使用容器服务Kubernetes版管理GPU云服务器集群实现AI图片的训练加速。方案优势 使用阿里云的容器服务ACK可快速搭建AI图片训练基础环境。使用CPFS存储训练数据，支持多个...
已停售的GPU实例规格
计算：采用NVIDIA T4 GPU计算加速器 实例包含分片虚拟化后的虚拟GPU 计算能力支持NVIDIA Tesla T4的1/4和1/2 GPU显存支持4 GB和8 GB 处理器与内存配比约为1:5 处理器：2.5 GHz主频的Intel ® Xeon ® Platinum 8163（Skylake）存储：I/O...
人工智能最佳实践
函数计算 的GPU实例将这些问题从用户侧转移至云厂商侧，让您无需关心底层GPU基础设施，完全聚焦于业务本身，极大地简化了业务的实现路径。在不同的应用场景下，函数计算 提供的GPU实例与CPU相比所具备的优势如下。成本优先的AI应用场景 ...
阿里云异构计算产品总览
神行工具包（DeepGPU）神行工具包是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，用户可以基于IaaS产品快速构建企业级服务能力。目前所有神行工具包中的组件都是免费搭配阿里云GPU服务器使用，帮助用户更方便、更高效地使用阿里...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
基于异步任务调用GPU函数
2021年云栖大会，阿里云 函数计算 正式推出基于Turing架构的GPU实例，使得Serverless开发者可以将AI训练与推理的业务负载下沉到GPU硬件加速，从而加快模型训练、推理服务的效率。异步任务 函数计算 提供异步任务的分发、执行和观测的全栈...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
GPU虚拟化型
本文介绍为您介绍云服务器ECS GPU虚拟化型实例规格族的特点，并列出了具体的实例规格。GPU虚拟化型实例规格族sgn7i-vws（共享CPU）GPU虚拟化型实例规格族vgn7i-vws GPU虚拟化型实例规格族vgn6i-vws GPU虚拟化型实例规格族sgn7i-vws（共享...
使用AIACC-Training（AIACC训练加速）加速BERT Fine...
本文适用于自然语言训练场景，例如，通过使用GPU云服务器和极速型NAS训练BERT Finetune模型，同时使用AIACC-Training（AIACC训练加速）进行该模型的训练加速，可有效加快多机多卡的训练速度，提升模型的训练效率和性能。说明 BERT...
人工智能最佳实践
函数计算 的GPU实例将这些问题从用户侧转移至云厂商侧，让您无需关心底层GPU基础设施，完全聚焦于业务本身，极大地简化了业务的实现路径。在不同的应用场景下，函数计算 提供的GPU实例与CPU相比所具备的优势如下。成本优先的AI应用场景 ...
GPU云服务器常见问题
为了有效排查和解决GPU云服务器的相关问题，本文为您汇总了使用GPU时遇到的一些常见问题。类别 相关问题 功能问题 为什么Windows操作系统不支持DirectX等功能？GPU实例支持安卓模拟器吗？我能变更GPU实例的配置吗？按量付费GPU实例支持节省...
重启实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式，如系统更新、重启保存相关配置等...
使用FastGPU加速AI训练/推理
选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。对象存储OSS 是一款海量、安全、低成本、高可靠的云存储服务，多种存储...
什么是推理引擎DeepGPU-LLM
产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性和广泛适用性，旨在优化大语言模型在GPU云服务器上的推理过程，通过优化和并行计算等技术手段，为您提供免费的高性能、低延迟推理服务。DeepGPU-LLM的关联布局图如下所示：...
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
GPU云产品选型决策指引
传统GPU使用场景存在资源利用率低、使用成本高和弹性能力弱等痛点问题，而Serverless GPU提供了一种更加灵活的方式来利用GPU计算资源，您只需根据自己的实际需求选择合适的GPU型号和计算资源规模即可。本文介绍如何根据您的业务情况选择...
创建GPU集群
NVIDIA GPU设备多用于科学计算、图形渲染等场景，为这些计算应用提供加速计算能力。容器服务 Kubernetes 版支持对各种型号的计算型GPU资源进行统一调度和运维管理，能够显著提高GPU集群资源的使用效率。本文介绍如何创建GPU集群及查看节点...
创建作业
说明 本示例使用名为gmx.test的用户提交作业，在一个包含8 vCPU和1块P100 GPU卡的计算节点compute000上运行。在实际使用场景中您可根据集群配置情况做出适当修改。bin/sh#PBS-j oe#PBS-l select=1:ncpus=8:mpiprocs=4#PBS-q workq export ...
访问云虚拟主机上的网站提示“Internal Server Error...
本文主要介绍访问云虚拟主机上的网站时提示“Internal Server Error”报错的原因和解决方案。问题描述 Linux操作系统云虚拟主机：访问该主机上的网站时提示“Internal Server Error”相关报错，具体信息如下所示：Internal Server Error ...
GPU自助诊断
ECS管理控制台支持配置 GPU设备健康检查 功能，通过该功能可以对当前实例的GPU卡状态或驱动状态进行全方位诊断，方便您自行诊断当前实例的GPU卡或驱动是否存在异常，帮助您及时发现和解决存在的常见问题。前提条件 已创建GPU实例且该实例...
图像处理最佳实践
应用场景与优势 在不同的应用场景下，函数计算 提供的GPU实例与CPU相比所具备的优势如下。实时、准实时的应用场景 提供数倍于CPU的图形图像处理效率，从而快速将生产内容推向终端用户。成本优先的图像处理场景 提供弹性预留模式，从而按需...
产品优势
超强计算能力 阿里云GPU云服务器配备业界超强算力的GPU计算卡，结合高性能CPU平台，单实例可提供高达1000 TFLOPS的混合精度计算性能。网络性能出色 阿里云GPU云服务器实例的VPC网络最大支持450万的PPS及32 Gbit/s的内网带宽。在此基础上，...
什么是GPU容器共享技术cGPU
GPU容器共享技术cGPU是阿里云基于内核虚拟GPU隔离的容器共享技术。即多个容器共享一张GPU卡，从而实现业务的安全隔离，提高GPU硬件资源的利用率并降低使用成本。为什么选择cGPU 兼容性好 不仅适配标准的Docker和Containerd工作方式，而且还...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
导出云虚拟主机列表
云虚拟主机提供导出主机列表功能，列表中的信息包含您账户下所有主机的登录...在 云虚拟主机 页面，根据到期时间段选择出需要导出的云虚拟主机，单击。执行结果 列表导出完成会自动下载到本地，您可以在本地打开后查看账户下所有的主机信息。
升级或续费说明
如果云虚拟主机配置无法满足当前网站业务需求，您可以通过升级云虚拟主机来扩大数据存储空间和提高网站访问速度；同时为了保证网站业务的正常运行，您也可以通过为快要到期的云虚拟主机及时续费，来避免因主机被释放而影响您的业务。升级云...
音视频处理最佳实践
在不同的应用场景下，函数计算 提供的GPU实例与CPU相比所具备的优势如下。实时、准实时的应用场景 提供数倍于CPU的转码效率，从而快速将生产内容推向终端用户。成本优先的GPU应用场景 提供弹性预留模式，从而按需为您保留工作GPU实例，对比...
添加专有宿主机
创建宿主机组后，您可以在宿主机组中添加专有宿主机，实现分组管理。本文介绍如何在宿主机组中添加专有宿主机。操作步骤 登录 ECS管理控制台。在左侧导航栏，选择 实例与镜像>>专有宿主机 DDH。在顶部菜单栏左上角处，选择地域。在 宿主...
启动实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何在ECS管理控制台上启动实例。前提条件 实例满足以下条件之一：实例处于 已停止 状态。按量付费实例处于 已过期 状态，您已经结清欠费账单但自动重开机...
云虚拟主机支持的建站系统
云虚拟主机主要用于个人用户和企业级用户搭建网站。在建站前，您需要了解一些主流建站系统（例如博客、论坛以及内容管理系统等）与云虚拟主机的对应关系，以便选择适配您需求的云虚拟主机，确保网站能够获得最佳性能。建站系统与 主机 对应...
更改主机操作系统
使用限制 由于硬件、机房位置等限定因素，部分云虚拟主机不支持更改主机的操作系统，该类型的云虚拟主机具体包括以下几种：产品类别 说明 L享系列云虚拟主机 该系列云虚拟主机仅支持Linux操作系统。共享经济增强版云虚拟主机 该云虚拟主机...
- 产品推荐
- 这些文档可能帮助您