什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
应用场景
GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景，神行工具包（DeepGPU）为了配合GPU云服务器的计算服务增强能力，也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的...
阿里云异构计算产品总览
神行工具包（DeepGPU）神行工具包是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，用户可以基于IaaS产品快速构建企业级服务能力。目前所有神行工具包中的组件都是免费搭配阿里云GPU服务器使用，帮助用户更方便、更高效地使用阿里...
云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
产品优势
超强计算能力 阿里云GPU云服务器配备业界超强算力的GPU计算卡，结合高性能CPU平台，单实例可提供高达1000 TFLOPS的混合精度计算性能。网络性能出色 阿里云GPU云服务器实例的VPC网络最大支持450万的PPS及32 Gbit/s的内网带宽。在此基础上，...
计算资源优化
GPU 云服务器 EGS（Elastic GPU Service）：GPU云服务器是基于GPU与CPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势，特别是在浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。GPU的功能特性如下：...
在GPU计算型实例中安装Tesla驱动（Windows）
本文为您介绍为Windows系统的GPU计算型实例手动安装Tesla驱动的方法。操作步骤 说明 本文适用于所有Windows系统GPU计算型实例，更多信息，请参见 GPU计算型。Windows系统GPU计算型实例不支持在创建实例时自动安装Tesla驱动，您只能参考本文...
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
在GPU计算型实例中安装Tesla驱动（Linux）
本文为您介绍为Linux系统的GPU计算型实例手动安装Tesla驱动的方法。操作步骤 本文适用于所有Linux系统的GPU计算型实例，更多信息，请参见 GPU计算型。在该实例上仅支持安装与其操作系统一致的Tesla驱动，即Linux系统GPU实例支持安装Tesla...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
镜像使用说明
ACR版本 镜像大小限制（GB）是否付费 ACR企业版-标准版 10 是 ACR企业版-高级版 10 是 ACR企业版-基础版 10 是 ACR个人版 10 免费 使用官方基础镜像 为了更好地提高兼容性和性能，函数计算 的GPU提供并推荐优先使用官方基础镜像进行业务...
灵骏常见问题
本文为您介绍智能计算灵骏的常见问题。如何创建、删除集群下的节点分组？您有两种方式为灵骏集群创建分组。创建集群时，为集群创建分组。更多信息，请参见 集群和分组配置。创建集群完成后，为已有的集群创建分组。在左侧导航栏，选择 资源...
镜像使用说明
使用官方基础镜像 为了更好地提高兼容性和性能，函数计算 的GPU提供并推荐优先使用官方基础镜像进行业务逻辑的镜像构建，使您能够更轻松地构建自己的业务逻辑。函数计算Serverless GPU提供了多个官方基础镜像，这些官方基础镜像包括了当前...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
卸载Tesla驱动
在Windows操作系统中卸载Tesla驱动 以操作系统为Windows Server 2019的GPU计算型实例gn6i为例，该实例安装了472.50版本的Tesla驱动，现因某些原因需要卸载，具体请参考以下操作。远程连接GPU实例。具体操作，请参见 通过密码或密钥认证登录...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
人工智能最佳实践
函数计算 的GPU实例将这些问题从用户侧转移至云厂商侧，让您无需关心底层GPU基础设施，完全聚焦于业务本身，极大地简化了业务的实现路径。在不同的应用场景下，函数计算 提供的GPU实例与CPU相比所具备的优势如下。成本优先的AI应用场景 ...
ALB服务器组概述
添加的云服务器需与服务器组所属同一VPC。云服务器作为后端服务，接收来自ALB转发的请求。关于ECS作为后端服务的教程，请参见：快速实现IPv4服务的负载均衡 快速实现IPv6服务的负载均衡 IP类型 该类型服务器组支持添加IP地址作为后端服务。...
基于异步任务调用GPU函数
2021年云栖大会，阿里云 函数计算 正式推出基于Turing架构的GPU实例，使得Serverless开发者可以将AI训练与推理的业务负载下沉到GPU硬件加速，从而加快模型训练、推理服务的效率。异步任务 函数计算 提供异步任务的分发、执行和观测的全栈...
部署GPU云服务器
请按照标签顺序依次点击 新建>新建空白应用，构建如下图所示的包含GPU云服务器实例的应用架构：本文所选地域为 华北2（北京）可用区H。双击GPU实例，配置相关参数。参考 创建GPU实例，选择对应的实例规格、镜像及版本。需要修改自定义登录...
在GPU集群中加速AI模型训练
部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。容器服务ACK 该服务提供了高性能且可伸缩的容器应用管理...
已停售的实例规格
处理器：3.2 GHz主频的Intel Xeon E5-2667 v4（Broadwell）处理器 计算性能稳定 I/O优化实例 仅支持SSD云盘和高效云盘 实例网络性能与计算规格对应（规格越高网络性能越强）适用场景：高性能Web前端服务器 高性能科学和工程应用 MMO游戏、...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
GPU虚拟化型
本文介绍为您介绍云服务器ECS GPU虚拟化型实例规格族的特点，并列出了具体的实例规格。GPU虚拟化型实例规格族sgn7i-vws（共享CPU）GPU虚拟化型实例规格族vgn7i-vws GPU虚拟化型实例规格族vgn6i-vws GPU虚拟化型实例规格族sgn7i-vws（共享...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
使用AIACC-Training（AIACC训练加速）加速BERT Fine...
本文适用于自然语言训练场景，例如，通过使用GPU云服务器和极速型NAS训练BERT Finetune模型，同时使用AIACC-Training（AIACC训练加速）进行该模型的训练加速，可有效加快多机多卡的训练速度，提升模型的训练效率和性能。说明 BERT...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
什么是集群极速部署工具FastGPU
FastGPU介绍 FastGPU作为衔接您的线下人工智能算法和线上阿里云海量GPU计算资源的关键一环，方便您将人工智能计算任务构建在阿里云的IaaS资源上。使用FastGPU构建人工智能计算任务时，您无需关心IaaS层的计算、存储、网络等资源部署操作，...
开启GPU加速计算
GPU由于其特殊的硬件架构，在处理计算密集型、易于并行的程序上较CPU有很大的优势。加速原理 数据库中GPU并行加速是指对象级的并行，将单个字段的对象转换为适合并行计算的模型，利用GPU超多核心的能力并行计算。注意事项 对于并发数较大的...
开启GPU加速计算
GPU由于其特殊的硬件架构，在处理计算密集型、易于并行的程序上较CPU有很大的优势。加速原理 数据库中GPU并行加速是指对象级的并行，将单个字段的对象转换为适合并行计算的模型，利用GPU超多核心的能力并行计算。注意事项 对于并发数较大的...
使用ACK服务实现GPU的成本优化
GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。容器服务ACK 该服务提供了高性能且可伸缩的容器应用管理能力，支持企业级容器化应用的全生命周期管理...
已停售的GPU实例规格
计算：采用NVIDIA T4 GPU计算加速器 实例包含分片虚拟化后的虚拟GPU 计算能力支持NVIDIA Tesla T4的1/4和1/2 GPU显存支持4 GB和8 GB 处理器与内存配比约为1:5 处理器：2.5 GHz主频的Intel ® Xeon ® Platinum 8163（Skylake）存储：I/O...
离线异步任务场景
充足的GPU资源供给 函数计算平台提供充足的GPU资源供给，当业务遭遇大规模离线任务时，函数计算将以秒级弹性供给海量GPU算力资源，避免因GPU算力供给不足、GPU算力弹性滞后导致的业务受损，适合忙闲流量分明（长时空闲、短时繁忙）、忙闲...
GPU云产品选型决策指引
传统GPU使用场景存在资源利用率低、使用成本高和弹性能力弱等痛点问题，而Serverless GPU提供了一种更加灵活的方式来利用GPU计算资源，您只需根据自己的实际需求选择合适的GPU型号和计算资源规模即可。本文介绍如何根据您的业务情况选择...
创建作业
说明 本示例使用名为gmx.test的用户提交作业，在一个包含8 vCPU和1块P100 GPU卡的计算节点compute000上运行。在实际使用场景中您可根据集群配置情况做出适当修改。bin/sh#PBS-j oe#PBS-l select=1:ncpus=8:mpiprocs=4#PBS-q workq export ...
ECS实例如何升级GPU驱动
概述 本文主要介绍如何升级ECS实例的GPU驱动。详细信息 阿里云提醒您：如果您对实例或数据有修改、变更等风险操作，务必注意实例的容灾、容错能力，确保数据安全。如果您对实例（包括但不限于ECS、RDS）等进行配置与数据修改，建议提前创建...
ALB触发器
函数计算 支持 应用型负载均衡ALB（Application Load Balancer）作为事件源，即支持将 函数计算 设置为ALB的后端服务。ALB会将请求转发到 函数计算 中的函数，并且同步返回函数调用结果。本文介绍如何配置ALB触发函数执行。前提条件 函数...
异构计算产品最佳实践概览
GPU云服务器 搭建Linux环境License Server 使用GRID驱动必须申请相应的License，同时需要将License部署在License Server上，本教程以Ubuntu 18.04操作系统为例，介绍如何搭建Linux操作系统的License Server。搭建Windows环境的License ...
重启实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式，如系统更新、重启保存相关配置等...
- 产品推荐
- 这些文档可能帮助您