API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
多集群报警差异化配置
如下示例中，ack-cluster-1 为CPU集群，ack-cluster-2 为GPU集群，该示例可实现对 ack-cluster-2 即GPU集群的差异化配置，包括开启GPU报警、修改报警阈值和告警联系人。apiVersion:core.oam.dev/v1alpha1#定义分发目标集群，使用Cluster ID...
GPU云服务器常见问题
为了有效排查和解决GPU云服务器的相关问题，本文为您汇总了使用GPU时遇到的一些常见问题。类别 相关问题 功能问题 为什么Windows操作系统不支持DirectX等功能？GPU实例支持安卓模拟器吗？我能变更GPU实例的配置吗？按量付费GPU实例支持节省...
常见问题FAQ
Q：云数据库专属集群MyBase 中的集群是指所有主机在同一地域下？不同地域间可以做集群吗？A：云数据库专属集群MyBase 是由多台主机（底层服务器，如ECS I2服务器、神龙服务器）组成的集群，不同地域间不可以做集群，一个 云数据库专属集群...
创建GPU集群
本文介绍如何创建GPU集群及查看节点挂载的GPU设备。前提条件 已创建ACK Pro版集群 或 已创建ACK专有版集群。创建GPU节点池 创建GPU节点池时，选择的节点机型需为GPU规格。关于创建节点池，请参见 创建节点池。关于可选的GPU ECS规格，请...
扩容
本文介绍流数据服务Confluent如何扩容。...登录进入集群Control Center页面，导航至Cluster Settings>Broker defaults页面，查看增加的broker信息（注：如果初始购买的集群是多AZ的，那么新扩容的broker也按照多AZ的方式均匀分布）。
阿里云异构计算产品总览
神行工具包（DeepGPU）神行工具包是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，用户可以基于IaaS产品快速构建企业级服务能力。目前所有神行工具包中的组件都是免费搭配阿里云GPU服务器使用，帮助用户更方便、更高效地使用阿里...
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
容器服务报警管理
报警配置功能提供统一管理容器报警场景的功能，包括容器服务异常事件报警、集群相关基础资源的关键指标报警、集群核心组件及集群中应用的指标报警。支持在创建集群时默认开启报警功能。容器服务的报警规则支持通过集群内部署CRD的方式配置...
Kubernetes 集群托管
Kubernetes 集群支持阿里云容器服务 ACK、其他云厂商提供的集群、以及企业自建 Kubernetes 集群。阿里云 ACK 通过服务连接授权云效即可使用。其他厂商集群或自建集群，需要集群的 API Server 公网可访问，使用集群的 kubeconfig 凭证与云效...
将报警配置功能接入注册集群
event eviction-event sls.app.ack.eviction 集群GPU的XID错误事件 集群中GPU XID异常事件。event gpu-xid-error sls.app.ack.gpu.xid_error 集群节点下线 集群中节点下线。event node-down sls.app.ack.node.down 集群节点重启 集群中节点...
增加或删除节点
创建PolarDB集群后，您可以手动增加或删除只读节点。背景信息 一个集群最多包含15个只读节点，最少一个只读节点（用于保障集群的高可用）。同一集群中，所有节点的规格总是保持一致。节点费用 增加节点时的计费方式如下：如果集群为 包年...
设置标签
通过登录 云服务器ECS控制台，在实例列表中将鼠标移动到对应ECS节点的标签图标上，可以查看该ECS节点属于哪个集群以及在集群中的角色。例如，某个ECS节点上的系统标签如下：acs:emr:clusterId=c-59efc7546480*acs:emr:nodeGroupType=CORE ...
增加或删除节点
创建 PolarDB 集群后，您可以根据实际需求手动增加期望规格的只读节点或删除不需要的只读节点。前提条件 PolarDB 集群没有正在进行的配置变更。主节点和只读节点可单独变配规格 您可以根据实际需求增加期望规格的只读节点，即只读节点的...
使用灵骏集群服务
本文为您介绍如何使用灵骏集群服务。使用带有ACK灵骏托管版的灵骏集群服务 您可以通过 容器服务管理控制台 或Kubernetes命令行工具kubectl使用带有ACK灵骏托管版的灵骏集群。推荐您使用kubectl工具。更多信息，请参见 通过kubectl工具连接...
异构计算产品最佳实践概览
GPU AI模型训练最佳实践 适用于AI图片训练场景，使用CPFS/NAS作为共享存储，利用容器服务Kubernetes版管理GPU云服务器集群进行AI图片训练。在GPU实例上使用RAPIDS加速机器学习任务 在GPU实例上基于NGC环境使用RAPIDS加速库，加速数据科学和...
异构计算集群概述
更多信息，请参见 创建GPU集群 和 创建专有GPU集群。支持以GPU卡为单位申请集群GPU资源。支持自动扩缩容集群GPU节点。更多信息，请参见 基于GPU指标实现弹性伸缩。支持GPU共享调度和算力隔离功能。阿里云自研的GPU共享调度将多个模型推理...
安装GPU拓扑感知调度组件
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。获取集群KubeConfig并通过kubectl工具连接集群。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上...
产品优势
高可用性 E-HPC集群节点基于云服务器ECS、超级计算集群SCC和GPU云服务器组建，大大提高了集群的可用性。结果可视 E-HPC提供可视化服务功能，您可以通过可视化服务功能将计算结果转换为可读的图形化数据。例如您可以直接观看渲染后的动画...
Tesla或GRID驱动安装指引
GPU实例本身并未配备相关驱动，只有安装了驱动的GPU实例，才能实现计算加速或图形渲染等功能。根据不同GPU实例规格安装与之匹配的Tesla或GRID驱动，...如果GPU实例安装驱动后，在使用过程中遇到黑屏或其他问题，请参见 GPU云服务器常见问题。
GPU监控
请确保您已在云服务器ECS上安装云监控插件。具体操作，请参见 安装云监控插件。监控项说明 您可以从GPU、实例和应用分组维度查看GPU相关监控项。GPU的监控项如下表所示。监控项 单位 MetricName Dimensions（Agent）GPU维度解码器使用率%...
ACK集群实现GPU AI模型训练
场景描述 本方案适用于AI图片训练场景，使用CPFS和NAS作为共享存储，利用容器服务Kubernetes版管理GPU云服务器集群进行图片AI训练。解决问题 搭建AI图片训练基础环境。使用CPFS存储训练数据。使用飞天AI加速训练工具加速训练。使用Arena一...
在GPU集群中加速AI模型训练
本文适用于AI图片的训练场景，使用文件存储CPFS/NAS作为共享存储，使用容器服务Kubernetes版管理GPU云服务器集群实现AI图片的训练加速。方案优势 使用阿里云的容器服务ACK可快速搭建AI图片训练基础环境。使用CPFS存储训练数据，支持多个...
快速创建入口
若上述专属集群是 默认新建专属集群：若该地域有一个或多个专有网络，您可按需选择目标专有网络。若该地域没有专有网络，默认选择 默认创建专有网络，系统会自动为您创建该专属集群所属的专有网络。说明 若您需要创建新的专有网络或交换机...
添加主机
若上述专属集群是 默认新建专属集群：若该地域有一个或多个专有网络，您可按需选择目标专有网络。若该地域没有专有网络，默认选择 默认创建专有网络，系统会自动为您创建该专属集群所属的专有网络。说明 若您需要创建新的专有网络或交换机...
添加主机
若上述专属集群是 默认新建专属集群：若该地域有一个或多个专有网络，您可按需选择目标专有网络。若该地域没有专有网络，默认选择 默认创建专有网络，系统会自动为您创建该专属集群所属的专有网络。说明 若您需要创建新的专有网络或交换机...
快速使用专属集群MyBase
若上述专属集群是 默认新建专属集群：若该地域有一个或多个专有网络，您可按需选择目标专有网络。若该地域没有专有网络，默认选择 默认创建专有网络，系统会自动为您创建该专属集群所属的专有网络。说明 若您需要创建新的专有网络或交换机...
什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
使用ACK服务实现GPU的成本优化
利用阿里云容器服务ACK部署GPU集群后，出于成本优化考虑，针对集群中GPU利用率不同的应用，选择不同的成本优化方案，可以实现集群的灵活管理，同时整体降低成本。例如，对于集群中GPU利用率不高的应用（例如推理应用），建议选择cGPU技术将...
监控面板说明
GPU监控2.0基于Exporter+Prometheus+Grafana体系打造更为丰富的GPU监控场景。本文介绍监控大盘中各个监控面板（Panel）的含义。Panel介绍 GPU监控2.0包含集群维度监控大盘和节点维度监控大盘。两种大盘的具体说明如下：集群维度监控大盘 ...
方案概述
如果待升级的PolarDB集群是已有数据传输服务（DTS）的源集群或目标集群，则升级后需要将该DTS任务的源或目标集群修改为升级后的PolarDB集群。如数据同步任务、数据迁移任务以及数据订阅任务等。具体请参见 修改DTS任务对象。收费规则 大...
directx-device-plugin-windows
在阿里云上使用虚拟化GPU云服务器时，directx-device-plugin-windows可以为Windows容器提供基于DirectX构建的GPU加速功能。关于虚拟化GPU云服务器的详细介绍，请参见 GPU虚拟化型。directx-device-plugin-windows仅支持v1.20.4及其以上版本...
使用Kubernetes默认GPU调度
通过以上方式为业务应用申请的GPU资源，并未在调度器的设备资源账本中统计，有可能造成节点GPU资源的分配情况与调度器设备资源账本中记录的值不一致。调度器仍然会调度某些申请GPU资源的Pod到这个节点上，导致用户业务因为在同一张GPU卡上...
Serverless常见问题
本文介绍了Serverless集群的常见问题。Serverless集群常见问题 基础概念 Serverless 集群的 PCU 是什么意思？PCU 是 PolarDB Capacity Unit 的缩写。1 PCU 约等于 1核 2GB 内存的标准服务能力。PCU 是 PolarDB Serverless 集群进行资源弹性...
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
Gateway实例说明
在阿里云E-MapReduce（简称EMR）体系中，Gateway实例扮演着至关重要的角色。它可以作为一个独立的作业提交点，关联到已有的集群。本文为您介绍如何在已有的EMR集群基础上创建Gateway集群和Gateway节点组。Gateway集群或Gateway节点组通常是...
Serverless常见问题
本文介绍了Serverless集群的常见问题。Serverless集群常见问题 基础概念 Serverless集群的PCU是什么意思？PCU是PolarDB Capacity Unit的缩写。1 PCU约等于1核2 GB内存的标准服务能力。PCU是 PolarDB Serverless集群进行资源弹性的管理单位...
自动升级集群
启用 ACK集群 的自动升级功能后，您可以使集群保持周期性的自动升级，降低版本运维压力。配置自动升级策略后，系统会提前生成集群升级计划，在维护窗口期内触发前置检查并升级集群的控制面，让您更专注于容器应用开发。使用限制 仅集群版本...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
GPU虚拟化型
本文介绍为您介绍云服务器ECS GPU虚拟化型实例规格族的特点，并列出了具体的实例规格。GPU虚拟化型实例规格族sgn7i-vws（共享CPU）GPU虚拟化型实例规格族vgn7i-vws GPU虚拟化型实例规格族vgn6i-vws GPU虚拟化型实例规格族sgn7i-vws（共享...
- 产品推荐
- 这些文档可能帮助您