阿里异构计算产品总览

GPU云服务器 GPU云服务器是基于GPU应用的计算服务器GPU在执行复杂的数学和几何计算方面有着独特的优势。特别是浮点运算、并行运算等方面,GPU可以提供上百倍于CPU的计算能力。作为阿里弹性计算家族的一员,GPU云服务器结合了GPU计算力...

API参考

如果您熟悉网络服务协议和一种以上编程语言,推荐您调用API管理您的上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致,详情请参见 ECS API简介 和 ECS API概览。

什么是神行工具包(DeepGPU)

神行工具包(DeepGPU)是阿里专门为GPU云服务器搭配的GPU计算服务增强工具集合,旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包(DeepGPU)中的组件可以帮助您更方便地利用阿里上GPU资源,...

应用场景

GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景,神行工具包(DeepGPU)为了配合GPU云服务器的计算服务增强能力,也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包(DeepGPU)的...

GPU集群中加速AI模型训练

本文适用于AI图片的训练场景,使用文件存储CPFS/NAS作为共享存储,使用容器服务Kubernetes版管理GPU云服务器集群实现AI图片的训练加速。方案优势 使用阿里的容器服务ACK可快速搭建AI图片训练基础环境。使用CPFS存储训练数据,支持多个...

产品优势

阿里GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式,神行工具包(DeepGPU)是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包(DeepGPU)的优势。...

使用RAPIDS加速机器学习最佳实践

方案优势 阿里云GPU云服务器资源丰富,可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...

使用RAPIDS加速图像搜索最佳实践

方案优势 阿里云GPU云服务器资源丰富,可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...

GPU监控

云监控通过安装在阿里主机(ECS实例)上的云监控插件,采集GPU监控数据,您还可以为这些监控项设置报警规则。当某个监控项达到报警条件时,会给您发送报警通知,以便您及时关注其动态。前提条件 请确保您已在云服务器ECS上创建GPU计算...

GPU监控

云监控通过安装在阿里主机(ECS实例)上的云监控插件,采集GPU监控数据,您还可以为这些监控项设置报警规则。当某个监控项达到报警条件时,会给您发送报警通知,以便您及时关注其动态。前提条件 请确保您已在云服务器ECS上创建GPU计算...

什么是GPU云服务器

对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格(vCPU、内存及GPU)支持灵活变更,并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定,无法灵活变更。带宽一次性购买,无法...

什么是推理引擎DeepGPU-LLM

DeepGPU-LLM是阿里研发的基于GPU云服务器的大语言模型(Large Language Model,LLM)推理引擎,在处理大语言模型任务中,该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里开发的一套推理引擎,具有易用性...

快速构建主机监控能力

步骤一:安装云监控插件 当您在云服务器ECS控制台上创建阿里主机(ECS实例)后,在云监控控制台的 主机监控 列表中会显示该主机,您需要为其安装云监控插件,才能对其进行监控。登录 云监控控制台。在左侧导航栏,选择 资源监控>主机...

使用FastGPU加速AI训练/推理

选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务,具有超强的计算能力,可有效缓解计算压力,提升您的业务效率,帮助您提高企业竞争力。对象存储OSS 是一款海量、安全、低成本、高可靠的存储服务,多种存储...

接入Nvidia GPU监控数据

Nvidia GPU服务器中提供多项监控指标,您可以将Nvidia GPU服务器中的监控指标接入到全栈可观测应用中,进行可视化展示。前提条件 已创建实例。具体操作,请参见 创建实例。步骤一:安装NVIDIA GPU驱动 日志服务 使用 nvidia-smi 命令采集...

GPU云服务器计费

GPU云服务器计费相关功能与云服务器ECS一致,本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源(vCPU、内存和GPU)、镜像、块存储等资源,其中涉及计费的GPU资源如下表所示...

Tesla或GRID驱动安装指引

GPU实例本身并未配备相关驱动,只有安装了驱动的GPU实例,才能实现计算加速或图形渲染等功能。根据不同GPU实例规格安装与之匹配的Tesla或GRID驱动,...如果GPU实例安装驱动后,在使用过程中遇到黑屏或其他问题,请参见 GPU云服务器常见问题。

创建GPU实例

如果您购买的是包年包月实例,请阅读《云服务器ECS服务条款》、《镜像商品使用条款》和《云服务器ECS退订说明》,如无疑问,选中《云服务器ECS服务条款》|《镜像商品使用条款》|《云服务器ECS退订说明》。单击 确定下单。在支付页面,查看...

查看服务器信息

关联产品 在该区域,系统会显示 虚拟主机、云服务器ECS和无影电脑的相关信息,单击对应服务名称,可以跳转到对应服务的官网页面。示例:查询流量使用情况 重要 对于每月无固定流量的套餐,不显示流量使用情况。更多信息,请参见 套餐...

创建弹性裸金属服务器实例

弹性裸金属服务器(ECS Bare Metal Instance)是基于阿里完全自主研发的下一代虚拟化技术而打造的新型计算类服务器产品,本文主要介绍如何创建弹性裸金属服务器实例。背景信息 创建弹性裸金属服务器实例和创建普通云服务器实例的步骤类似...

重启实例

GPU实例作为云服务器ECS的一类实例规格,保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式,如系统更新、重启保存相关配置等...

查看监控概览

工作组监控概览 项目 说明 监控任务 展示当前工作组监控任务总量和异常监控任务数量。监控链路 展示当前工作组监控链路总量和异常监控链路数量。监控告警分组 当前工作组已被监控任务关联的告警分组数量和异常告警分组数量。任务状态趋势...

查看监控概览

工作组监控概览 项目 说明 监控任务 展示当前工作组监控任务总量和异常监控任务数量。监控链路 展示当前工作组监控链路总量和异常监控链路数量。监控告警分组 当前工作组已被监控任务关联的告警分组数量和异常告警分组数量。任务状态趋势...

使用阿里Prometheus监控集群GPU资源

本文介绍通过阿里Prometheus对GPU资源进行监控,查看GPU各项指标。前提条件 您已完成以下操作:创建GPU集群 或 创建专有GPU集群。开通 阿里Prometheus服务。已安装阿里Prometheus监控。具体操作,请参见 阿里Prometheus监控。费用...

基本概念

本文汇总使用GPU云服务器过程中涉及的基本概念,方便您查询和了解相关概念。GPU云服务器相关概念 概念 说明 GPU 图形处理器(Graphics Processing Unit)。相比CPU具有众多计算单元和更多的流水线,适合用于大规模并行计算等场景。CUDA ...

小程序监控

异常监控 异常监控区域展示指定时间段内的影响用户体验的异常监控数据及变化趋势,包括应用打开异常数量、白屏率、异常报错率、JSAPI 调用异常量、应用拉包请求异常量。从页面打开速度、页面稳定性和外部服务调用成功率(API)这三个方面...

GPU虚拟化型

本文介绍云服务器ECS GPU虚拟化型实例规格族的特点,并列出了具体的实例规格。主售(推荐类型)GPU虚拟化型实例规格族sgn7i-vws(共享CPU)GPU虚拟化型实例规格族vgn7i-vws GPU虚拟化型实例规格族vgn6i 在售(如果售罄,建议使用主售的规格...

产品优势

云监控是阿里巴巴集团多年来监控技术研究积累的成果,结合阿里计算平台强大的数据分析能力,为您提供产品监控、站点监控和主机监控等功能,为您的产品保驾护航。即开即用 云监控无需您购买和开通。当您注册阿里账号后,自动开通...

性能监控概念

性能监控对象 性能监控的对象包括计算机系统、网络、应用程序等,主要分为以下几类:服务器:包括物理服务器和虚拟服务器监控服务器的CPU、内存、磁盘、网络等资源使用情况。操作系统:监控操作系统的运行状态、进程、服务、文件系统等。...

使用ACK服务实现GPU的成本优化

GPU云服务器 该服务提供了GPU算力的弹性计算服务,具有超强的计算能力,可有效缓解计算压力,提升您的业务效率,帮助您提高企业竞争力。容器服务ACK 该服务提供了高性能且可伸缩的容器应用管理能力,支持企业级容器化应用的全生命周期管理...

神行工具包(DeepGPU)计费

使用神行工具包(DeepGPU)本身不需要额外支付费用,您只需要为执行计算任务过程中使用的阿里资源(例如云服务器ECS或文件存储NAS)进行付费。神行工具包中的组件主要包括 AI训练加速器Deepytorch Training、AI推理加速器Deepytorch ...

在轻量应用服务器控制台中不显示服务器内存和磁盘的...

问题原因 在轻量应用服务器管理控制台中,服务器内存和系统盘数据通过云监控插件获取,当您进行重置系统等操作后,可能造成云监控插件失效,导致内存和系统盘的数据没法采集。解决方案 手动安装云监控插件。具体操作,请参见 为阿里...

创建智能阈值报警规则

如果资源的监控指标达到报警条件,监控自动发送报警通知,帮助您及时得知异常监控数据并快速处理。前提条件 请确保您已开通基础监控的按量计费或开启试用中心的试用智能阈值。更多信息,请参见 按量计费 或 试用智能阈值。使用限制 ...

JVM监控内存详情说明

内存泄露分析 ARMS提供了完善的堆内存泄露定位分析能力,用户可以通过JVM堆内存监控查看是否出现堆内存缓慢增长,如果存在相关堆内存持续增长趋势,可以通过ARMS提供的 内存快照 或 CPU&内存诊断 功能排查定位堆内内存泄露位置。堆外内存...

启动实例

GPU实例作为云服务器ECS的一类实例规格,保持了与ECS实例相同的管理操作。本文介绍如何在ECS管理控制台上启动实例。前提条件 实例满足以下条件之一:实例处于 已停止 状态。按量付费实例处于 已过期 状态,您已经结清欠费账单但自动重开机...

使用原生AI监控大盘

节点监控大盘有以下可供您查看的指标:GPU Node Details:以表格的形式展示集群节点的相关信息,包括:节点名称(Name)节点在集群中的IP(IP)节点在集群中的角色(Role)节点的状态(Status)GPU模式:独占或共享(GPU Mode)节点拥有GPU...

创建报警规则

如果资源的监控指标达到报警条件,监控自动发送报警通知,帮助您及时得知异常监控数据,并快速处理。操作步骤 登录 监控控制台。在左侧导航栏,选择 资源监控>应用分组。在 应用分组 页签,单击目标应用分组名称链接。在目标应用分组...

创建报警规则

如果资源的监控指标达到报警条件,监控自动发送报警通知,帮助您及时得知异常监控数据,并快速处理。操作步骤 登录 监控控制台。在左侧导航栏,选择 报警服务>报警规则。在 报警规则 页面,单击 创建报警规则。在 创建报警规则 面板,...

应用场景

云服务器ECS具有广泛的应用场景,既可以作为Web服务器或者应用服务器单独使用,又可以与其他阿里云服务集成提供丰富的解决方案。说明 云服务器ECS的典型应用场景包括但不限于本文描述,您可以在使用云服务器ECS的同时发现计算带来的技术...

接入NVIDIA GPU监控数据

您可使用Telegraf采集NVIDIA GPU监控数据,再通过日志服务Logtail将Telegraf数据上传到MetricStore中,搭建NVIDIA GPU可视化监控方案。本文介绍如何通过日志服务来完成NVIDIA GPU监控数据的采集和可视化。前提条件 已创建Project和...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云服务器 ECS Web应用防火墙 GPU云服务器 轻量应用服务器 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用