API网关为K8s容器应用集群提供强大的接入能力
我们结合API网关+Kubernetes集群的架构，让系统具备了动态伸缩，动态路由，支持多协议接入，SDK自动生成，双向通信等各项能力，成为可用性更高，更灵活，更可靠的一套架构。5.1 配置总结 在最后一节，我们描述了在阿里云的公有云如何创建一...
阿里控制台的应用到达是什么意思
问题描述 阿里控制台的应用到达是什么意思？解决方案 阿里后台推送通知后会显示已到达，该意思并不一定代表用户看到了这条通知，只是通知内容送达了手机端，手机端返回给服务器已送达的回执。具体通知是否展示出来还取决于通知的渠道ID是否...
领域模型概述
一对多通信：基于独立身份的设计，同一个主题内的消息可以被多个订阅组处理，每个订阅组都可以拿到全量消息。因此发布订阅模型可以实现一对多通信。传输模型对比 点对点模型和发布订阅模型各有优势，点对点模型更为简单，而发布订阅模型的...
MQTT连接相关问题
MQTT连接通信的参数说明，请参见 MQTT-TLS连接通信、MQTT-WebSocket连接通信、基于IPv6的MQTT连接通信。为什么设备一直上下线？如果发现设备反复上下线，很有可能同一个设备证书用于多个设备连接认证。例如有两个设备，但使用了同一个设备...
什么是Deepytorch Training（训练加速）
多机优化 多机优化体现在通信算子编译优化、TCP多流优化、多机CPU-Reduce优化三个方面，具体说明如下：通信算子编译优化：针对阿里云上不同机型，以及网卡与GPU的不同拓扑连接等特点，相比较基于全局拓扑结构实现的Allreduce、Allgather或...
多网段互通配置建议及常见问题
常见问题 为什么IPsec连接状态为“第二阶段协商成功”，但是多网段场景下部分网段通信正常，部分网段通信不正常？原因 在使用IPsec-VPN连接实现本地数据中心和VPC互通的场景中，如果VPN网关与思科、华三、华为 等传统厂商的设备对接，在...
设备接入引导
HTTP连接 HTTPS进行设备认证时，server返回的错误码代表什么意思？HTTPS接入认证的时候，body中的sign参数怎么生成？服务器返回代码“302 Found，The requested resource resides temporarily under a different URI”用浏览器调用HTTP请求...
查询网络通信距离（NCD）
使用NCD的原因 存在的问题 在特定物理网络拓扑下，不同GPU节点之间的通信时延和可能产生的跨多跳交换机转发引发的哈希不均，都可能导致不同GPU节点之间的通信性能存在较大差异，进而进一步影响模型训练的吞吐差异。解决方法 如上图所示，...
子网路由
关于ECS实例的更多信息，请参见 什么是云服务器ECS。适用于将指定网络访问路由至ECS实例进行流量统一转发和管理的场景，例如，将一台ECS实例配置为公网网关管理其他ECS实例访问公网。弹性网卡：将目的地址在目标网段范围内的流量路由至选择...
创建和管理路由表
关于ECS实例的更多信息，请参见 什么是云服务器ECS。适用于将指定网络访问路由至ECS实例进行流量统一转发和管理的场景，例如，将一台ECS实例配置为公网网关管理其他ECS实例访问公网。弹性网卡：将目的地址在目标网段范围内的流量路由至选择...
DDH上的ECS实例常见问题
分情况说明下，我们假设两个DDH分别为ddh-A和ddh-B：ddh-A和ddh-B的网络拓扑一致时，二者在网络通信上差别不大（可能只差别在物理网络多条个位数跳，影响有限）。ddh-A和ddh-B的网络拓扑不一致时，二者会有明显差距，具体差距大小取决于ddh...
常见问题
专有网络FAQ 一般性FAQ 什么是CIDR？VPC与经典网络的区别是什么？VPC是否支持VPN功能？如何选择VPC的网段？如何选择交换机的网段？附加网段FAQ 同VPC下，主网段内的ECS实例与附加网段内的ECS实例是否可以互通？同VPC下，主网段内的ECS实例...
添加和管理路由表中IPv6路由
关于路由器接口的更多信息，请参见 什么是VBR上连。VPC对等连接：将目的地址在目标网段范围内的流量路由至选择的VPC对等连接。关于对等连接的更多信息，请参见 VPC对等连接概述。说明 若已有目标网段为:/0，下一跳为IPv6网关实例ID的自定义...
MQTT发布
有关消息通信Topic的详细内容请参见 什么是Topic。输入Topic时，可使用通配符#和+，以实现批量监听Topic。其中自定义Topic类仅可使用通配符#。使用通配符时，#必须置于Topic层级的4级及以上才能生效。例如/sys/${productKey}/${deviceName}...
一机一密
更多信息，请参见 什么是Topic。网关子设备认证流程 网关设备注册方法，与直连设备相同。本文以网关设备的一机一密MQTT注册方法为例，介绍网关代理子设备注册的流程。创建产品：为网关和子设备分别创建对应产品。网关对应产品的 节点类型 ...
网络FAQ
通常跨接很大的物理范围，所覆盖的范围从几十公里到几千公里，它能连接多个地区、城市和国家，或横跨几个洲并能提供远距离通信，形成国际性的远程网络。广域网并不等同于互联网。局域网：又称内网。是指在某一区域内由多台计算机互联的计算...
Ark 服务通信
为了解决 Biz 之间的通信问题，SOFAArk 引入了 SOFABoot 提供的 SofaService/SofaReference 编程界面，本文介绍它的使用方法。说明 如果要解决 Plugin 和 Biz 的通信问题，可发布和引用插件服务。操作方式，请参见 Ark 服务机制。引入依赖 ...
NAT边界防火墙
VPC内资源（例如ECS、ECI等）通过NAT...更多关于互联网边界防火墙的问题：开启防火墙开关对业务有什么影响？NAT边界防火墙为什么需要创建路由表和下发0.0.0.0/0静态路由？同时开启互联网边界、NAT边界和DNS边界防火墙，出方向的流量如何匹配？
什么是AI通信加速库Deepnccl
Deepnccl是为阿里云神龙异构产品开发的一种用于多GPU互联的AI通信加速库，在AI分布式训练或多卡推理任务中用于提升通信效率。本文主要介绍Deepnccl的架构、优化原理和性能说明。产品简介 Deepnccl基于NCCL（NVIDIA Collective ...
消息通信说明
通信Topic必须符合标准MQTT协议的Topic规范，Topic更多详细说明，请参见 什么是Topic。自定义通信Topic直接使用设备上报的原始自定义Topic，设备下行通信Topic与上行通信Topic一致。物联网平台支持的通信Topic与标准MQTT协议通信Topic的...
阿里云异构计算产品总览
更多信息，请参见 什么是AI分布式训练通信优化库AIACC-ACSpeed。AI训练计算优化编译器AIACC-AGSpeed：是阿里云推出的一个基于PyTorch深度学习框架研发的计算优化编译器，用于优化PyTorch深度学习模型在阿里云GPU异构计算实例上的计算性能。...
HTTP连接相关问题
HTTPS进行设备认证时，server返回的错误码代表什么意思？设备连接认证时，返回的错误码信息，请参见 HTTP连接通信 文档中的错误码说明。HTTPS接入认证的时候，body中的sign参数怎么生成？sign计算方法：hmacmd5(deviceSecret,content)。...
基于eRDMA增强型实例部署AI训练集群
在NCCL底层通信链接上，有多种不同的传输方式，例如单机内部多卡P2P通信以及多机上的传统socket通信（如VPC网络）和高性能的InfiniBand（IB）通信，其中eRDMA是一种基于RDMA的传输方式，具有极低的延迟，并且在性能上接近RDMA网络的优势。...
概述
背景信息 RRPC的更多信息，请参见 什么是RRPC。RRPC支持使用基础通信Topic和自定义Topic，调用物联网平台的云端API RRpc，向设备端发送消息。更多信息，请参见：调用RRPC通信相关Topic。调用自定义Topic。功能原理 应用程序通过调用C Link ...
消息到期说明
什么是消息数有效期 生活物联网平台云端与设备端间的信息流转通过消息上报和下发实现，每台设备每天的消息上报数存在有效期限，超过有效期对应的消息数将不会进行消息上报。首次购买设备激活码，所包含的对应消息数有效期为三年。额外为...
什么是GPU云服务器
什么是AI通信加速库Deepnccl 阿里云开发的一种用于多GPU互联的AI通信加速库，在AI分布式训练或多卡推理任务中用于提升通信效率。什么是推理引擎DeepGPU-LLM 阿里云开发的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言...
使用云数据库Redis版实现即时通信场景中的多端同步
随着即时通信（Instant Messaging）场景和客户端种类的不断丰富，多端通信已经成为普遍趋势。本文为您介绍一种使用云数据库Redis版在IM场景中实现多端同步的方案。消息存储模型 通常，IM系统的核心架构分为三个部分：消息管理模块、消息...
服务端下发指令
您也可以通过物模型相关Topic，发送标准化的物模型数据，更多信息，请参见 什么是物模型 和 设备使用物模型通信。准备开发环境 本示例与AMQP客户端部署在相同业务服务端中，即在 amqp-demo 项目中开发调用云端API的示例程序下发指令给设备...
DDH常见问题
为什么udp通信时报文丢了？什么是专有宿主机DDH？阿里云专有宿主机（Dedicated Host，简称为DDH）是一台物理资源独享的云主机，物理服务器上的资源由一个租户独享，与其他租户在物理机级别上隔离。您能在DDH上创建ECS实例。更多信息，请...
启动方式与环境变量说明
1：若存在多个节点，每个节点多卡，会做两级通信，节点内部先reduce到一张卡上，然后每个节点一张卡参与第二级通信。默认为Perseus自动选择。若不设置，Perseus自动选择AllReduce通信模式。Perseus会自动选择最优值，一般情况下不建议您...
物联网平台相关问题
消息通信 基于物联网平台，开发设备管理的通信模式是什么样的？设备上报数据至物联网平台后，如何存储到数据库（MySQL、SQL Server）？物联网平台和消息队列（RocketMQ）都是用于消息通信的产品，它们有什么区别？设备发送给物联网平台的...
设备使用物模型通信
本文介绍设备与物联网平台之间，如何通过物模型实现多场景消息通信。背景信息 物联网平台提供的物模型功能定义和使用说明，请参见 什么是物模型。物联网平台物模型通信Topic定义和通信说明，请参见 什么是Topic 和 使用Topic通信。设备与物...
最佳实践概览
应用场景 最佳实践文档 公网 建立高可用的IPsec-VPN连接 IPsec-VPN联合物理专线实现主备链路上云（绑定转发路由器）建立多条公网IPsec-VPN连接实现流量的负载分担 私网 通过私网IPsec-VPN连接实现私网流量加密通信 建立多条私有IPsec-...
组播概述
背景信息 什么是组播 组播是一种网络通信模式，通常应用于一个服务器同时向一组客户端（点对多点）发送相同数据报文的网络通信场景。例如在线直播、视频会议、金融交易行情数据同步、远程教育和网络电视等。组播的优势 在点对多点的网络...
什么是AI分布式训练通信优化库AIACC-ACSpeed
多机间优化 通过ACSpeed优化，可以实现多机之间通信的性能提升，主要体现在高效的AllReduce算法和多流通信优化方面。高效AllReduce算法 问题分析 以V100实例为例，单机内部利用nvlink做P2P通信，带宽高达300 GB/s，而多机网络性能在100 ...
组网方案
更多信息，请参见 什么是高速通道。如果采用Internet，可选择阿里云智能接入网关SAG（Smart Access Gateway）。更多信息，请参见 什么是智能接入网关。说明 物理专线由运营商部署，您需要另行购买高速通道产品，相关费用不计入云盒订单；...
通信消息相关问题
本文介绍设备与物联网平台和物联网平台与服务器端的通信相关问题和解决方法。类目 问题 上下行消息 设备重复收到消息，如何去重？设备使用MQTT协议接入物联网平台后，接收不到通信数据，怎么办？物联网平台发送消息比较慢，存在超时情况，...
什么是物联网平台
阿里云物联网平台是一个集成了设备接入、设备管理、数据安全通信、消息订阅、消息转发和数据服务（存储、分析、过滤、解析、集成等）等能力的一体化平台。向下支持连接海量设备，采集设备数据上云；向上提供云端API，服务端可通过云端SDK...
神行工具包（DeepGPU）计费
更多信息，请参见 什么是神行工具包（DeepGPU）。该工具 不需要额外支付费用，您只需为与其关联的阿里云资源付费。与神行工具包关联的阿里云资源主要包括云服务器ECS、对象存储OSS以及文件存储NAS，关联资源的具体计费标准如下：云服务器...
概述
更多微服务平台的详情，请参见 什么是微服务平台。消息队列 SOFAStack 消息队列是基于 Apache RocketMQ 构建的分布式消息中间件，并与金融分布式架构 SOFAStack 深度集成，为分布式应用系统提供异步解耦和削峰填谷的能力，支持事务消息、...
- 产品推荐
- 这些文档可能帮助您