什么是AI通信加速库Deepnccl
多机CPU-Reduce：该优化继承了单机内CPU-Reduce高效的异步流水线，并将跨机Socket通信也设计为流水线形态，实现多机通信全过程流水化，有效减少通信延迟，提高整体训练性能。例如，在通信量较大的Transformer-based模型的多机训练场景下，...
什么是Deepytorch Training（训练加速）
多机CPU-Reduce：该优化继承了单机内CPU-Reduce高效的异步流水线，并将跨机Socket通信也设计为流水线形态，实现多机通信全过程流水化，有效减少通信延迟，提高整体训练性能。例如，在通信量较大的Transformer-based模型的多机训练场景下，...
网络规划
同一地域不同可用区之间的网络通信延迟很小，但也需要经过业务系统的适配和验证。由于系统调用复杂、跨可用区调用等原因可能会增加系统的网络延迟。建议您对系统进行优化及适配，以满足您对高可用和低延迟的实际需求。具体使用多少个交换机...
什么是边缘网络加速
高速互通 多个分支直接进行内网通信，延迟低。快速接入 快速搭建连接企业自有网络与阿里云POP接入网关的专用通道，施工周期对比传统端到端接入方式工期大大减少。分支多 在全国30+个城市拥有接入点，可实现分支之间的高品质专线互联，多个...
网络FAQ
ECS实例在同地域同可用区内通过内网通信可以获得最低延迟，同可用区内实例间通信单向延迟P99分位小于180us。没有明确标注连接数规格的实例，如何保障连接数性能？如果某个实例规格族的指标数据中未明确标示连接数，则该实例规格族不提供...
查看应用的网格拓扑
通过网格拓扑图，您可以实时监测应用的健康状态，分析服务间的延迟和通信问题，了解流量在应用间的分布和流转，以便您快速发现和解决问题，确保应用的可靠性和高性能水平。前提条件 已添加ACK集群到ASM实例，且ASM实例版本为1.15.3.120及...
连接本地IDC
VPN网关基于互联网通信，网络延迟和可用性取决于互联网。如果您对网络延迟没有特别高的需求，建议您选择VPN网关。配置详情，请参见 建立VPC到本地数据中心的连接（单隧道模式）。专线接入 您可以通过租用一条运营商的专线将本地数据中心...
配置Terway集群开启高密度eRDMA能力
通过eRDMA来加速应用间的网络通信，可降低应用间的延迟，减少网络产生的CPU开销。通过Terway的eRDMA的虚拟化能力，节点上有数十个Pod（取决于节点的规格）可以同时利用eRDMA的加速能力。前提条件 集群使用Terway网络插件，并且需配置 ...
如何选择OSS地域
除了通信线路的质量外，距离是影响网络延迟的一个重要因素。例如以杭州的用户为例，使用 ping 命令可以测试出其访问不同地域OSS数据中心的延迟情况。可以看出，距离访问的数据中心越远，数据返回所需时间越长。所以在选择地域时尽量考虑离...
回调及监听
3.0 onRemoteUserOnLineNotify 远端用户（通信模式）加入频道回调。3.0 onRemoteUserOffLineNotify 远端用户（通信模式）离开频道回调。3.0 onRemoteTrackAvailableNotify 远端用户的音视频流发生变化回调。3.0 ...
VPC对等连接使用示例
支持互联VPC数目 最大支持10个 最大支持1000个 延迟 延迟低 由于流量经过转发路由器，会增加额外一跳的延迟。收费 同地域不收费，跨地域收取出方向流量传输费。收取实例费、流量处理费，跨地域收取出方向流量传输费。由于VPC对等连接的配置...
设备接入引导
JT/T 808：建议采用TLS方式接入，支持使用服务端单向认证、设备端和服务端证书OCSP能力、设备和服务端双向安全认证等能力，适用于道路运输车辆卫星定位系统车载终端与阿里云企业物联网平台之间的通信。GB/T 32960：建议采用TLS方式接入，...
通信消息相关问题
本文介绍设备与物联网平台和物联网平台与服务器端的通信相关问题和解决方法。类目 问题 上下行消息 设备重复收到消息，如何去重？设备使用MQTT协议接入物联网平台后，接收不到通信数据，怎么办？物联网平台发送消息比较慢，存在超时情况，...
eRDMA
应用场景 传统的TCP/IP一直是业界主流的网络通信协议，众多应用都是基于TCP/IP构建的，但随着数据中心相关的业务蓬勃发展，应用对于网络的性能需求（如延迟、吞吐）越来越高，受限于TCP/IP的局限性（如拷贝开销大、协议栈处理厚、CC算法...
eRDMA概述
应用场景 传统的TCP/IP一直是业界主流的网络通信协议，众多应用都是基于TCP/IP构建的，但随着数据中心相关的业务蓬勃发展，应用对于网络的性能需求（如延迟、吞吐）越来越高，受限于TCP/IP的局限性（如拷贝开销大、协议栈处理厚、CC算法...
基本概念
概念 说明 集群 集群是带有灵骏优化套件的高性能的异构加速计算节点的集合，集群中的各节点间通过800 Gbps高速低延迟RDMA网络进行互联通信。用户可以使用原生的物理集群服务，也可以在原生服务基础上结合阿里云提供的其他云产品一起使用...
测试SCC集群性能
SCC实例与普通ECS实例相比，配备了高带宽低延迟的RDMA网络，所以网络通信能力与普通ECS实例相比有明显差异。正常的SCC实例会显示如下网口信息，其中eth0为RDMA网口，lo为VPC网口。使用限制 目前仅部分地域可用区支持SCC规格，具体请参见 ...
功能特性
在AI集群层面，通讯的碰撞是计算延迟的主要来源。除了架设集群通信的“高速公路”（即RDMA高速网）外，还需要进行合理的通讯调度，避免“堵车”。阿里云通过通信库ACCL实现了GPU和网卡的智能匹配、节点内外物理拓扑自动识别及拓扑感知的无...
建立gRPC连接
gRPC具有高性能的特点，能有效减少带宽使用、降低网络延迟。gRPC的 作用与 优势 高效通信：利用HTTP/2的多路复用特性，gRPC能够在一个TCP连接上并发执行多个请求，提高了通信效率和性能。跨语言互操作性：gRPC支持多种主流编程语言，允许...
在企业级实例上配置eRDMA
若系统返回信息如下，测试结果包括平均延迟、最大延迟、最小延迟等延迟相关的性能指标，表示eRDMA通信正常。相关文档 在GPU实例上配置eRDMA，各GPU实例间在VPC网络下可以实现RDMA直通加速互联。具体操作，请参见 在GPU实例上配置eRDMA。...
组网方案
云盒与公共云之间的网络连接支持使用物理专线或Internet实现互通，带宽和延迟受云盒和云上之间的通信链路质量影响。如果采用物理专线，可选择阿里云高速通道（仅支持独享专线连接）。更多信息，请参见 什么是高速通道。如果采用Internet，...
Web
2：低延迟互动直播模式*@return 调用成功返回true，失败返回false*/aliWebrtc.setChannelProfile(channelProfile)检测浏览器是否支持RTC SDK。aliWebrtc.isSupport().then(re=>{ console.log(re);}).catch(err=>{ console.log(err)})更多...
设备状态相关问题
详细内容，请参见 规则引擎的通信方式。设备状态变更通知的消息会有延迟吗？会。设备上线和主动离线的通知消息，延迟短；设备异常离线（例如断网、断电）后需要时间进行判断，通知消息会有延迟。设备离线通知为什么有延迟？设备基于MQTT...
查询慢日志
数据节点慢日志 数据节点慢日志中统计的命令执行时间仅包含命令在数据节点中的执行时间，不包含数据节点与代理或客户端的通信时间以及命令在单线程队列上的排队延迟等。数据节点慢日志的保留时间为72小时，无数量限制。由于 Tair 性能出色...
查询慢日志
数据节点慢日志 数据节点慢日志中统计的命令执行时间仅包含命令在数据节点中的执行时间，不包含数据节点与代理或客户端的通信时间以及命令在单线程队列上的排队延迟等。数据节点慢日志的保留时间为72小时，无数量限制。由于 Redis 性能出色...
使用慢日志排查超时问题
慢日志类型 说明 相关参数 数据节点慢日志 数据节点慢日志中统计的命令执行时间仅包含命令在数据节点中的执行时间，不包含数据节点与代理或客户端的通信时间以及命令在单线程队列上的排队延迟等。数据节点慢日志的保留时间为72小时，无数量...
使用慢日志排查超时问题
数据节点慢日志 数据节点慢日志中统计的命令执行时间仅包含命令在数据节点中的执行时间，不包含数据节点与代理或客户端的通信时间以及命令在单线程队列上的排队延迟等。数据节点慢日志的保留时间为72小时，无数量限制。由于 Redis 性能出色...
网络资源
网络资源还需要提供高带宽、低延迟和稳定的网络连接，以确保节点之间的通信和数据传输的效率和可靠性。网络资源是流量入口和数据交互的基础设施，常见的网络资源风险点如下：网络带宽不足 指网络连接的带宽无法满足系统或应用程序的需求，...
应用场景
音乐教学 针对音乐教学和陪练场景定制优化的实时音视频通信服务，满足乐器、人声的高清音质追求，同时保证音画超低延迟传输。家长能够同时进入课程房间实时互动，或者通过旁路直播隐身观摩，了解孩子的学习情况。支持课程录制、回放并将...
Linux实例网站访问丢包延时高的排查方法
说明：高延迟并不一定完全意味着相应节点存在异常，延迟大也有可能是在数据回包链路中引发的，建议结合反向链路测试一并分析。ICMP策略限速也可能会导致相应节点的延迟陡增，但后续节点通常会恢复正常。如前文链路测试结果示例图所示，第3...
错误码
配置错误 10111 ERROR_OPTIONS_CHANNELPROFILE_RTC 频道模式不是通信模式。10112 ERROR_OPTIONS_LIVE_CANNOT_PUBLISH 观众角色不能推流。10120 ERROR_OPTIONS_AUDIO_ONLY 纯音频模式推流或订阅其他流。10130 ERROR_OPTIONS_ENABLECAMERA ...
Windows实例网络访问丢包延时高的排查方法
阿里云中国内地机房和其他国家或地区有网络通信的专线，为降低通信时候的丢包率，推荐使用 高速通道。若主机掉包和延迟非常高，建议做WinMTR双向测试，即本地到服务器的和服务器到本地的测试。无法远程登录时，请通过 管理终端 进行登录。...
通信时长
通信时长查询功能可以查询指定AppID下通信时长数据。通过阅读本文，您可以了解通信时长的查询方法。操作步骤 登录 音视频通信RTC控制台。在左侧导航栏选择 用量查询>通信时长，进入通信时长查询界面。选择待查询的AppID、区域及时间，单击 ...
基于eRDMA增强型实例部署AI训练集群
在NCCL底层通信链接上，有多种不同的传输方式，例如单机内部多卡P2P通信以及多机上的传统socket通信（如VPC网络）和高性能的InfiniBand（IB）通信，其中eRDMA是一种基于RDMA的传输方式，具有极低的延迟，并且在性能上接近RDMA网络的优势。...
通信时长
通信时长查询功能可以查询指定AppID下通信时长数据。通过阅读本文，您可以了解通信时长的查询方法。操作步骤 登录 音视频通信RTC控制台。在左侧导航栏选择 用量查询>通信时长，进入通信时长查询界面。选择待查询的AppID、区域及时间区域，...
通信监测
通信监测功能可以查询指定AppID下全链路通话数据（包含通信质量和频道数据）。通过阅读本文，您可以了解通信监测的查询方法和通信监测作用。操作步骤 登录 音视频通信RTC控制台。在左侧导航栏选择 观星台>通信监测，进入通信监测界面。选择...
通信监测
通信监测功能可以查询指定AppID下全链路通话数据（包含通信质量和频道数据）。通过阅读本文，您可以了解通信监测的查询方法。操作步骤 登录 音视频通信RTC控制台。在左侧导航栏选择 观星台>通信监测，进入通信监测界面。选择待查询的AppID...
控制台介绍
音视频通信控制台提供了观星台、用量查询、统计分析、应用管理、接入工具、配置管理、服务授权管理的配置与使用。通过阅读本文，您可以了解控制台概览及各功能的简介。操作步骤 登录 音视频通信RTC控制台。查看控制台概览。功能区名称 说明...
概览
功能区名称 说明 昨日用量 昨日音视频通信服务使用的总时长、日活跃用户数、并发频道峰值和并发通信峰值。通信时长趋势 最近七日通信时长的趋势图。使用指南 一些常见问题及使用说明的文档链接。资源包 音视频通信时长包（国内版）购买入口...
应用管理
操作列由用量监控、通信记录、查询AppKey及更多功能组成，如下所示：功能 描述 用量监控 查询该应用下不同音视频规格的通信时长，具体操作，请参见 通信时长。通信记录 查询该应用下全链路通话数据（包含通信质量和频道数据），具体操作，...
- 产品推荐
- 这些文档可能帮助您