使用SDK部署TensorFlow模型推理
您可以参考如下命令，使用编译好的可执行程序（demo_cpp_sdk.bin）加载并执行PAI-Blade优化好的示例模型（asr_frozen.pb）。必填，请联系PAI团队获取。export BLADE_REGION=<region>#必填，请联系PAI团队获取。export BLADE_TOKEN=<token>...
使用SDK部署PyTorch模型推理
本文使用已经优化好的示例模型进行演示，通过如下命令即可下载该模型。您也可以使用自己的优化模型，关于如何使用PAI-Blade优化模型，详情请参见 优化PyTorch模型。下载优化好的示例模型。wget ...
ResNet50优化案例：使用Blade优化基于TensorFlow的...
ResNet典型的网络有ResNet26、ResNet50及ResNet101等。使用限制 本文使用的环境需要满足以下版本要求：系统环境：Linux系统中使用Python 3.6及其以上版本、CUDA 10.0。框架：TensorFlow 1.15。推理优化工具：Blade 3.17.0及其以上版本。...
语言模型
自定义的语言模型在训练时，是在通用模型的基础上进行训练的，通过对您的训练语料做模型训练，可以有效提高您的特有场景的语音识别准确率，尤其是专有名词和文本中的高频词汇，有较好的优化效果。视频讲解 训练语料要求及优化建议 语料要求...
语言模型
自定义的语言模型在训练时，是在通用模型的基础上进行训练的，通过对您的训练语料做模型训练，可以有效提高您的特有场景的语音识别准确率，尤其是专有名词和文本中的高频词汇，有较好的优化效果。训练语料要求及优化建议 语料要求 推荐您...
服务网格落地
该项目最开始使用的版本为 Go 1.9.2，在经过一年迭代之后，蚂蚁团队开始调研当时的最新版 Go 1.12.6，测试验证了新版很多好的优化，也修改了内存回收的默认策略，以便更好地满足项目需求。GC 优化，减少长尾请求：新版的自我抢占（self-...
列式JSONB
查询会带出完整JSONB列 Hologres的列式JSONB方案对于大部分使用场景都有比较好的优化效果，需要注意的是：对于查询结果需要带出完整JSONB列的场景，性能相较于直接存储原始格式的JSONB会有降低，比如以下SQL：建表DDL CREATE TABLE TBL(key...
什么是优化求解器
用于求解复杂的、目标函数不可解析或者约束等不好量化描述的优化问题，如仿真系统，通过获取不同控制参数（输入变量）对应的系统表现，来推断和搜寻优化解。可用于强化学习策略搜索、工业冶炼方案设计、计算资源额度预算优化等。当前仅支持...
Nereids全新优化器
Nereids优化器特点 更智能 Nereids优化器以规则的形式呈现每个基于规则的优化（RBO）和基于成本的优化（CBO）的优化点。对于每一个规则，Nereids优化器都提供了一组用于描述查询计划形状的模式，可以精确匹配可优化的查询计划。因此，...
功能发布记录
新增的网络流法在 Large Network-LP Benchmark 评测性能优秀（查看更多详情介绍）。2021年09月 优化求解器产品开始公测，上线了优化求解器SDK V0.14.0（V0.14.0下载），可求解 线性规划（LP）问题；新手可根据 快速入门（开通和使用）来...
网络计费方式优化-CDT-公网
操作说明 登录“用户中心”，进入“成本管理-成本优化”页，点击“网络计费方式优化-CDT-公网”，可进入购买优化页查看公网流量的优化建议。进入购买优化页后，可查看以下内容：优化建议范围：可在“优化建议范围”部分，查看计费优化对应...
查看优化建议
优化中心的优化建议中，展示了部分租户性能的监控，以及 SQL 可优化的建议。本文介绍如何查看优化建议。背景信息 优化建议可查看近期可优化的 SQL 内容及优化结果，默认展示最近一次优化任务执行成功的结果。发起检查后，优化任务会对查询...
自动SQL优化
数据库自治服务DAS支持自动SQL优化，相比传统的优化方式，能够自动识别问题SQL，生成索引优化建议，并在不引发锁表的情况下自动创建索引。前提条件 目标数据库实例为：RDS MySQL 高可用系列、三节点企业系列、集群系列。PolarDB MySQL版 的...
成本优化
弹性公网IP的网络计费方式优化详情，请参见 网络计费方式优化-CDT-公网。成本优化分析 在底部列表中，可点击查看资源使用水位分析报告，以及云原生场景下的集群成本分析与优化。说明 查看并创建资源使用水位分析报告，请参见 资源使用优化-...
性能优化指导原则
OSS利用全球分布的云机房，将全球各地用户对您存储空间的访问，经过智能路由解析至就近的接入点，并使用优化后的网络及协议来访问您的存储空间，可实现超远距离的快速、安全的文件传输。详情请参见 传输加速。您可以使用 OSS互联网连通与...
计费方式优化-节省计划
如果有相比测算结果有更好的节省方案，将会出现“更优推荐”页签，可查看更节省的优化建议内容。在图形中，您可以切换查看优化前和优化后的效果，以及各金额的构成。系统会基于智能算法给出节省计划的购买水位，通常情况下节省计划的水位...
常用错误码ErrorCode
检查NODE节点数设置-9004 连续未能发现更优解的节点数超过限制 求解失败，检查问题模型，或联系我们-9011 您选择的优化算法当前不支持 检查求解方法设置、License授权范围，检查新版本，或联系我们-9012 求解器不支持求解输入的问题 检查...
自动SQL优化
数据库自治服务DAS支持自动SQL优化，相比传统的优化方式，能够自动识别问题SQL，生成索引优化建议，并在不引发锁表的情况下自动创建索引。前提条件 实例为如下版本：RDS MySQL 8.0 高可用系列或集群系列 RDS MySQL 5.7 高可用系列或集群...
Android SDK更新记录
2023年07月 操作系统/语言 版本号 发布时间 更新说明 Android 2.1.5 2023-07-21 新增域名黑白名单功能 2023年03月 操作系统/语言 版本号 发布时间 更新说明 Android 2.1.3 2023-03-03 优化网络连接复用 2023年02月 操作系统/语言 版本号 ...
Dynamic Shape优化案例：使用Blade优化输入为Dynamic ...
在实际生产中，输入为Dynamic Shape的模型越来越多，因此对不同输入Shape的推理过程具有强烈的优化需求。本文介绍如何使用Blade优化输入为Dynamic Shape的模型。使用限制 本文使用的环境需要满足以下版本要求：系统环境：Linux系统中使用...
RAM鉴权
可授权的优化求解器资源类型 在进行RAM子账号授权时，优化求解器资源的描述方式如下：资源类型 授权策略中的资源描述方法 MPLicense acs:opt:{#regionId}:{#accountId}:mplicense/{#LicenseKey} acs:opt:{#regionId}:{#accountId}:...
SQL Review
单击 操作 列的 优化，进入 SQL诊断优化 页，查看优化后的 SQL、执行计划 和 诊断结果。若您采纳诊断建议，单击 SQL诊断优化 页右上角的 复制，并将优化后的SQL粘贴到数据库客户端或DMS上执行，若不采纳诊断建议，可直接单击 取消 结束诊断...
Cost-based SQL诊断引擎
开发者通常对于前面两个层面的优化比较熟悉，对于第三个即SQL层面的优化会有些生疏，甚至会因由谁（数据库管理员或应用开发者）来负责而产生争论，但SQL优化是整个数据库优化中非常关键的一环，线上SQL性能问题不仅会给业务带来执行效率上...
什么是计算优化编译器AIACC-AGSpeed
在AGSpeed编译器后端，如果存在Dynamic Tensor Shape，会导致TorchScript重新specialize graph，并重新执行所有的优化Pass。另外，NvFuser后端也有可能会为新的Tensor Shape重新编译新的kernel，这些都会对性能产生较大影响。建议 使用 ...
优化PyTorch模型
优化过程中，您可以看到如下类似的优化进度。[Progress]5%,phase:user_test_data_validation.[Progress]10%,phase:test_data_deduction.[Progress]15%,phase:CombinedSwitch_4.[Progress]95%,phase:model_collecting.打印优化报告。print(...
SQL优化技术
问题风险 考虑两个重要的时间点，如下图所示，一个简单的慢SQL趋势，T1代表我们发现数据库实例性能异常的时间点，从此刻开始着手慢SQL的优化，T2是优化过程完毕时间点，实例恢复常态。在传统的优化处理中，这一过程一般完全依赖人力驱动，...
使用ECI类型伸缩组的成本优化功能
阿里云弹性伸缩支持创建ECI类型的伸缩组，为了方便且低成本地通过弹性容器实例（ECI）管理部署应用，您可以通过阿里云弹性伸缩的成本优化功能实现应用的自动扩缩容。本文介绍如何使用ECI类型伸缩组的成本优化功能以及成本优化功能的实现...
RetinaNet优化案例1：使用Blade优化RetinaNet...
RetinaNet是一种One-Stage RCNN类型的检测网络，基本结构由一个Backbone、多个子网及NMS后处理组成。许多训练框架中均实现了RetinaNet，典型的框架有Detectron2。本文以Detectron2的标准RetinaNet实现为例，介绍如何使用Blade优化RetinaNet...
SQL优化
在 慢日志分析 页面：在 慢日志统计 页签，单击目标SQL模板右侧 操作 列的 优化。在 慢日志明细 页签，单击目标SQL右侧 操作 列的 优化。在弹出的 SQL诊断优化 对话框中，查看SQL诊断结果。若您采纳诊断建议，单击页面右上角的 复制，并将...
查看性能优化建议
资源管家可以根据ECS实例的CPU使用率和MEM利用率，提供性能优化建议。本文介绍如何对已有ECS资源进行性能优化。背景信息 性能优化主要针对资源不足的ECS实例，即该ECS实例在过去14天内，累计2天及以上每分钟的CPU使用率或MEM利用率高于85%...
HTAP中的行列混存查询优化
列存索引查询优化 行存Plan优化及其限制 MySQL的优化器有一套清晰的优化流程，其查询优化流程如下：应用一些基于规则的优化，规则通常会让plan变得更优，不涉及代价计算。将部分outer join转换为inner join。等值推导。如 c1=5 and c1=c2 ...
自动SQL优化
数据库自治服务DAS...后续步骤 您可以在 自治中心 页面，查看选定时间范围内发生过的 优化事件。单击目标事件的 详情，您可在 慢SQL诊断（诊断优化）的 根因分析和建议 页签里查看 问题SQL、SQL优化、索引推荐 和 语句优化 的详细信息。
什么是AI分布式训练通信优化库AIACC-ACSpeed
Bucket-Tuning：ACSpeed默认开启Bucket-Tuning，可以对梯度的融合进行自适应调优，提高计算和通信的overlapping性能的优化上限，但需要更长的warmup_steps（大约950 steps左右）。目前支持torch 1.8~1.13版本。说明 如果需要关闭Bucket-...
使用操作系统Alibaba Cloud Linux 2（停止维护）
ACK目前已经全面支持Alibaba Cloud Linux 2的节点创建，并结合Alibaba Cloud Linux 2的高内核特性提供了多场景的优化。本文介绍ACK中使用Alibaba Cloud Linux 2操作系统的优势，及ACK基于Alibaba Cloud Linux 2提供的多场景优化。重要 ...
成本优化概述
本文介绍了成本优化的流程。MaxCompute的成本优化是一个持续不断的过程。由于大数据的动态性和不断变化的性质，企业用户成本优化的活动应该持续不断的进行。您可以参考以下流程进行优化：在使用MaxCompute之前，建议您详细了解付费策略以及...
优化TensorFlow模型
虽然PAI-Blade支持没有测试数据的优化，即零输入优化，但是基于真实输入数据的优化结果会更加准确有效。因此，建议您提供测试数据。下载待优化的模型和测试数据的函数示例如下所示。def_wget_demo_tgz():#下载一个公开的resnet50模型。url=...
优化报告
调用 blade.optimize 优化模型后，会产生一个JSON格式的优化报告，其结构如下所示。Report:{/软件环境，包括框架、CUDA等。software_context":[{"software":"tensorflow","version":"1.15.0"},{"software":"cuda","version":"9.0.176"}],/...
专项巡检-成本优化
本文介绍如何使用智能顾问（Advisor）的专项巡检-成本优化功能，对云产品可优化的成本空间进行巡检。成本优化巡检发起 功能入口：“专项巡检->成本优化”成本优化巡检需要您手动发起巡检任务（首次进入时无数据），点击左上角“立即巡检”...
优化器
AnalyticDB PostgreSQL版 针对HTAP场景进行了不同的优化，极大地提升了数据库性能。MagicSet下推 MagicSet下推是适用于OLAP的一个高效的优化器改写规则，其利用MagicSet提供的filtering能力，降低在大表上聚合的代价，并降低同聚合结果join...
RetinaNet优化案例2：结合Blade和Custom C++ Operator...
背景信息 RetinaNet是一种One-Stage RCNN类型的检测网络，基本结构由一个Backbone、多个子网及NMS后处理组成。许多训练框架中均实现了RetinaNet，典型的框架有Detectron2。上一篇中介绍了如何通过 scripting_with_instances 方式导出...
- 产品推荐
- 这些文档可能帮助您