使用GPU拓扑感知调度（Tensorflow版）
ACK基于Scheduling Framework机制，实现GPU拓扑感知调度，即在节点的GPU组合中选择具有最优训练速度的组合。本文介绍如何使用GPU拓扑感知调度来提升TensorFlow分布式训练的训练速度。前提条件 已创建ACK Pro集群，且集群的实例规格类型选择...
使用GPU拓扑感知调度（Pytorch版）
ACK基于Scheduling Framework机制，实现GPU拓扑感知调度，即在节点的GPU组合中选择具有最优训练速度的组合。本文介绍如何使用GPU拓扑感知调度来提升PyTorch分布式训练的训练速度。前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 ...
姜子牙通用大模型
Ziya-LLaMA通用大模型是由IDEA研究院出品的大...目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。开发者可以通过以下链接，了解如何通过大模型服务平台调用Ziya-LLaMA API。快速使用 API详情
姜子牙通用大模型
Ziya-LLaMA通用大模型是由IDEA研究院...目前Ziya-LLaMA通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。开发者可以通过以下链接，了解如何通过DashScope灵积模型服务调用Ziya-LLaMA API。快速使用 API详情
Mixtral-8x7B稀疏大模型最佳实践
本方案旨在帮助大模型开发者快速上手灵骏智算平台，实现稀疏大语言模型Mixtral的高效分布式训练、三阶段指令微调、模型离线推理和在线服务部署等完整的开发流程。以Mixtral-8x7B模型为例，为您详细介绍该方案的开发流程。前提条件 本方案以...
通义千问Qwen全托管灵骏最佳实践
本方案旨在帮助大模型开发者快速上手灵骏智算平台，实现大语言模型（Qwen-7B、Qwen-14B和Qwen-72B）的高效分布式训练、三阶段指令微调、模型离线推理和在线服务部署等完整的开发流程。以Qwen-7B模型为例，为您详细介绍该方案的开发流程。...
训练加速（Pai-Megatron-Patch）概述
背景信息 Pai-Megatron-Patch工具是阿里云机器学习平台PAI算法团队研发，基于阿里云智算服务PAI-灵骏平台的大模型最佳实践解决方案配套工具，旨在帮助大模型开发者快速上手灵骏产品，完成大语言模型（LLM）的高效分布式训练，有监督指令...
基于抢占式实例的弹性训练
为降低使用AI模型训练成本，云原生AI套件推出基于抢占式实例的弹性训练解决方案，该方案可以将AI模型训练这种有状态类型的工作负载运行在抢占式实例上，几乎可以做到在不影响训练作业成功率的情况下降低训练成本。优势与限制 基于抢占式...
模型效果评测
语音识别检测，可以直观的看到指定语音模型语音转文字的识别准确率，通过人工校验得到正确的文本标注结果，用来训练您的自定义模型；通过对比可以看到每次优化后的准确率提升情况，从而让您十分高效的提升语音转文字的识别准确率。提升识别...
模型效果评测
语音识别检测，可以直观的看到指定语音模型语音转文字的识别准确率，通过人工校验得到正确的文本标注结果，用来训练您的自定义模型；通过型对比可以看到每次优化后的准确率提升情况，从而让您十分高效的提升语音转文字的识别准确率。提升...
使用AIACC-Training PyTorch版
自PyTorch 1.x发布迭代后，使用PyTorch原生自带的DDP进行分布式训练逐渐形成了主流。本文为您介绍如何使用AIACC-Training，对基于PyTorch框架搭建的模型进行分布式训练加速的方法，以及可能遇到的问题和解决办法。适配PyTorch DDP API...
GPU计算型
例如图像分类、无人驾驶、语音识别等人工智能算法的训练应用 高GPU负载的科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等 重要 在使用高通信负载的AI训练业务如Transformer等模型时，务必启用NVLink进行GPU间的数据通信...
常见问题
每次迭代好新的数据，最好把所有的最新数据放一起，从基础模型开始训练，不建议从之前SFT的模型开始训练（百炼支持的这种模型，更多是考虑训练成本，基于每次训练好的模型使用增量数据训练，比全量数据训练更快，但效果没那么好）。...
集群规格选型
云盘本身有副本冗余，完全屏蔽了硬件细节，不会因为坏盘等原因丢失数据。并且可以自由扩容，是业务的首选存储介质。云盘分为SSD云盘和高效云盘。本地盘：本地盘即真实的物理盘，特点是价格比云盘便宜，但是本地盘大小与机型强绑定，不能对...
EAS部署ChatGLM&Langchain
经过约1T Token的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62亿参数的ChatGLM-6B已经能生成相当符合人类偏好的回答。LangChain是一个开源框架，可以让AI开发人员把大型语言模型（LLM）和外部数据结合起来，让...
隔离损坏的本地盘
背景信息 隔离损坏的本地盘仅支持大数据型实例，隔离损坏的本地盘系统事件包括以下事件：本地磁盘出现损坏告警（Disk:ErrorDetected）因系统维护隔离坏盘（SystemMaintenance.IsolateErrorDisk）因系统维护重启实例并隔离坏盘...
模型训练
文本关系抽取-模型训练。完成了数据集的构建，就可以开始模型的训练了。回到创建的项目，切换至“模型中心”并点击“创建模型”。进入创建模型后，通过自学习平台，您无需关心任何模型的实现细节，只要选择相应的模型就可以开始训练。首先...
Quick BI智能小Q使用注意事项
详细信息 智能小Q“配置更新”表示已经成功发往算法训练平台训练了，大约需要20分钟时间训练模型。更新代表问答机器人在训练模型，必须更新完成且成功才能正常问答。智能小Q中问答的字段（度量，维度）需要是数据集中的字段，如果不是需要...
基于ACCL优化套件进行多机训练
本文以BERT-Large模型为例，介绍如何使用ACCL优化套件进行PyTorch分布式训练。前提条件 可以访问灵骏节点并拥有管理员权限。已安装和配置GPU驱动、RDMA驱动和Docker CE。步骤一：准备容器镜像 本文推荐的镜像为 registry....
组件参考：所有组件汇总
组件类型 组件 描述 自定义组件 自定义组件 支持在AI资产管理中创建自定义组件，自定义组件创建成功后，您可以在Designer中将该组件与官方组件串联使用进行模型训练。源/目标 读OSS数据 该组件用来读取对象存储OSS Bucket路径下的文件或...
模型训练
完成了数据集的构建，就可以开始模型的训练了。回到创建的项目，切换至“模型中心”并点击“创建模型”。进入创建模型后，通过自学习平台，您无需关心任何模型的实现细节，只要选择相应的模型就可以开始训练。首先请填入模型的名称。在模型...
模型管理
已经有训练完成的任务。具体操作，请参见 提交Tensorflow训练任务和定时任务。操作步骤 登录开发控制台。具体操作，请参见 步骤二：登录开发控制台。在AI开发控制台的左侧导航栏中，单击 模型管理。单击 模型管理 页面的 创建模型。在 创建...
PAI端到端文字识别训练
PAI-EasyVision提供端到端文字识别模型的训练及预测功能，本文为您介绍如何通过PAI命令进行端到端文字识别模型训练。PAI-EasyVision对配置进行了简化，您通过-Dparam_config 即可配置常用参数，无需了解PAI-EasyVision的配置文件规则和逻辑...
图像检测训练（easycv）
无 预训练模型oss路径 否 如果有自己的预训练模型，则将该参数配置为自己预训练模型的OSS路径。如果没有配置该参数，则使用PAI提供的默认预训练模型。无 训练数据oss路径 是 仅当数据源格式为 COCO格式 时候，才会显示填写此单元格，此处...
应用案例
它就是在分类之前通过目视判读和野外调查，对遥感图像上某些样区中影像地物的类别属性有了先验知识，对每一种类别选取一定数量的训练样本，计算机计算每种训练样区的统计或其他信息，同时用这些种子类别对判决函数进行训练，使其符合于对各...
准备工作
为了方便您快速提交训练任务，您需要在创建训练任务前准备好所需的资源，并配置好可能需要使用的镜像、数据集和代码集。PAI支持添加文件系统NAS、CPFS或对象存储OSS类型的数据集以及Git代码集。本文介绍提交训练任务前所需的准备工作。前提...
更换集群损坏的本地盘
sudo chmod 000$mount_path 重要 如果不执行取消挂载操作，在坏盘维修完成并恢复隔离后，该本地盘的对应设备名会发生变化，可能导致应用读写错误的磁盘。更新fstab文件。备份已有的/etc/fstab 文件。删除/etc/fstab 文件中对应磁盘的记录。...
语言模型
自定义的语言模型在训练时，是在通用模型的基础上进行训练的，通过对您的训练语料做模型训练，可以有效提高您的特有场景的语音识别准确率，尤其是专有名词和文本中的高频词汇，有较好的优化效果。训练语料要求及优化建议 语料要求 推荐您...
语言模型
自定义的语言模型在训练时，是在通用模型的基础上进行训练的，通过对您的训练语料做模型训练，可以有效提高您的特有场景的语音识别准确率，尤其是专有名词和文本中的高频词汇，有较好的优化效果。视频讲解 训练语料要求及优化建议 语料要求...
模型训练
完成了数据集的构建，就可以开始模型的训练了。回到创建的项目，切换至“模型中心”并点击“创建模型”。进入创建模型后，通过自学习平台，您无需关心任何模型的实现细节，只要选择相应的模型就可以开始训练（当前只有一种默认模型可选，...
模型训练
完成了数据集的构建，就可以开始模型的训练了。回到创建的项目，切换至“模型中心”并点击“创建模型”。进入创建模型后，通过自学习平台，您无需关心任何模型的实现细节，只要选择相应的模型就可以开始训练（当前只有一种默认模型可选，...
安装AIACC-Training
AIACC-Training支持基于主流人工智能（包括PyTorch、TensorFlow、MXNet、Caffe等）搭建的模型进行分布式训练。在接口层面上，目前AIACC-Training兼容了PyTorch DDP以及Horovod的API，对于原生使用上述分布式训练方法的训练代码，可以做到无...
什么是Deepytorch Training（训练加速）
Deepytorch Training是阿里云自研的AI训练加速器，为生成式AI和大模型场景提供训练加速功能。本文主要介绍Deepytorch Training在训练加速上的概念、优势及特性。Deepytorch Training介绍 Deepytorch Training面向生成式AI和大模型场景，...
模型训练管理
每次进行意图模型训练均需要通过以建立一个 模型训练任务 的方式来完成，任务创建完成后系统将自动进行模型训练，训练完成后系统将自动创建一个新的模型，将生成的新模型进行对应场景绑定即可使更新后的模型生效。说明 每次发起模型训练时...
特征离散
支持基于Gini增益离散和基于熵增益离散等有监督离散。说明 标签类特征离散必须是枚举类型STRING或BIGINT类型。有监督离散是根据熵增益不断遍历寻找切分断点，运行时间可能比较久。切分得到的分区数不受指定的maxBins参数限制。参数配置 您...
快速开始
Llama 2系列使用了2T token进行训练，相比于LLama多出40%，上下文长度从LLama的2048升级到4096，可以理解更长的文本，在多个公开基准测试上超过了已有的开源模型。采用了高质量的数据进行微调和基于人工反馈的强化学习训练，具有较高的可靠...
快速开始
Llama 2系列使用了2T token进行训练，相比于LLama多出40%，上下文长度从LLama的2048升级到4096，可以理解更长的文本，在多个公开基准测试上超过了已有的开源模型。采用了高质量的数据进行微调和基于人工反馈的强化学习训练，具有较高的可靠...
数据埋点指南
本文通过新闻行业举例说明，智能推荐适合什么样的场景，需要怎么样的埋点数据进行模型训练。使用业务场景 以智能推荐的 猜你喜欢、新闻行业 为例，适用于首页的feed流推荐，以优化用户的点击率为主。如下图所示：目的为通过终端用户的浏览...
模型评测
通过模型评测，来检验训练出来的模型是否能够给出自己所期望的结果。完成模型部署后，如需测试模型的效果，可在模型评测中进行评测，模型评测需要首先构建评测的数据集，构建方法类似于训练集的构建，数据格式同样是问答Pair对，对于Prompt...
TFRecord数据转换
ssl labeling format：平台定义的图片自监督训练所需格式。STRING pai labeling format(old version)seperator 否 分隔符，用于标记内容的Split。STRING None，即不指定该参数 image_format 否 TFRecord中图片的编码方式。常用图像编码方式...
- 产品推荐
- 这些文档可能帮助您