产品计费
发起模型部署（大模型独占实例）时，一般会有几种状态，分别代表什么意思？状态 操作 计费情况 部署中 查看 此状态不计费 运行中 查看、扩缩容、下线 此状态 持续计费，点击下线后部署任务消失，停止计费 欠费停服 查看、删除 此状态不计费...
概念解释
模型调优 预置模型 预置模型为未经过任何训练的原始模型，您可以通过选择基础模型进行训练从而得到自创模型，不同的基础模型的参数和能力不同，我们将持续推出不同能力方向的模型。自定义模型 自订阅模型是基于您训练过的模型进行再次训练...
连接保持
PolarDB 新增支持连接保持功能，避免由于一些运维操作（如升级配置、主备切换或升级小版本等）或非运维操作故障（如节点所在服务器故障）导致的连接闪断或新建连接短暂失败的问题，进一步提高 PolarDB 的高可用性。前提条件 PolarDB 数据库...
基本概念
大模型会基于 prompt 所提供的信息，生成对应的文本或者图片。Prompt模板 您可以通过设计不同Prompt模板来满足垂直场景需求，而无需每次拼接完整Prompt。Prompt优化 对Prompt语料进行内容质量和结构上的优化，便于获得更符合期望的大模型...
模型训练最佳实践
创建新模型训练任务需要选择模型类型，平台支持两种模型类型，如果第一次训练模型，一般选择预置模型，如果希望基于已训练的模型进行再次训练，则可选择自定义模型，定义如下：预置模型 预置模型为未经过任何训练的原始模型，您可以通过...
如何定义Manifest
什么是Manifest Manifest的概念来源于gpt plugin，gpt plugin中Manifest是一个文件，文件存储对于一个插件的所有描述，包括插件相关的API出入参、插件作用等关键信息，大模型会根据Manifest的信息知晓当前的插件可以完成什么（What），什么...
自定义召回模型
模型服务同PAI-EAS功能，用户在模型训练平台完成模型训练并且将模型存储到OSS以后，可以进入模型服务完成模型部署相关操作。点击左侧的模型上传部署按钮，右侧会弹窗出现配置页。Processor选择TensorFlow1.12，资源类型按需选择，模型文件...
快速开始
以下是四个常见的大模型应用场景：直接调用模型 模型训练 创建智能体API 创建RAG应用 直接调用模型 模型体验中心 您可以单击左侧边栏的 模型中心-模型服务-模型体验中心，选择1-3个模型进行测试，体验模型的问答效果。模型广场 您可以进入 ...
常见问题
这种是大模型的幻觉问题，当你输入的问题大模型没有知识回答的时候就可能出现。如果在base model上训练后更严重，就是没有训练好，训练效果与训练数据质量、多样性、数据等都有关系。5.我们现在是训练垂直领域的模型，知识都是安全领域的...
故障演练
故障演练就是这个背景下诞生的，沉淀通用的故障场景，以可控成本在线上故障重放，以持续性的演练和回归方式的运营来暴露问题，不断验证和推动系统、工具、流程、人员能力的提升，从而提前发现并修复可避免的重大问题，或通过验证故障发现...
强弱依赖治理概述
如果商品详情页对下游依赖是强依赖，例如当下游依赖 库存、优惠、物流 出现故障的时候，将导致业务流程无法推进，会出现类似如下的说明，严重影响用户体验。如果商品详情页对下游依赖是弱依赖，例如当下游依赖 评价、店铺 等系统出现故障的...
开启热备前后性能对比
对比总览 热备节点（开启热备切换功能）与只读节点的性能差异总览如下：对比维度 热备节点 只读节点 服务能力 提供只读服务，预热会额外占用少量内存。提供只读服务。switchover（主动运维，如小版本升级、规格升降配）TPS跌零5秒左右。TPS...
应用故障自动诊断
如果发现问题，则会在应用总览页面上方闪现一个红色盾牌图标，单击该图标即可弹出故障诊断报告，故障报告上的故障定界和根因分析可以帮助您更好地发现和解决问题。常见的故障自动诊断场景 RT突增 下游业务导致的本应用的RT突增，您可以联系...
部署Stable Diffusion应用FAQ
本文介绍使用函数计算部署Stable Diffusion应用过程中可能遇到的问题以及解决方案。应用启动失败怎么办？生成图片时进程卡住怎么办？为什么无法在线安装插件？如何访问Stable Diffusion的API？使用Stable Diffusion应用如何计费？除了默认...
Stable Diffusion AIACC加速版部署文档
SDXL base模型 sd_xl_refiner_1.0_0.9vae.safetensors：SDXL refiner模型 v1-5-pruned-emaonly.safetensors：Stable Diffusion 1.5模型 v2-1_768-ema-pruned-fp16.safetensors：Stable Diffusion 2.1模型 我们可以根据输入文字以及生成图片...
语音识别问题排查
本文为您介绍语音识别中出现问题的排查步骤及解决方案。排查步骤 使用cooledit或者Adobe Audition软件查看语音格式，播放试听并查看分轨情况、波形、能量和频谱图。ASR识别标准格式：8KHz或16KHz采样率、16bit采样位数、单声道的语音数据...
AICS实现对SISO非积分对象的稳定控制
CV在跟踪设定值变化时，常常会出现超调的现象。如下图所示，蓝色线是CV，在接近新的设定值时，出现了一些超调，对应的橙色线是MV，可见其变化幅度也较大。实际操作中，希望能平稳地切换操作点，避免超调。为了调节控制效果，我们可以考虑...
产品简介
高性能 针对多个参与方可能出现的高延迟、低带宽问题，产品在通信机制上进行了优化，如采用模型/梯度稀疏化的方案，实现了对大规模、分布式模型训练的可靠支持。针对部分数据异构和算力异构的问题，则采用了 client 模型个性化算法，优化和...
常见问题
本文档重点记录公测及商业化过程中，客户对接过程中提出较多的问题及排查路径，内容将会持续进行迭代更新。问题1：摄像机的拍摄高度应如何选择？答：建议在距离地面1.6米左右。问题2：子场景上传图片有格式要求吗？答：上传的全景图片应为...
Prompt最佳实践
Prompt 工程简介 Prompt（提示词）是一个指令、问题或者语句，能被 用来引导或指示一个语言模型生成特定的文本输出。Prompt是用户与语言模型交互的起始点，它告诉模型用户的意图，并且期望模型能以有意义且相关的方式回应。通过精心设计的...
插件调用详细说明
如果打开搜索，模型会将搜索结果作为prompt，进而“自行判断”是否生成结合搜索结果的文本，默认为false seed int 1234 生成时，随机数的种子，用于控制模型生成的随机性。如果使用相同的种子，每次运行生成的结果都将相同；当需要复现模型...
API详情
模型概览 您可以通过API使用的通义千问系列模型详情如下表所示：模型名称 模型简介 模型输入/输出限制 qwen-turbo 通义千问 超大规模 语言模型，支持中文、英文等不同语言输入。模型支持8k tokens上下文，为了保证正常的使用和输出，API...
API详情
模型概览 您可以通过API使用的通义千问系列模型详情如下表所示：模型名称 模型简介 模型输入/输出限制 qwen-turbo 通义千问 超大规模 语言模型，支持中文、英文等不同语言输入。模型支持8k tokens上下文，为了保证正常的使用和输出，API...
物模型相关问题
本文介绍设备使用物模型通信常见相关问题及解决方法。如何添加物模型功能？设备的物模型属性、事件和服务需要在该设备所属产品下进行添加和配置。您可通过以下方式定义物模型：调用接口 CreateThingModel，为指定产品添加物模型功能。在物...
通义千问
1到10之间的整数，默认为1 batch_size integer 单次传递给模型用以训练的数据（样本）个数，一般单次训练数据个数越大，占用显存会越多，同时单步训练速度会越慢，但是训练效果会越好 2或者4，默认为2 learning_rate float 学习率，决定了...
通义千问
1到10之间的整数，默认为1 batch_size integer 单次传递给模型用以训练的数据（样本）个数，一般单次训练数据个数越大，占用显存会越多，同时单步训练速度会越慢，但是训练效果会越好 2或者4，默认为2 learning_rate float 学习率，决定了...
快速开始
功能介绍 轻量化声音克隆能力，通过真人语音数据训练生成独特的定制语音合成模型，为您的品牌或角色合成清晰自然的声音。定制的语音模型，可应用于数字人音频合成、音视频制作配音、个性化有声书朗读等场景。单击 ModelScope开源社区，查看...
故障复盘
故障复盘规范 故障复盘作为故障体系中的重要一环，整体复盘流程包括故障处理过程、改进分析、故障定责，基于包含标准化的复盘SOP、对应预防action推荐、问责管理机制，全面地回溯线上故障的发生，产出故障复盘报告和改进措施，避免故障重复...
快速开始
功能介绍 轻量化声音克隆能力，通过真人语音数据训练生成独特的定制语音合成模型，为您的品牌或角色合成清晰自然的声音。定制的语音模型，可应用于数字人音频合成、音视频制作配音、个性化有声书朗读等场景。单击 ModelScope开源社区，查看...
什么是Topic
说明 定义产品Topic类后，需要设备主动订阅具有 订阅 权限的Topic，相应Topic才会出现在设备详情页的 Topic列表 页签。设备订阅Topic的操作，请参见 使用Topic通信。设备Topic。添加设备后，产品的所有 自定义Topic类 会自动映射到设备上，...
热搜和底纹
温馨提示 目前热搜与底纹算法模型需要通过统计历史搜索请求中设为 raw_query 的查询词来进行训练，若历史搜索请求没有出现过raw_query，模型可能会创建失败。独立query：训练晋升条件中的raw_query是搜索请求时需要携带的参数，并且要求是...
使用Topic通信
定义Topic后，设备可以通过Topic与物联网平台通信，从而实现设备、物联网平台、业务服务器、其他云产品之间的通信。前提条件 使用物模型Topic通信，需要先 添加物模型。...常见问题 物模型相关问题 消息通信相关问题 Link SDK运行相关问题
安装并使用DeepGPU-LLM
在处理大语言模型任务中，您可以根据实际业务部署情况，选择在不同环境（例如GPU云服务器环境或Docker环境）下安装推理引擎DeepGPU-LLM，然后通过使用DeepGPU-LLM工具实现大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义...
概述
为什么需要冷启动 通常推荐系统通过协同过滤、矩阵分解或是深度学习模型来生成推荐候选集，这些召回算法一般都依赖于用户-物品行为矩阵。在真实的推荐系统中，会有源源不断的新用户、新物品加入，这些新加入系统的用户和物品由于缺乏足够...
iOS集成
目前离线活体检测SDK携带了算法模型，这些算法模型会占用较大的包体积，为了对包体积进行优化，我们提供了模型动态下载的能力，使用该能力需要具备以下前提条件：License非永久授权。您的终端用户手机设备支持联网，且网络环境良好（不建议...
使用快速开始零代码部署微调Llama2系列大模型
如果您希望以零代码的方式在PAI上完成Llama2系列大语言模型的训练和推理，您可以使用快速开始的一键部署，快速启动Llama2系列模型的在线推理服务，并通过WebUI和API两种方式调用，或者使用自己的数据集对预训练模型进行微调训练，实现定制...
常见问题
一般性常见问题 什么是 表格存储？表格存储 面向海量结构化数据提供Serverless表存储服务，同时针对物联网场景深度优化提供一站式的IoTstore解决方案。适用于海量账单、IM消息、物联网、车联网、风控、推荐等场景中的结构化数据存储，提供...
录音指导
高质量的录音数据对于模型训练至关重要，本篇文章将从日常环境选择、录音设备、录制过程、常见问题等方面提供建议和指导，希望您能通过学习和实践能够录制出非专业环境下高质量的音频数据。重要 录制高质量的音频有一定的门槛，掌握录制...
录音指导
高质量的录音数据对于模型训练至关重要，本篇文章将从日常环境选择、录音设备、录制过程、常见问题等方面提供建议和指导，希望您能通过学习和实践能够录制出非专业环境下高质量的音频数据。重要 录制高质量的音频有一定的门槛，掌握录制...
功能发布记录
优化 接口说明 语音识别通用模型和客服质检问题修复 语音识别16k中文通用模型，改善语音活动检测（Voice Activity Detectio）效果，解决纯静音数据误检出语音的问题。语音识别8k中文客服质检/8k英文客服质检/16k韩语模型：语言模型常规更新...
- 产品推荐
- 这些文档可能帮助您