大模型技术服务内容说明

更新时间:

1. 服务概述

1.1 服务说明

大模型应用咨询服务:

根据客户的业务诉求,基于大模型的相关应用的规划设计、咨询及相关项目管理服务,包含AI应用调优、模型训练咨询指导、工程部署指导和算力类产品使用指导培训等咨询服务。

大模型工程技术服务:

提供大模型整体模型工程应用、效果优化、模型训练及微调、模型实施部署的整体技术服务,覆盖从场景设计、数据和素材整理准备、产品部署培训、算法算力平台使用、测试和应用推广全过程。

2. 服务范围

2.1 大模型应用咨询服务范围

服务范围包含

大模型技术咨询服务:根据客户的业务诉求,基于大模型的相关应用场景进行整体规划设计、咨询及相关项目过程管理服务。

提供算力类产品的部署使用及评测服务。

服务范围不包含

  • 客户系统的代码开发。

  • 第三方软件的安装、测试、故障诊断、优化等日常运维服务。

注:对于不在云上稳定性保障服务(架构优化)范围内的第三方软件问题,客户可登录阿里云社区获取免费咨询,或联系云市场商家寻求帮助。

2.2 大模型工程技术服务范围

服务范围包含

  • 根据客户的业务诉求,基于大模型的相关应用场景进行整体规划设计和咨询类服务。

  • 基于公共云的大模型技术实施服务,包含数据准备、模型效果优化(含提示词工程优化实施、SFT实施)、大模型工程实施(含RAG工程设计与实施、Agent设计与实施)、集成指导、培训等,帮助客户快速启动大模型应用和在业务中应用大模型的产品技术能力。

  • 基于阿里云模型能力及工程提供对应的AI应用和优化服务,包含对应的效果呈现。

  • 提供上述过程的项目管理服务。

服务范围不包含

  • 客户业务系统的代码开发。

  • 第三方软件的安装、测试、故障诊断、优化等日常运维服务。

注:对于不在云上稳定性保障服务(架构优化)范围内的第三方软件问题,客户可登录阿里云社区获取免费咨询,或联系云市场商家寻求帮助。

3. 前提条件

  • 客户应提前至少15个自然日申请该服务,以便于阿里云评估客户业务目标及时间计划可行,确认是否承接该服务申请。

  • 如客户的申请涉及大批量资源需求,建议客户提前一个月申请,具体视供应链评估情况协商。

  • 客户应在阿里云承接服务后,提供场地、设备、必要的非生产环境及远程访问通道、权限、明确的业务目标,协助阿里云开展服务。

  • 客户应审核阿里云制定的项目实施计划,以书面形式(包括但不限于电子邮件)确认阿里云提供的具体实施计划。客户如无正当技术理由,不得否定双方已确认的技术建议或方案,以确保及时实现本服务目的。

  • 按双方协商约定时间执行具体的业务场景设计方案和技术实施方案。

3.1 分工边界

3.1.1 客户与阿里云

  • 客户购买大模型技术服务,经过阿里云审核及交流后确认服务成立。

  • 针对该服务的业务目标,双方商定并确认具体业务目标及范围。

3.1.2 客户

  • 客户指定一名具备合适技能和经验的项目经理作为与阿里云沟通的主要联系人,代表客户直接负责项目实施的计划、协调、监督与控制以及升级问题与风险,同时全权代表客户在本项目的各个方面做出决策。

  • 根据项目情况,由甲方项目经理协调各方资源,并和乙方一同讨论并圈定确定业务目标(如完成哪些大模型业务场景设计和技术实施)。

  • 提供场地、设备、必要的非生产环境及远程访问通道、权限等,配合阿里云开展服务。

  • 配合阿里云调研系统现有问题,参与具体的计划实施,如业务架构,技术架构等。

  • 审核阿里云制定的实施计划,并以书面或邮件方式确认阿里云提出的具体实施计划。客户无正当技术理由,不得否定阿里云提供的技术建议或方案。

  • 对乙方提供大模型业务场景设计方案和技术实施方案进行审核;如购买大模型应用咨询服务,则由甲方进行大模型业务方案和技术方案的实施。如购买了大模型工程技术服务,则按照项目分工约定进行实施,乙方不负责甲方现有业务应用系统的改造及优化。

  • 乙方作为运维主体,负责相关运维工作。

  • 授权阿里云针对安全事件进行7x24小时监控和分析。

3.1.3 阿里云

  • 指派一名有经验的项目经理执行项目管理,并引入、管理乙方项目组人员,与甲方项目经理沟通。

  • 了解客户业务目标、范围,制定实施计划, 并获得客户的书面(包括但不限于电子邮件)确认。

  • 提供本工作说明书规定的各项服务目录,如业务场景设计范围,提供可行方案。

3.1.4 完工标准

  • 提交《大模型技术咨询服务验收报告》,内容包括:场景现状和需求分析、基础设施现状调研、大模型场景设计方案。

  • 提交《大模型工程技术服务验收报告》,内容包括:对客户业务场景现状和需求分析、基础设施现状调研、大模型场景设计方案。基于公共云的大模型技术实施服务,包含数据准备、工程效果优化、集成指导、培训等,帮助客户快速启动大模型应用和在业务中应用大模型的产品技术能力。

3.2 大模型应用咨询服务项

服务内容:阿里云针对客户的业务目标,包含以下服务:

服务项

服务说明

场景需求调研

1.对客户的需求进行调研,确认客户业务痛点和大模型需求。

2.同步对现有的素材、知识库和数据情况进行确认。

基础设施调研

1.对基础设施,包含计算资源、网络情况、技术和产品架构等进行确认

2.明确企业知识库、数据库、应用API等场景需求素材来源端技术情况调研。

业务场景方案设计

1.对场景的端到端解决方案进行设计。 2.交付端产品设计方案。

3.3 大模型工程技术服务项

服务内容:阿里云针对客户的业务目标,包含以下服务:

服务项

服务说明

场景需求调研

1.对客户的需求进行调研,确认客户业务痛点和大模型需求。

2.同步对现有的素材、知识库和数据情况进行确认。

基础设施调研

1.对基础设施,包含计算资源、网络情况、技术和产品架构等进行确认。

2.明确企业知识库、数据库、应用API等场景需求素材来源端技术情况调研。

业务场景方案设计

1.对场景的端到端解决方案进行设计。

2.交付端产品设计方案。

技术实现架构设计

基于场景需求完成技术架构方案设计,确认大模型的实施技术架构。

数据和知识库准备

整理大模型所需的数据(知识库)并形成清单,进行数据和素材准备工作。

大模型工程实施

1.按照技术架构方案,完成RAG工程实施。

2.按照技术架构方案,完成Agent工程实施。

效果优化工程

1.大模型工程部署相关工作支持和链路测试。

2.进行工程化调优工作,包含提示词优化、SFT等。

3.最终效果呈现与验证。

试运行支持

试运行情况跟踪和相关汇报工作。

4. 服务SLA

4.1 大模型应用咨询服务SLA

提供云上大模型技术咨询服务技术经理。

提供《大模型技术咨询服务工作计划书》及《大模型技术咨询服务验收报告》。

4.2 大模型工程技术服务SLA

提供云上大模型技术实施服务技术经理。

提供《大模型工程技术服务工作计划书》及《大模型技术实施服务验收报告》。

5. 服务流程

5.1 大模型应用咨询服务流程

申请时间限制:客户须至少应于大模型应用咨询服务开始日之前提前15个自然日提出申请。

image

5.2 大模型工程技术服务流程

申请时间限制:客户须至少应于大模型工程技术服务开始日之前提前15个自然日提出申请。

image

6. 验收标准

6.1 大模型应用咨询服务验收标准

阿里云提供以下交付物,视为服务验收合格:

  • 1.阿里云交付《大模型技术咨询服务工作计划书》及《大模型业务场景设计方案》,并获得客户书面确认(含电子邮件形式)。

  • 《大模型技术咨询服务工作计划书》及《大模型业务场景设计方案》,内容包括:

    • 服务开始之前,阿里云对对客户的需求进行调研,确认客户业务痛点和大模型需求。

    • 基于客户的业务特性和业务需求,阿里云就客户业务提供大模型业务场景设计建议。

6.2 大模型工程技术服务验收标准

阿里云提供以下交付物,视为服务验收合格:

  • 阿里云交付《大模型技术实施服务工作计划书》及《大模型业务场景设计方案》、《大模型技术架构方案》并获得客户书面确认(含电子邮件形式)。

  • 《大模型业务场景设计方案》和《大模型技术实施方案》。内容包括:

    • 服务开始之前,阿里云对对客户的需求进行调研,确认客户业务痛点和大模型需求。

    • 基于客户的业务特性和业务需求,阿里云就客户业务提供大模型业务场景设计建议。

    • 基于场景需求完成技术架构方案设计,确认大模型的实施技术架构。

    • 整理大模型所需的数据(知识库)并形成清单,进行数据和素材准备工作。

    • 结合技术架构方案,进行工程实施(Rag实施、Agent实施)和效果调优(提示词调优、按需SFT等)。

    • 工程服务部署及SFT后模型部署相关工作支持和链路集成测试。

7. 完成标志

实施结束并完成客户验收工作。