文档

大模型技术服务内容说明

更新时间:
一键部署

1. 服务概述

1.1 服务说明

  • 大模型应用咨询服务

    • 根据客户的业务诉求,围绕大模型的相关应用场景进行整体需求调研及技术方案设计。

    • 结合场景需求进行效果评测及工程技术链路设计及验证。

    • 基于服务范围提供优化及测试咨询。

  • 大模型工程技术服务

    • 围绕大模型标准能力提供场景封装和通用工程化服务。

    • 包含从场景设计、数据准备及清洗、产品使用部署、调优测试和应用封装整体技术链路。

    • 结合通义产品提供知识库、提示词工程优化、Agent智能体应用服务,并提供效果调优服务。

2. 服务范围

2.1 大模型应用咨询服务范围

服务范围包含:

根据客户的业务诉求,基于大模型的相关应用场景进行整体规划设计和咨询类服务。

服务范围不包含:

  • 客户系统的代码开发。

  • 第三方软件的安装、测试、故障诊断、优化等日常运维服务。

注:对于不在云上稳定性保障服务(架构优化)范围内的第三方软件问题,客户可登录阿里云社区获取免费咨询,或联系云市场商家寻求帮助。

2.2 大模型工程技术服务范围

服务范围包含:

  • 根据客户的业务诉求,基于大模型的相关应用场景进行整体规划设计和咨询类服务。

  • 基于公共云的大模型技术实施服务,包含数据准备、工程效果优化、集成指导、培训等,帮助客户快速启动大模型应用和在业务中应用大模型的产品技术能力。

服务范围不包含:

  • 客户系统的代码开发。

  • 第三方软件的安装、测试、故障诊断、优化等日常运维服务。

注:对于不在云上稳定性保障服务(架构优化)范围内的第三方软件问题,客户可登录阿里云社区获取免费咨询,或联系云市场商家寻求帮助。

3. 前提条件

  • 客户应提前至少15个自然日申请该服务,以便于阿里云评估客户业务目标及时间计划可行,确认是否承接该服务申请。

  • 如客户的申请涉及大批量资源需求,建议客户提前一个月申请,具体视供应链评估情况协商。

  • 客户应在阿里云承接服务后,提供场地、设备、必要的非生产环境及远程访问通道、权限、明确的业务目标,协助阿里云开展服务。

  • 客户应审核阿里云制定的项目实施计划,以书面形式(包括但不限于电子邮件)确认阿里云提供的具体实施计划。客户如无正当技术理由,不得否定双方已确认的技术建议或方案,以确保及时实现本服务目的。

  • 按双方协商约定时间执行具体的业务场景设计方案和技术实施方案。

3.1 分工边界

3.1.1 客户与阿里云

  • 客户购买大模型技术服务,阿里云大模型技术服务团队实施服务。

  • 针对该服务的业务目标,双方商定并确认具体业务目标及范围。

3.1.2 客户

  • 确定业务目标(如完成哪些大模型业务场景设计和技术实施)。

  • 提供场地、设备、必要的非生产环境及远程访问通道、权限等,配合阿里云开展服务。

  • 配合阿里云调研系统现有问题,参与具体的计划实施,如业务架构,技术架构等。

  • 审核阿里云制定的实施计划,并以书面或邮件方式确认阿里云提出的具体实施计划。客户无正当技术理由,不得否定阿里云提供的技术建议或方案。

  • 执行具体的大模型业务场景设计方案和技术实施方案。

  • 作为运维主体,负责相关运维工作。

  • 授权阿里云针对安全事件进行7x24小时监控和分析。

3.1.3 阿里云

  • 负责项目的组织,成立专家方案实施团队。

  • 了解客户业务目标、范围,制定实施计划, 并获得客户的书面(包括但不限于电子邮件)确认。

  • 提供本工作说明书规定的各项服务目录,如业务场景设计范围,提供可行方案。

3.1.4 完工标准

  • 提交《大模型技术咨询服务验收报告》,内容包括:场景现状和需求分析、基础设施现状调研、大模型场景设计方案。

  • 提交《大模型工程技术服务验收报告》,内容包括:对客户业务场景现状和需求分析、基础设施现状调研、大模型场景设计方案。基于公共云的大模型技术实施服务,包含数据准备、工程效果优化、集成指导、培训等,帮助客户快速启动大模型应用和在业务中应用大模型的产品技术能力。

3.2 大模型应用咨询服务项

服务内容:阿里云针对客户的业务目标,包含以下服务:

服务项

服务说明

场景需求调研

1.对客户的需求进行调研,确认客户业务痛点和大模型需求。

2.同步对现有的素材、知识库和数据情况进行确认。

基础设施调研

1.对基础设施,包含计算资源、网络情况、技术和产品架构等进行确认

2.明确企业知识库、数据库、应用API等场景需求素材来源端技术情况调研。

业务场景方案设计

1.对场景的端到端解决方案进行设计。 2.交付端产品设计方案。

3.3 大模型工程技术服务项

服务内容:阿里云针对客户的业务目标,包含以下服务:

服务项

服务说明

场景需求调研

1.对客户的需求进行调研,确认客户业务痛点和大模型需求。

2.同步对现有的素材、知识库和数据情况进行确认。

基础设施调研

1.对基础设施,包含计算资源、网络情况、技术和产品架构等进行确认。

2.明确企业知识库、数据库、应用API等场景需求素材来源端技术情况调研。

业务场景方案设计

1.对场景的端到端解决方案进行设计。

2.交付端产品设计方案。

技术实现架构设计

基于场景需求完成技术架构方案设计,确认大模型的实施技术架构。

数据和知识库准备

整理大模型所需的数据(知识库)并形成清单,进行数据和素材准备工作。

效果优化工程

1.产品部署相关工作支持和链路测试。

2.进行工程化调优工作,包含提示词等工作,不包含模型微调。

试运行支持

试运行情况跟踪和相关汇报工作。

4. 服务SLA

4.1 大模型应用咨询服务SLA

提供云上大模型技术咨询服务技术经理。

提供《大模型技术咨询服务工作计划书》及《大模型技术咨询服务验收报告》。

4.2 大模型工程技术服务SLA

提供云上大模型技术实施服务技术经理。

提供《大模型工程技术服务工作计划书》及《大模型技术实施服务验收报告》。

5. 服务流程

5.1 大模型应用咨询服务流程

申请时间限制:客户须至少应于大模型应用咨询服务开始日之前提前15个自然日提出申请。

image

5.2 大模型工程技术服务流程

申请时间限制:客户须至少应于大模型工程技术服务开始日之前提前15个自然日提出申请。

image

6. 验收标准

6.1 大模型应用咨询服务验收标准

阿里云提供以下交付物,视为服务验收合格:

  • 1.阿里云交付《大模型技术咨询服务工作计划书》及《大模型业务场景设计方案》,并获得客户书面确认(含电子邮件形式)。

  • 《大模型技术咨询服务工作计划书》及《大模型业务场景设计方案》,内容包括:

    • 服务开始之前,阿里云对对客户的需求进行调研,确认客户业务痛点和大模型需求。

    • 基于客户的业务特性和业务需求,阿里云就客户业务提供大模型业务场景设计建议。

6.2 大模型工程技术服务验收标准

阿里云提供以下交付物,视为服务验收合格:

  • 阿里云交付《大模型技术实施服务工作计划书》及《大模型业务场景设计方案》、《大模型技术架构方案》并获得客户书面确认(含电子邮件形式)。

  • 《大模型业务场景设计方案》和《大模型技术实施方案》。内容包括:

    • 服务开始之前,阿里云对对客户的需求进行调研,确认客户业务痛点和大模型需求。

    • 基于客户的业务特性和业务需求,阿里云就客户业务提供大模型业务场景设计建议。

    • 基于场景需求完成技术架构方案设计,确认大模型的实施技术架构。

    • 整理大模型所需的数据(知识库)并形成清单,进行数据和素材准备工作。

    • 产品部署相关工作支持和链路测试,进行工程化调优工作,包含提示词等工作,不包含模型微调。

7. 完成标志

实施结束并完成客户验收工作。