产品架构

如图所示，PAI的产品架构分为以下四层：

• 基础资源层（计算资源 & 基础设施）：

  • 基础设施：提供CPU、GPU、高速RDMA网络及容器服务ACK等。

  • 计算资源：包括云原生计算资源（灵骏智算资源、通用计算资源）和大数据引擎资源（MaxCompute、Flink）。

• 平台工具层（灵骏智算服务 & 人工智能框架）：

  • AI框架：支持Alink、TensorFlow、PyTorch、Megatron、DeepSpeed及RLHF等主流框架。

  • 优化与加速：提供数据集加速（DatasetAcc）、训练加速（TorchAcc）、并行训练（EPL）、推理加速（BladeLLM）、自动容错训练（AIMaster）及训练快照（EasyCkpt）。

  • 全流程机器学习工具：

    1. 数据准备：提供iTAG数据标注服务，及数据集管理功能。

    2. 模型开发与训练：可视化建模（Designer）、交互式建模（DSW）、分布式训练（DLC）以及特征平台（FeatureStore），满足不同的建模需求。

    3. 模型部署：使用模型在线服务（EAS），快速将模型部署为服务。

• 应用层（模型服务）：支持与多种模型服务和应用平台集成，包括ModelScope魔搭社区、PAI-DashScope、第三方MaaS平台和阿里云百炼。

• 业务层（场景化解决方案）：PAI为自动驾驶、科研智算、金融风控、智能推荐等领域提供场景化解决方案。例如：阿里巴巴集团内部的搜索系统、推荐系统及金融服务系统等，均依赖于PAI进行数据挖掘。