什么是Deepytorch

更新时间: 2024-02-05 11:13:42

Deepytorch是阿里云自研的AI加速器,为生成式AI和大模型场景提供训练和推理加速功能。在训练方面,Deepytorch在保障精度的前提下实现端到端训练性能的显著提升,可降低训练成本,提升迭代速度。在推理方面,Deepytorch通过即时编译技术对模型进行推理优化,可实现高效、快速的推理加速效果。

Deepytorch包含Deepytorch Training和Deepytorch Inference两个软件包,更多信息,请参见:

阿里云首页 GPU云服务器 相关技术圈