PAI-AI加速器主要用于训练加速和推理加速,通过多种手段如数据集加速、计算加速等,提高了AI训练和推理的速度、易用性和稳定性,全面提升了AI计算的效率。本文为您介绍AI加速器的功能亮点。
AI加速器功能简介
AI加速器支持的技术手段及对应的功能如下:
技术手段 | 功能概览 |
EPL(大规模分布式训练框架) |
|
Rapidformer(Transformer训练加速) | 优化PyTorch版Transformer模型训练,融合多种优化技术,无缝对接Transformer模型库。 |
PAI-Blade(通用推理优化) |
|
使用AI加速器
您可以参考以下文档链接快速接入AI加速器并体验加速效果:
EPL(大规模分布式训练框架)
高效易用的分布式模型训练框架,实现低成本、高性能分布式模型训练。更多信息,请参见AI加速:使用EPL实现AI训练加速。
Rapidformer(Transformer训练加速)
一款PyTorch版的针对Transformer系列模型的训练优化工具,通过加速开关组合优化技术,优化PyTorch版Transformer模型的训练过程,提高训练速度和效率。更多信息,请参见训练加速(Rapidformer)概述。
PAI-Blade(通用推理优化)
通用推理优化工具,结合多种优化技术,优化训练完成的模型,以达到最优推理性能。更多信息,请参见推理加速(Blade)概述。