AIアクセラレーション - Platform For AI - Alibaba Cloud ドキュメントセンター

Platform for AI (PAI) は、トレーニングアクセラレーションおよび推論アクセラレーション用のAIアクセラレータを提供します。 AIアクセラレータは、データセットの高速化やコンピューティングの高速化などのさまざまな方法を使用して、トレーニングと推論を容易にし、AIトレーニングと推論の速度と安定性を向上させることができます。 AIアクセラレータを使用して、AIコンピューティングの効率を向上させることができます。このトピックでは、AIアクセラレータの機能について説明します。

特徴

次の表に、AIアクセラレータでサポートされている技術的な方法と機能を示します。

技術的な方法	特徴
EPL (分散トレーニング用の大規模フレームワーク)	データ並列処理、演算子分割、およびパイプライン並列処理をサポートします。最適な分散トレーニングパフォーマンスのための自動並列処理をサポートします。
Rapidformer (トランストレーニング加速)	PyTorch Transformerモデルのトレーニングを最適化し、複数の最適化テクノロジを組み込んで、Transformerモデルライブラリとシームレスに統合します。
PAI-ブレード (一般的な推論の最適化)	TensorFlow、PyTorch、およびGPU、CPU、エンドデバイスなどの主流のアクセラレーションデバイスをサポートします。グラフ最適化、ベンダー最適化ライブラリ、AIコンパイラ最適化、高性能演算子ライブラリ、混合精度、自動圧縮など、複数の最適化テクノロジをサポートします。最適化を実装するためのPython用の使いやすい標準SDKを提供します。

AIアクセラレータの使用

次のドキュメントを参照して、AIアクセラレータの使用をすぐに開始できます。

EPL (分散トレーニング用の大規模フレームワーク)
EPLは、分散モデルトレーニングのための効率的で使いやすいフレームワークです。 EPLを使用して、高性能分散モデルトレーニングを低コストで実装できます。 EPLを使用してトレーニングを高速化する方法の詳細については、「EPLを使用してAIモデルトレーニングを高速化する」をご参照ください。
Rapidformer (トランストレーニング加速)
Rapidformerは、PyTorch Transformerモデルのトレーニング最適化ツールです。さまざまな最適化テクノロジーを組み合わせて、モデルトレーニングの速度と効率を向上させることができます。詳細については、「Rapidformerの概要」をご参照ください。
PAI-ブレード (一般的な推論の最適化)
PAI-Bladeは、汎用推論最適化ツールです。 PAI-Bladeは、さまざまな最適化テクノロジーと統合します。 PAI-Bladeを使用して、トレーニング済みモデルの推論パフォーマンスを最適化し、モデルを最適な推論パフォーマンスで実行できます。詳細については、「ブレードの概要」をご参照ください。