Machine Learning Platform for AI (PAI) は、トレーニングの加速と推論の加速のためのAIアクセラレータを提供します。 AIアクセラレータは、データセットの高速化、コンピューティングの高速化、最適化アルゴリズム、スケジューリングアルゴリズム、リソース最適化技術などのさまざまな方法を使用して、トレーニングと推論を促進し、AIトレーニングと推論の速度と安定性を向上させることができます。 AIアクセラレータを使用して、AIコンピューティングの効率を向上させることができます。 このトピックでは、AIアクセラレータの機能について説明します。
機能
次の表に、AIアクセラレータでサポートされている技術的な方法と機能を示します。
技術的な方法 | 能力 |
EPL (分散トレーニング用の大規模フレームワーク) |
|
Rapidformer (トランストレーニング加速) |
|
PAI-ブレード (一般的な推論の最適化) |
|
AIアクセラレータの使用
次のドキュメントを参照して、AIアクセラレータの使用をすぐに開始できます。
EPL (分散トレーニング用の大規模フレームワーク)
PAI-EPLは、分散モデルトレーニングのための効率的で使いやすいフレームワークです。 PAI-EPLを使用して、高性能分散モデルトレーニングを低コストで実装できます。 EPLを使用してトレーニングを高速化する方法の詳細については、「EPLを使用してAIモデルトレーニングを高速化する」をご参照ください。
Rapidformer (トランストレーニング加速)
PAI-Rapidformerは、PyTorch Transformerモデルのトレーニング最適化ツールです。 モデルトレーニングの速度と効率を向上させるために、PAI-Rapidformerの1つ以上の最適化テクノロジを有効にすることを選択できます。 PAI-Rapidformerの使用方法の詳細については、「Rapidformerの概要」をご参照ください。
PAI-ブレード (一般的な推論の最適化)
PAI-Bladeは、PAIが提供する汎用推論最適化ツールです。 PAI − Bladeは、様々な最適化技術を統合する。 PAI-Bladeを使用して、トレーニング済みモデルの推論パフォーマンスを最適化し、モデルを最適な推論パフォーマンスで実行できます。 PAI-Bladeの使用方法の詳細については、「Bladeの概要」をご参照ください。