PaddlePaddleフレームワークのバージョン3.0がリリースされ、動静統一自動並列化技術が中心的なアップグレードとして導入されました。これは、大規模モデルの分散型トレーニングプロセスを簡素化し、開発効率を向上させることを目的としています。新バージョンは、4次元から5次元の混合並列化技術をサポートし、データ並列化、テンソルモデル並列化、パイプライン並列化、グループパラメータースライス並列化など、複数の並列化方法を採用することで、大規模モデルのトレーニング効率を効果的に向上させます。自動並列化技術は、テンソルの分割構文マーキングを通じて、分散型分割状態を自動的に推論し、通信演算子を自動的に追加することで、開発の難易度を軽減します。自動並列化の原理には、分散型テンソル表現、分割推論、が含まれます。