百度グループ執行副社長の沈抖氏は、本日開催された2024百度雲智大会で、百度百舸計算プラットフォーム4.0のアップグレードを発表しました。この新バージョンは、マルチチップ混合トレーニングとマルチチップアダプテーションをサポートし、万枚規模のクラスタ上で99.5％を超える有効なトレーニング時間を達成し、計算能力の使用効率を大幅に向上させました。
現在の計算能力不足の状況下において、百舸4.0のアップグレードは、企業が計算資源をより効率的に活用し、運用コストを削減するのに役立ちます。「マルチチップ混合トレーニング」能力の向上がアップグレードの重点であり、万枚規模のクラスタ上で95％のトレーニング効率を実現し、業界をリードするレベルに達しました。
さらに、百舸4.0は秒単位での展開を実現し、万枚規模のクラスタの運用準備時間を数週間からわずか1時間に短縮することで、展開効率を大幅に向上させ、業務の開始までの期間を短縮しました。大規模モデルのトレーニング中に頻繁に発生する障害に対処するため、百舸4.0は障害検出手段と自動エラー修正メカニズムをアップグレードし、障害発生頻度の低減と障害処理時間の短縮を実現し、99.5％を超える有効なトレーニング時間を確保しました。
モデル推論に関しては、百舸4.0は速度とコストの両面で最適化されており、特に長文推論においては効率が2倍以上に向上し、増加する市場ニーズに応えています。
