膨大なデータで学習させた画像モデルが、高品質な画像生成に時間がかかると思いませんか？まるでカタツムリが木に登るように遅い…そんな悩みを解決してくれるのが、Luma AIが最近オープンソース化した誘導モーメントマッチング（IMM）という画像モデルの事前学習技術です。これを使えば、かつてない速さで高品質な画像を生成できるのだとか！まるで錬丹炉にターボチャージャーが付いたようなものです！
アルゴリズムの停滞？Luma AIが「天井」を打ち破る
近年、AIコミュニティでは、生成系事前学習がボトルネックに遭遇しているという認識が広まっています。データ量は増え続けているのに、アルゴリズムの革新は停滞気味です。Luma AIは、データが足りないのではなく、アルゴリズムがデータの潜在能力を十分に引き出せていないのだと考えます。これは、金鉱を持っているのにスコップで掘っているようなもので、効率が悪すぎます。
この「アルゴリズムの天井」を打ち破るため、Luma AIは推論時の計算効率の向上に注目しました。モデルの容量を競う「内卷」よりも、推論段階での高速化を重視したのです。こうして、「スピード重視」のIMMが登場しました！
IMM：推論を「自由にジャンプ」させる
では、IMMは一体どのような技術で、これほど驚異的な高速化を実現しているのでしょうか？
ポイントは、推論効率の観点から逆方向に事前学習アルゴリズムを設計している点です。従来の拡散モデルは、精巧な彫刻家のように、一歩ずつ丁寧に調整する必要があります。どんなに強力なモデルでも、最適な結果を得るには多くのステップが必要です。しかしIMMは違います。「瞬間移動」スキルを持つ画家のようです。推論過程で、ネットワークは現在のステップだけでなく、「目標ステップ」も考慮します。
従来の拡散モデルは画像生成時に迷路の中を少しずつ進んでいくようなものです。一方IMMは、迷路の出口を見通せるので、より柔軟に「ジャンプ」して進むことができます。必要なステップが大幅に減るのです。この巧妙な設計により、各反復がより表現力豊かになり、線形補間による制約を受けなくなります。
さらに素晴らしいのは、最大平均差異（maximum mean discrepancy）という成熟したモーメントマッチング技術を取り入れている点です。これは「ジャンプ」に正確なナビゲーションシステムを追加したようなもので、モデルが高品質な目標に向かって正確に進むことを保証します。
10倍の高速化、さらに向上した品質！
真実は実践で証明されます。Luma AIは、一連の実験でIMMの強力な能力を実証しました。
- ImageNet256x256データセットでは、IMMは30倍少ないサンプリングステップで1.99のFIDスコアを達成し、拡散モデル（2.27FID）やFlow Matching（2.15FID）を上回りました。まるで「シュッ」と一瞬で完了し、品質も向上しています！
- 標準的なCIFAR-10データセットでは、IMMはわずか2ステップのサンプリングで1.98のFIDスコアを達成し、このデータセットにおける最高レベルに達しました。2ステップ！間違っていません、瞬きの間です！
高速性に加え、IMMはトレーニングの安定性にも優れています。対照的に、Consistency Modelsは事前学習時に不安定になりやすく、特別なハイパーパラメータ設計が必要です。一方IMMはより「安心」で、様々なハイパーパラメータやモデルアーキテクチャで安定してトレーニングできます。
注目すべきは、IMMが拡散モデルが依存するノイズ除去スコアマッチングやスコアベースの確率微分方程式に依存していない点です。Luma AIは、真のブレークスルーはモーメントマッチング自体ではなく、推論を優先する視点にあると考えています。この考え方は、既存の事前学習パラダイムの限界を発見し、それらの限界を突破できる革新的なアルゴリズムを設計することを可能にしました。
Luma AIはIMMの将来に自信を持っています。彼らは、これは始まりに過ぎず、既存の限界を超えるマルチモーダル基礎モデルへの新しいパラダイムを示唆するものだと考えています。創造的な知能の可能性を完全に解き放つことを目指しています。
GitHubリポジトリ：https://github.com/lumalabs/imm