人工知能分野において、後訓練技術はモデル性能向上のための重要な手段になりつつあります。先日、アレン人工知能研究所（AI2）は、Tülu3シリーズモデルを発表しました。これは、GPT-4o-miniなどのクローズドソースモデルに匹敵する性能を持つ、完全にオープンソースの高度な言語モデルです。Tülu3には、モデルデータ、コード、トレーニングレシピに加え、評価フレームワークも含まれており、オープンソースモデルの後訓練技術の発展を促進することを目的としています。従来、事前学習のみのモデルは、実際的な用途のニーズを効果的に満たせないことが多く、問題となる可能性がありました。

オープンソースAI分野では、大規模テクノロジー企業との差は計算能力だけではありません。AI2（旧Allen人工知能研究所）は、一連の画期的な取り組みを通じてこの格差を縮小しており、最新リリースのTülu3事後訓練方案により、原始的な大規模言語モデルを実用的なAIシステムに変換することが容易になりました。一般的な認識とは異なり、基礎言語モデルは事前訓練後、すぐに使用できるわけではありません。実際、事後訓練プロセスこそが、モデルの最終的な価値を決定する重要な段階です。この段階で、モデルは万能であるが判断力のない状態から脱却し、特定のタスクやドメインに適応していきます。