SakanaAI/self-adaptive-llmsは、Transformer²と呼ばれる適応型フレームワークであり、従来のファインチューニング手法の計算集約性と、多様なタスクへの対応能力の静的さを解決することを目指しています。このフレームワークは、推論過程において、2段階のメカニズムによって大規模言語モデル（LLM）をリアルタイムに調整し、未経験のタスクに適応します。まず、タスク属性をスケジューリングシステムが識別し、次に、強化学習で訓練されたタスク固有の「エキスパート」ベクトルを動的に混合することで、入力プロンプトに対する目標とする動作を得ます。主な利点としては、リアルタイムでのタスク適応性、計算効率、柔軟性などが挙げられます。このプロジェクトはSakanaAIチームによって開発され、現在GitHubでオープンソースとして公開されており、195個のスターと12回のフォークを獲得しています。