最近、人工知能研究企業Epoch AIは、大規模言語モデルの学習に必要な計算能力をシミュレートするインタラクティブシミュレーターを発表しました。このシミュレーターを用いた研究で、2012年発売のGTX 580のような旧型GPUでもGPT-4の学習は可能であるものの、現代の最新ハードウェアと比較してコストが10倍になることが分かりました。Epoch AIの研究によると、GPT-4の学習に必要な浮動小数点演算回数（FLOP）は1e25～1e26の間です。この研究のために、