GPT-3.5とAI開発の最新動向

マイクロソフトの論文によると、GPT-3.5のパラメータ数はわずか200億個で、公式発表と大きな開きがあることが明らかになりました。一方、小型モデルのCodeFusionは、わずか7500万個のパラメータ数ながら優れた性能を示しています。

AI業界では、ChatGPTとClaude AIが上位を争うなど、激しい競争が繰り広げられています。 この状況の中、GPT-4は査読において驚くべき能力を発揮し、陶哲軒氏も数学の問題解決にGPT-4を利用しているとのことです。