人工知能の発展は既に限界に達しているのでしょうか？Anthropicの共同設立者であるJack Clark氏は最近の通信で、そうではないと明確に述べています。同氏は、OpenAIが最近発表したo3モデルは、AIの発展が減速しているどころか、むしろ加速している可能性を示していると主張しています。
Clark氏は「Import AI」という通信の中で、AIの発展が限界に達しつつあるという説を反論しました。「進歩が鈍化しているとか、拡張が限界に達しているとか言っている人は皆間違っている」と書いています。同氏は、OpenAIの新しいo3モデルは、AIにはまだ膨大な成長の可能性があると証明しているが、異なるアプローチが必要であると指摘しています。o3モデルは単にモデルの規模を拡大しただけでなく、実行時に強化学習と追加の計算能力を利用しています。
画像出典：画像はAIによって生成され、画像ライセンス提供元はMidjourneyです。
Clark氏は、実行時に「声に出して考える」能力が、拡張に全く新しい可能性を開くものだと考えています。同氏は、この傾向は2025年に加速すると予想しており、その頃には、大手企業が従来の方法（より大きな基礎モデルなど）と、トレーニングと推論の過程で計算を利用する新しい方法を組み合わせ始めるだろうとしています。これは、OpenAIがoモデルシリーズを初めて発表した時の主張と一致しています。
Clark氏は、AIの発展速度がこれほど速いことを予想していなかった人がほとんどだろうと警告しています。「未来のAIの進歩がどれほど顕著になるかを、ほとんど誰も認識していないと思います」
しかし、同氏は計算コストが大きな課題であると指摘しています。o3の最先端バージョンに必要な計算能力は、基本バージョンの170倍であり、基本バージョンですらo1よりも多くのリソースを必要としており、o1はGPT-4oよりも多くのリソースを必要としています。
Clark氏は、これらの新しいシステムにより、コストの予測がより困難になっていると説明しています。以前は、コストはモデルのサイズと出力の長さによって主に決まる単純なものでした。しかし、o3の場合、リソースの必要性は特定のタスクによって異なる可能性があります。
これらの課題があるにもかかわらず、Clark氏は、従来の拡張方法と新しい方法を組み合わせることで、2025年にはこれまで以上に「顕著な」AIの進歩がもたらされると確信しています。
Clark氏の予測は、Anthropic自身の計画に対する関心を高めています。同社は、OpenAIのoシリーズやGoogleのGemini Flash Thinkingと競合するような「推論」または「テスト時間」モデルはまだ発表していません。
以前発表された主力モデルであるOpus3.5は、性能の向上が運用コストに見合うだけの価値がないため、据え置かれたままになっていると伝えられています。一部の人々は、これが大規模言語モデルの拡張がより広範な課題に直面していることを示唆していると考える一方で、Opus3.5が完全に失敗したわけではありません。このモデルは、新しいSonnet3.5のトレーニングに役立ち、Sonnet3.5は市場で最も人気のある言語モデルの一つになったとされています。
