DeepSeekは、知乎で公式アカウントを開設し、『DeepSeek-V3/R1推論システム概要』という技術記事を発表しました。この記事では、同社のモデル推論システムの最適化の詳細とコスト利益率情報を初めて詳細に公開しており、注目を集めていたDeepSeekオープンソースウィークの終了を告げるものとなりました。記事では、DeepSeek-V3/R1推論システムの2つの主要な最適化目標である、より高いスループットとより低いレイテンシについて説明しています。これらの目標を達成するため、DeepSeekは、大規模なノード間エキスパート並列処理（EP）技術を採用しました。

2月25日、Anthropic社は最新の推論モデルであるClaude 3.7 Sonnetを発表しました。このモデルは革新的な設計理念と大幅に向上したプログラミング能力により、瞬く間に業界の注目を集めています。Claude 3.7 Sonnetの最大の革新は、迅速な回答と深い思考能力を融合させ、人間の脳の思考様式を模倣することで、よりスムーズなユーザーエクスペリエンスを提供することです。

スタンフォード大学とワシントン大学のAI研究者らが、わずか50ドル以下の費用で訓練されたAI推論モデルs1を開発したと発表しました。金曜日に公開されたこの研究成果は、s1が数学とプログラミング能力テストにおいて、OpenAIのo1モデルやDeepSeekのR1モデルに匹敵する性能を示したことを明らかにしています。s1のコードとデータはGitHubで公開されており、他の研究者も利用可能です。研究チームによると、彼らは…

最近、スタートアップ企業Pipeshiftは、企業がオープンソースの生成AIモデルをより効率的にトレーニング、デプロイ、拡張できるように設計された、新しいエンドツーエンドプラットフォームを発表しました。このプラットフォームは、あらゆるクラウド環境やオンプレミスのGPU上で動作し、推論速度の大幅な向上とコスト削減を実現します。AI技術の急速な発展に伴い、多くの企業は複数のモデル間を効率的に切り替える方法に苦労しています。従来、チームは計算リソースの取得、モデルのトレーニングなど、複雑なMLOpsシステムを構築する必要がありました。

先日、OpenAIのCEOであるサム・アルトマン氏は、ソーシャルメディアプラットフォームX上で「OpenAIが汎用人工知能（AGI）を実現した」という説を明確に否定しました。彼は、AGIに関する議論が過熱する一方で、OpenAIは来月AGIを展開する予定はなく、この技術を開発したわけでもない、と述べています。アルトマン氏は、期待値を「100倍」下げるべきだと人々に警告しています。AGI、すなわち汎用人工知能とは、人間の知的能力を要するあらゆるタスクを理解、学習、実行できる人工知能のことです。

OpenAIは、最新のo-Model推論シリーズモデルであるOpenAI o3を正式に発表しました。o3は、数学と科学の推論において著しい進歩を示し、その能力と限界について業界で幅広い議論を巻き起こしています。OpenAIによると、o3は構造化された思考を必要とする推論能力、特に数学と科学分野での能力向上を目指して設計されています。このモデルは、専用の推論ベンチマークテストであるARC AGIで優れた性能を示し、以前のモデルの32％から大幅な向上を遂げました。

人工知能の急速な発展に伴い、大規模モデルの知能化レベルは向上していますが、それに伴い推論システムの効率性の課題もますます顕著になっています。高い推論負荷への対応、推論コストの削減、応答時間の短縮は、業界が直面する重要な課題となっています。Kimi社と清華大学のMADSys研究室は、KVCacheをベースとしたMooncake推論システム設計案を発表し、2024年6月に正式リリースしました。Mooncake推論システムは、…

AIが急速に発展する現代において、企業は生産環境へのAI技術導入による投資収益率向上に注力しています。しかし、高度なAIモデルが存在するにも関わらず、導入において多くの課題に直面しています。Everest GroupのCEO、Peter Bendor-Samuel氏の推定によると、生成系AIのパイロットプロジェクトの90％は本番環境への移行が困難です。さらにGartnerは20…

人工知能分野において、中国発の革新的な研究が大きな注目を集めています。清華大学と上海人工知能研究所の科学者らが、思考マップ（Diagram of Thought、略称DoT）と呼ばれる全く新しいフレームワークを提案しました。この画期的な成果は、AIの思考様式に対する私たちの認識を根本的に変える可能性を秘めています。DoTフレームワークの中核となる概念は、人間が複雑な問題を解決する思考プロセスを模倣することです。難しい問題を解く際に、仮説を立て、批判し、修正し、最終的に結論を導き出すのと同じように、DoTは…

カリフォルニア州に拠点を置くAIチップ企業Groqと、サウジアラビアの国営石油会社サウジアラムコ（Aramco）が提携し、サウジアラビアに大規模データセンターを建設する計画を発表しました。このデータセンターは、サウジアラビアの人工知能分野における能力向上と、経済多角化の推進を目指しています。GroqのCEO、ジョナサン・ロス氏は、このデータセンターは年末までに稼働開始予定であり、初期段階では19,000個の言語処理ユニット（LPU）が導入されると述べています。画像出典：画像

Google DeepMindチームと大学との共同研究により、生成AIの推論タスクにおける正確性と信頼性を向上させることを目的とした、生成報酬モデル(GenRM)と呼ばれる革新的な手法が開発されました。GenRMは検証プロセスをテキスト生成タスクに統合し、モデルが潜在的な解決策を生成および評価することを同時に可能にし、チェーンオブソースト（CoT）もサポートすることで、検証プロセスの包括性を強化します。従来の手法と比較して、GenRMは複数のテストにおいて顕著な優位性を示し、精度は16％～64％向上しました。特に、

この記事では、AI推論チップ分野の最新動向、特にMLPerf推論v4.1ベンチマークの結果について概説します。このベンチマークには、AMD、Google、Untether AI、Cerebras、FuriosaAI、NVIDIAなど、多くの企業の最新チップが参加しました。NVIDIAのH200とGH200チップは「データセンタークローズド」カテゴリで首位を維持しましたが、他の企業のチップも特定のタスク、特にエネルギー効率において優れた性能を示しました。AMDのInstinctアクセラレータも注目に値します。

Cerebras Systems Inc.は、「世界最速」と謳うAI推論サービスを発表し、Nvidia Corp.の覇権に挑戦しています。このサービスは、AIタスクをより高速かつ低コストで実行することを目指しており、90万個以上の計算コアと44GBのメモリを搭載したWSE-3プロセッサをベースとしています。コア数はNvidia H100の52倍で、推論速度は毎秒1000トークンに達し、Nvidiaの同様のサービスと比較して20倍高速、100倍のコストパフォーマンスを実現すると主張しています。無料トライアルも提供されています。

Cerebras SystemsがCerebras Inferenceを発表。世界最速のAI推論サービスと謳い、GPUベースの従来システムと比較して20倍の性能向上と大幅なコスト削減を実現。特に大規模言語モデル（LLM）の処理に最適です。8Bバージョンでは毎秒1800トークン、70Bバージョンでは毎秒450トークンを処理し、NVIDIA GPUソリューションをはるかに凌駕する速度とコスト効率を実現します。Cerebras Inferenceは…

メタのエンジニアは、来年、世界のAI推論のために100万～200万個のNvidia H100 GPUが追加されると推定しています。すべてを言語モデルの生成に使用した場合、1人あたり1日10万トークンを生成でき、電力消費量は妥当な範囲内です。世界のAI推論に必要な電力は、原子力発電所2基を追加するだけで供給できるとのことです。モデルのトレーニングはデータ不足に直面しており、研究者たちはモデルの効率向上に取り組んでいます。今後3～4年で、現在の技術が汎用人工知能を実現できるかどうかが明らかになる見込みです。