通義千問チームは先日、最新のQwen2.5-Coderシリーズ全般のオープンソース化を発表しました。この取り組みは、Open Code LLMsの発展を促進することを目的としています。Qwen2.5-Coderは、その強力さ、多様性、実用性から注目を集めています。Qwen2.5-Coder-32B-Instructモデルは、コード能力においてSOTAレベルに達し、GPT-4oと同等の能力を示しており、総合的な能力の高さを示しています。

イーロン・マスクの人工知能スタートアップ企業xAIは、Dell、NVIDIA、Supermicroと協力して、世界最大級のスーパーコンピューターを構築すると発表しました。このプロジェクトは、スタートアップに大規模な計算リソースを提供し、トレーニング作業を支援し、オラクルとX社のデータセンターのクラウドサービスへの依存を削減します。

イーロン・マスクのAIスタートアップ企業xAIはスーパーコンピューターを構築中で、Dell TechnologiesとSuper Microがそのサーバーラックを提供する。マスク氏はXで、DellがxAIスーパーコンピューターのラックの半分を組み立てると述べた。もう半分のパートナーについては、億万長者であるマスク氏は別の投稿への返信で「SMC」と述べ、サーバーメーカーのSuper Microを指している。サンフランシスコに拠点を置くSuper Microは、NVIDIAなどのチップメーカーと協力して、

Nvidiaは、消費電力が最大1000Wに達するB100 AIアクセラレーターを発売する計画で、これは以前の製品と比べて42％もの消費電力増加となります。Dellの幹部は、GPUの消費電力は増加し続けるものの、直接液冷はもはや必須の解決策ではないと述べています。Nvidiaの次世代GPUには、Grace CPUと組み合わせたB200 Superchipが含まれる可能性があり、消費電力は約1300Wに達する見込みです。

アリババグループは、CodeFuse-CodeLlama-34Bの4ビット量子化バージョンを発表しました。量子化されたモデルは、単一のA10またはRTX4090でロード可能です。量子化されたモデルは、Humaneval pass@1指標で73.8％の性能を達成しました。CodeFuseはアリババが独自開発したコード生成専用の巨大言語モデルであり、インテリジェントな提案とリアルタイムサポートを提供することで、開発者の開発効率を向上させます。