IBMはニューヨーク州ヨークタウンで、生成AIモデルのトレーニングと運用におけるデータセンターの効率性を大幅に向上させる画期的な光学技術を発表しました。

IBMの研究者らは、光速を利用してデータセンター内の接続を実現する、新しい共パッケージ光学技術（CPO）を開発しました。これは、現在使用されている銅ケーブルに代わるものです。

IBM

光ファイバー技術は世界中の商業および通信で広く利用されていますが、多くのデータセンター内では、短距離通信に銅ケーブルが依然として使用されています。このため、GPUアクセラレータはトレーニング中にアイドル状態になることが多く、時間とエネルギーの無駄が生じていました。IBMの研究チームは、光速と容量をデータセンターに導入することで、データセンターの通信帯域幅を大幅に向上させ、GPUのアイドル時間を削減し、AIモデルの処理速度を向上させる方法を実証しました。

IBMが発表した技術論文によると、同チームが開発したCPOプロトタイプモジュールは、高速光学接続を実現し、電力消費を5倍削減し、データセンター内の接続ケーブルの長さを1メートルから数百メートルに延長できます。

さらに、この新技術を使用することで、大規模言語モデル（LLM）のトレーニング速度を従来のケーブルと比べて5倍速くすることができ、標準的なLLMのトレーニング時間を3ヶ月から3週間に短縮できます。この革新は、生成AIの規模コストを大幅に削減するだけでなく、データセンターのエネルギー効率を向上させ、5000世帯分の年間電力消費量に相当するエネルギーを節約できます。

IBMの研究によると、CPO技術はチップ間の帯域幅を従来の電気接続の80倍に向上させることができ、最新のチップ技術の進歩を最大限に活用しています。IBMの2ナノメートルノードチップ技術は500億個を超えるトランジスタを搭載可能であり、CPO技術の導入により、計算密度と効率がさらに向上します。この成功したプロトタイプは、製造工程において高湿度と極端な温度のテストに合格しており、光学相互接続の信頼性と耐久性が確保されています。

今回の研究は、データセンターの将来の発展に向けた道を切り開きました。IBMは、半導体研究開発において引き続きリーダーシップを発揮し、増え続けるAIのパフォーマンスニーズを満たすために、より効率的な光学通信技術の開発を推進していきます。

要点：

🌟 IBMは従来の銅ケーブルに代わる新しい共パッケージ光学技術を発表し、データセンターの効率性を向上させました。

⚡ CPO技術により、大規模言語モデルのトレーニング時間を3ヶ月から3週間に短縮し、5倍の速度向上を実現しました。

🔋 この技術により、データセンターで大量のエネルギーを節約でき、5000世帯分の年間電力消費量に相当します。