日本の人工知能スタートアップSakana AIは、「AI CUDAエンジニア」を発表しました。この革新的なAIシステムは、高度に最適化されたCUDAカーネルの自動生成を目指し、機械学習操作の実行効率を大幅に向上させます。最新のXプラットフォームからの情報によれば、このシステムは進化した大規模言語モデル（LLM）を基盤にしたコード最適化技術により、一般的なPyTorch操作の実行速度を10倍から100倍に向上させることを実現し、AI技術がGPU性能において新たなマイルストーンを打ち立てることを示しています。

AIトレーニング分野において、GPUなどのチップ間のインターコネクトはデータ転送の鍵となりますが、これらのインターコネクトの帯域幅がAIトレーニングのパフォーマンスを制限しています。2022年の調査によると、AI開発者は通常、GPU容量の25％しか活用できていません。Xscape PhotonicsのCEO兼共同設立者であるVivek Raghunathan氏は、より高い帯域幅を持つ新しいインターコネクト技術を採用することでこの問題を解決できると提案しており、その中核技術はシリコンです。