Meta AIチームは、モバイルデバイス上でのLLM展開の課題解決に向けて、MobileLLMを発表しました。深くて狭い構造設計とパラメーター最適化を採用することで、パフォーマンスを向上させています。この研究は新たな可能性を切り開き、リソースが限られた環境におけるLLMアプリケーションに新たな展望をもたらします。MobileLLMは、モバイルデバイス上でのLLM展開における新たな基準を確立し、パフォーマンスを大幅に向上させました。
Meta AIチームは、モバイルデバイス上でのLLM展開の課題解決に向けて、MobileLLMを発表しました。深くて狭い構造設計とパラメーター最適化を採用することで、パフォーマンスを向上させています。この研究は新たな可能性を切り開き、リソースが限られた環境におけるLLMアプリケーションに新たな展望をもたらします。MobileLLMは、モバイルデバイス上でのLLM展開における新たな基準を確立し、パフォーマンスを大幅に向上させました。
ソーシャルメディア大手Metaは、かつてないAIインフラコストの圧力に直面しており、AI関連支出だけで650億ドルに達すると予想されています。年間総支出は1190億ドルに上る可能性も!この巨額な費用に対し、Metaはついに自社開発AIチップの道へ。既に開発で目覚ましい進展を見せています。最新の報告によると、Metaは小規模な自社開発チップの導入を開始する予定で、NVIDIAへの依存からの脱却を目指す動きです。
Meta社が、AIシステムのトレーニング専用に開発した自社製チップのテストを開始したとの報道が出ています。これは、Nvidiaなどのハードウェアメーカーへの依存度を減らすというMeta社の戦略の一環です。ロイター通信によると、このチップは台湾積体電路製造(TSMC)との協力により製造され、AI特有のワークロード向けに設計されています。現在、小規模なテスト展開が行われており、テストが成功すれば、生産規模の拡大を計画しているとのことです。画像出典注記