12月12日、北京大学とバイトダンスは、豆包大規模言語モデルシステムソフトウェア合同研究所の設立を発表し、中国のAI分野における産学連携が新たな段階に入ったことを示しました。
北京大学とバイトダンスが共同で「Doubao」大規模言語モデル合同研究所を設立、産学連携を深化

AIbase基地
287
© 著作権 AIbase基地 2024, 出典元はこちら - https://www.aibase.com/ja/news/13947
12月12日、北京大学とバイトダンスは、豆包大規模言語モデルシステムソフトウェア合同研究所の設立を発表し、中国のAI分野における産学連携が新たな段階に入ったことを示しました。
バイトダンス傘下の豆包大規模言語モデルチームは先日、混合専門家モデル(MoE)アーキテクチャにおける主要なボトルネックを克服し、COMETという名称の重要な最適化技術をオープンソース化したと発表しました。この技術は、大規模言語モデルのトレーニング効率を大幅に向上させ、最大1.7倍の効率向上を実現し、トレーニングコストを40%削減することに成功しました。画像注記:画像はAIによって生成され、画像ライセンス提供サービスMidjourneyを使用しています。COMET技術は、バイトダンスの万規模GPUクラスタトレーニングで実際に適用されており、数百万GPU時間の節約に貢献しています。