智源研究院とテンセントグループは、2024年12月18日に戦略的提携契約を締結しました。両者は大規模モデルの研究開発、人工知能技術の最先端研究、オープンソースエコシステム構築など、複数の分野で緊密に協力していきます。提携契約に基づき、智源研究院とテンセントはそれぞれの強みを活かし、大規模モデル技術と産業現場の深い融合を推進し、多様な計算環境下における大規模モデルの学習と推論最適化技術ソリューションを探求します。また、技術開発と応用促進のため、オープンで革新的なソフト・ハードウェアエコシステムの構築を目指します。

北京智源人工知能研究院（BAAI）は最近、世界初の中国語大規模言語モデル論争プラットフォームFlagEval Debateを発表しました。この新しいプラットフォームは、モデル間の論争という競争メカニズムを通じて、大規模言語モデルの能力評価のための新しい測定方法を提供することを目的としています。これは、智源モデル対戦評価サービスFlagEval大規模言語モデル競技場の拡張であり、大規模言語モデル間の能力の違いを識別することを目標としています。

2024北京文化フォーラムにおいて、北京智源人工知能研究院（BAAI）は、新世代の中文インターネットコーパスCCI3.0（Chinese Corpora Internet）の正式発表を行いました。データの共同構築と共有を促進します。CCI3.0は1000GBのデータセットと498GBの高品質サブセットCCI3.0-HQを含み、2023年11月のCCI1.0の最初のオープンソース化、2024年4月のCCI2.0発表に続く重要なアップデートとなります。

北京百度網訊科技有限公司と北京智源人工知能研究院は本日、正式な戦略協力協定を締結したことを発表しました。両者は大規模言語モデルなどの分野で深層的な協業を行い、人工知能の産学連携エコシステムを共同で構築します。百度は2010年から人工知能の全面的な展開を開始しており、昆侖チップ、飛槳深層学習プラットフォーム、文心大模型から応用まで、全スタック展開を行っている世界でも数少ない人工知能企業です。

2024年9月4日、北京智源人工知能研究院（BAAI）は、テキストからビデオ生成を含むモデルの対抗評価サービス「FlagEval大規模モデル闘技場」の世界初の提供を発表しました。このサービスはユーザー向けに公開されており、国内外の約40種類のLLMを網羅し、言語応答、マルチモーダル画像テキスト理解、テキストから画像生成、テキストからビデオ生成の4つのタスクに対応した、オンラインまたはオフラインでのカスタム評価をサポートしています。

智源研究院は最近、ベクトル検索タスクにおいて優れた性能を示し、複数の評価基準で最高水準を更新した3つの新しいベクトルモデルを発表しました。これら3つのモデルは次のとおりです。BGE-EN-ICL：タスク関連のクエリとドキュメントの例を少量の例として導入することにより、モデルのセマンティック表現能力を強化した英語ベクトルモデル。

北京智源人工知能研究院と中国電信人工知能研究院は共同で、Tele-FLMシリーズ大規模モデルのアップグレード版を発表しました。これには、52B指令モデルFLM-2-52B-Instructと兆パラメーターモデルTele-FLM-1Tが含まれます。FLM-2-52B-Instructは指令微調整を通じて、中国語での対話能力の向上に重点を置いており、GPT-4レベルの90％に達しています。Tele-FLM-52Bベースモデルに基づき、特定のデータセットとパラメーター最適化を使用しています。Tele-F

近年、マルチモーダル大規模モデルの研究開発と応用は目覚ましい進歩を遂げています。OpenAI、Google、Microsoftなどの海外企業は、数々の先進的なモデルを発表しており、国内でも、智譜AI、階躍星辰などの機関が同分野で画期的な成果を上げています。これらのモデルは一般的に、ビジョンエンコーダーを用いて視覚特徴を抽出し、大規模言語モデルと組み合わせることで構築されていますが、訓練の分離に起因する視覚的帰納バイアスの問題があり、マルチモーダル大規模モデルの展開効率と性能を制限しています。

智源研究院は、コード生成モデルに、より挑戦的なトレーニングデータと評価基準を提供することを目的とした、TACOというコード生成トレーニングデータセットを発表しました。TACOは、データ規模、品質、評価方法において優れており、大規模なトレーニングセットとテストセット、多様な解答、詳細なラベルが含まれています。実験結果によると、現在普及しているコード生成モデルは、TACO評価においてGPT-4と顕著な違いがあり、この分野には依然として改善の余地があることが示されています。TACOは単なる挑戦的なデータセットではなく、…

智源研究院は、次世代マルチモーダル基盤モデルEmu2を発表し、マルチモーダルコンテキスト学習能力の飛躍的な向上を実現しました。Emu2は、Flamingo-80BやIDEFICS-80Bを凌駕し、少样本マルチモーダル理解タスクにおいて優れた性能を発揮します。少样本理解、ビジュアルクエスチョン・アンサー、画像生成タスクにおいて、複数の最先端性能を達成しました。Emu2-Chatは、画像とテキストの指示を正確に理解し、Emu2-Genは柔軟で制御可能、高品質な画像と動画の生成を実現します。Emu2

智源研究院は、拓爾思、中科聞歌と共同で「中文インターネットコーパス」(CCI)を構築しました。このコーパスは厳格な選別とクレンジングを経ており、データ規模は104GB、期間は2001年から2023年です。智源研究院は今後もデータソースの拡大、データ処理プロセスの改善を行い、より高品質で信頼性の高いデータ資源を提供していきます。智源研究院は、WUDAOコーパス、COIG、MTPなど、その他にも高品質な中文データセットを公開しています。この取り組みは、ビッグデータと人工知能業界への貢献を目指しています。

智源研究院は、様々な大規模言語モデルを効率的に評価し、スコアを出力できるJudgeLM裁判モデルをオープンソース化しました。JudgeLMはGPT-4と比較してコストは1/120で、評価結果の一致率は90％以上です。JudgeLMは、純粋なテキスト、マルチモーダルなど様々な評価シーンに適用でき、スコアと根拠を提示します。JudgeLMと正解の一致率は最高90％を超え、人間の評価に近づいています。智源研究院は、更なる研究のために、トレーニングと検証に使用したデータセットも公開しました。

智源研究院は最近、10億パラメーターの3次元ビジョン汎用モデルUni3Dをオープンソース化しました。このモデルは点群データを処理でき、主要な3次元ビジョンタスクにおいてブレークスルーを達成しました。Uni3Dは統一的なTransformerアーキテクチャを採用し、マルチモーダルアライメントのトレーニング方法を導入しています。このモデルは様々な3次元ビジョンタスクにおいて、最先端の結果を達成しました。智源研究院は、Uni3Dのオープンソース化が、将来の3次元コンピュータビジョンの研究と応用の基盤を築くと述べています。

智源研究院は、最強のオープンソース中国語・英語両言語対応大規模言語モデル「悟道・天鷹 340 億 Aquila2-34B」を発表しました。この新しいモデルは、推論や汎化能力において優れた性能を発揮します。智源研究院は、大規模言語モデル研究における協調的イノベーションを促進するため、オープンソースの包括的なツールキットも公開しました。Aquila2-34Bは、総合的な能力において他のオープンソース基盤モデルを凌駕しています。智源チームは、モデルの拡張能力を向上させるためにNLPE手法を開発しました。

智源研究院は、オープンソースAIハードウェア評価エンジンFlagPerf v1.0を発表しました。FlagPerfの評価指標には、機能の正確性、性能、リソース使用量、エコシステムの適合性などが含まれ、複数のトレーニングフレームワークと推論エンジン、複数のテスト環境をサポートしています。厳格なコード審査を実施し、公平かつ公正な結果を得ています。テストコードはすでにオープンソース化されており、テストプロセスとデータは再現可能です。

智源研究院は、世界最大の中国語・英語意味ベクトルモデル訓練データセットMTPを発表しました。データ規模は3億ペアに達します。MTPはオープンソースで公開されている最大規模の中国語・英語関連テキストペアデータセットであり、意味ベクトルモデルの訓練において重要な基盤となります。データセットには、質疑応答、レビュー、ニュースなど、様々なタイプの中英テキストペアが含まれています。智源研究院は、このデータセットが大規模モデルの訓練に極めて重要な役割を果たし、人工知能の協調的イノベーションを促進すると述べています。このデータセットの公開は、中国語モデルの訓練データ不足の問題解決に繋がるものと期待されています。