人工知能の急速な発展に伴い、大規模モデルの知能化レベルは向上していますが、それに伴い推論システムの効率性の課題もますます顕著になっています。高い推論負荷への対応、推論コストの削減、応答時間の短縮は、業界が直面する重要な課題となっています。Kimi社と清華大学のMADSys研究室は、KVCacheをベースとしたMooncake推論システム設計案を発表し、2024年6月に正式リリースしました。Mooncake推論システムは、…

ゲーム開発分野において、大規模モデルは不可欠な「ブレイン」になりつつあります。AIキャラクター生成からシーン構築まで、その能力は多岐に渡ります。しかし、ゲームシーンの理解、画像認識、コンテンツ記述においては、さらなる改善が必要です。カナダ・アルバータ大学の研究チームは、ゲーム開発向けに最適化されたオープンソース大規模モデル VideoGameBunny（VGB）を発表しました。多言語サポート、高度なカスタマイズ性、強力なテキスト生成能力、オープンソースでアクセスしやすい設計、様々な開発環境との互換性、豊富なモデルファイル、そして活発なコミュニティサポートを特徴としています。VGBは多言語をサポートし…

先日開催された世界人工知能大会において、百度創設者の李彦宏氏と阿里雲CTOの周靖人氏は、オープンソースモデルの重要性について異なる見解を示しました。

本日未明、アリババの通義千問チームがQwen2シリーズのオープンソースモデルを発表しました。このシリーズモデルには、5つのサイズの事前学習済みおよび指示微調整済みモデルが含まれています：Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B、およびQwen2-72B。重要な情報として、これらのモデルのパラメータ数とパフォーマンスは、前世代のQwen1.5と比べて大幅に向上しています。

国内で最初に導入された大規模モデルの業界導入状況が明らかになり、オープンソース大規模モデルが市場構造に変化をもたらしています。エネルギー、金融、医療などの業界における大規模モデルの導入事例は、その潜在力と変革の可能性を初期段階で示しています。企業はこぞってオープンソース大規模モデルに注目し、大手企業も戦略を調整し、クローズドソースとオープンソースの両方に取り組んでいます。