マイクロソフトの全中国人研究者チームが開発したWizardMathモデルは、700億パラメーターのオープンソースの大規模言語モデルです。AIによって生成された指示を用いてファインチューニングされたこのモデルは、数学能力において、ChatGPT、Claude Instant 1、PaLM 2-540Bなどの他の大規模言語モデルを凌駕しています。
WizardMathモデルのオープンソースコードと論文はGitHubで公開されており、学術界や開発者から広く注目を集めています。このモデルは「Evil Instruction」技術を採用しており、様々な難易度レベルのオープンエンドな指示を自動生成することで、大規模言語モデルの処理能力を向上させています。研究チームは、この手法に基づき、コード生成に特化したWizardCoderなどの他の分野のモデルも開発しています。
この研究チームは、マイクロソフトアジアインターネットエンジニアリング研究所とMicrosoft Researchの研究者を含む、複数の中国人科学者で構成されています。
バイトダンス傘下の豆包大規模言語モデルチームは先日、混合専門家モデル（MoE）アーキテクチャにおける主要なボトルネックを克服し、COMETという名称の重要な最適化技術をオープンソース化したと発表しました。この技術は、大規模言語モデルのトレーニング効率を大幅に向上させ、最大1.7倍の効率向上を実現し、トレーニングコストを40％削減することに成功しました。画像注記：画像はAIによって生成され、画像ライセンス提供サービスMidjourneyを使用しています。COMET技術は、バイトダンスの万規模GPUクラスタトレーニングで実際に適用されており、数百万GPU時間の節約に貢献しています。
3月10日、智元ロボットは、初の汎用具象ベースの大規模言語モデルであるGenie Operator-1（GO-1と略称）を発表しました。この発表は大きな注目を集め、特に家庭用サービスロボットの可能性という点において、将来の家事管理に新たな希望をもたらすものとして期待されています。智元ロボットの公式発表によると、GO-1大規模言語モデルは大量の人間のビデオ学習を通じて、コップの水を運ぶ、食事を作る、客を迎えるなど、多くの家事タスクをこなす優れた能力を示しています。技術性能に関しては、
報道によると、国家スパコンインターネットプラットフォームは阿里巴巴の通義千問大規模言語モデルへの接続を発表し、千問QwQ-32B APIサービスの正式提供を開始しました。本サービスを利用するユーザーは、最大100万トークンを無料で利用でき、多くの開発者や研究者にとって絶好の機会となります。千問QwQ-32Bは阿里巴巴通義チームが最近オープンソース化した推論モデルであり、優れた性能を誇ります。複数の権威ある評価データによると、千問QwQ-32Bの能力は「フルバージョン」の671Bと匹敵します。
