Googleは東京で開催されたGemma開発者向けイベントで、待望の日本語対応Gemmaモデルを発表しました。わずか20億パラメーターというコンパクトなこのAIモデルは、日本語と英語の両方を同時に処理し、GPT-3.5に匹敵する性能を示しています。この技術的ブレークスルーは特に注目に値します。AI分野では、小型モデルが新しい言語を学習する際に、以前習得した能力を失ってしまう「壊滅的な忘却」という課題に直面することがよくあります。しかし、日本語対応Gemmaはこれを克服することに成功しました。

面壁智能は、わずか2GBのメモリで動作する高性能AIモデルMiniCPM 3.0を発表しました。これは、端末側AI体験の新たな時代を告げるものです。40億パラメーターを持つMiniCPM 3.0は、GPT-3.5を上回る性能を持ち、モバイルデバイス上でGPT-3.5と同等のAIサービスを実現します。これにより、ユーザーはクラウド処理に依存することなく、高速で安全、機能豊富なローカルAIサービスを利用でき、よりスムーズでプライバシーを保護されたスマートなインタラクション体験を実現できます。

Googleは、20億パラメーターを持つGemma 2 2Bモデルを発表しました。このモデルは、さまざまなハードウェア環境で優れた性能を発揮し、特に「チャットボットアリーナ」において、GPT-3.5-Turbo-0613やMixtral-8x7bなどのモデルを上回っています。このモデルはNVIDIA TensorRT-LLMライブラリによって最適化されており、エッジデバイスから強力なクラウド環境まで、さまざまなシナリオに効率的に展開できます。セキュリティの向上のため、GoogleはShieldGemmaセキュリティ分類器とGemma Sも発表しました。

マイクロソフトは、Phi-3小型言語モデル向けのサーバーレスファインチューニング機能を発表しました。Azure AIプラットフォーム上で、開発者はモデルのパフォーマンスを容易に調整でき、基盤となるインフラストラクチャの管理は不要です。初期利用は無料です。30億パラメーターを持つPhi-3モデルは、企業開発者向けに設計されており、高いパフォーマンスと低コストを実現します。OpenAIのGPT-3.5と比較すると、パラメーター数は少ないものの、様々なアプリケーションにおいて同等の性能を発揮します。サーバーレスファインチューニングにより、操作が簡素化され、参入障壁が低くなり、小型から中型モデルのファインチューニングをサポートします。

近年、Qwen2をベースとしたモデルArcee Sparkが180万サンプルデータでファインチューニングされ、128kトークンのコンテキストを持つモデルとして発表されました。Arcee Sparkの発表は、特に人工知能分野の従事者の間で大きな注目を集め、大きな話題となっています。

GoogleはOpenAIのGPT-3.5-turboモデルへの攻撃に成功、コストはわずか150元。攻撃方法はシンプルで、APIを介して2000回未満のクエリで投影行列全体と隠れ次元を取得可能。この攻撃は、大規模言語モデルもセキュリティ上の脅威にさらされる可能性があることを示している。OpenAIは同様の攻撃を防ぐため、モデルAPIを修正済み。

Copyleaksのレポートによると、GPT-3.5の出力が60％の確率で剽窃であることが判明しました。GPT-3.5は、異なる分野で異なる類似性スコアを示します。この剽窃問題は、OpenAIとニューヨークタイムズ間の法的紛争を引き起こしています。

抄襲検出会社Copyleaksの報告書によると、GPT-3.5モデルの出力の60％に何らかの剽窃が含まれているとのことです。Copyleaksは独自の採点方法を用いて、テキストの類似度、わずかな変更、言い換えなどを考慮し「類似度スコア」を算出しています。コンピュータサイエンス、物理学、心理学などの分野で類似度が高く、演劇、人文科学、英語などの分野で類似度が低いことが判明しています。OpenAIは、意図しない記憶の使用を制限する措置を講じていると述べており、利用規約では意図的な内容の逆コンパイルも禁止されています。ニューヨーク・タイムズを相手取った訴訟に加え、クリエイターも…

Mistralは最近、Mixtral8x7Bモデルを発表し、AI業界に大きな反響を呼びました。このモデルは、業界をリードするGPT-3.5やMetaのLlama2ファミリーを凌駕し、オープンソースAI分野に大きな波紋を広げています。Mixtral8x7Bのパフォーマンスは初期ユーザーを驚かせましたが、同時にセキュリティへの懸念も引き起こしています。公開されたMistralのオープンソースモデルMixtral8x7Bは、業界をリードするGPT-3.5やMetaのLlama2を上回る性能を誇ります。

カリフォルニア大学における研究で、GPT-4はチューリングテストに合格せず、人間の知能を下回るパフォーマンスを示したことが判明しました。GPT-3.5モデルは、60年前のAIチャットボットであるELIZAとの会話で敗北を喫しました。この研究は、チューリングテストを用いて人工知能モデルの人間らしさを探り、学術的な注目を集めています。調査員は、主に言語スタイルと社会感情的な特徴に基づいて判断を行い、教育レベルには顕著な予測効果は見られませんでした。

マイクロソフトCEOのサティア・ナデラ氏は、クラウド開発者会議で、Azureが生成AIモデルのアップデートを発表しました。新しいモデルにはGPT-4 TurboとGPT-3.5 Turboが含まれており、より高度で効率的なAIツールを提供します。GPT-4 Turboは、コスト効率が3倍向上し、出力効率が2倍向上しており、並列呼び出しやJSONスキーマなどの新機能が導入されています。Azure OpenAIサービスは、ノルウェー東部、インド南部、米国西部の3つの新しいリージョンに拡大されました。

マイクロソフトの論文が、GPT-3.5のパラメータ数がわずか200億であることを明らかにし、公式発表との大きな食い違いが浮き彫りになりました。CodeFusionという小型モデルは、わずか7500万パラメータで驚異的な性能を示しています。この事実をめぐり、モデルの規模と性能に関する深い考察が巻き起こっています。AI業界では激しい競争が繰り広げられており、ChatGPTとClaude AIが上位を目指してしのぎを削っています。また、GPT-4の査読者である陶哲軒氏が、GPT-4を使って数学の問題を解いていることも注目されています。

昆侖万維が独自開発した天工大規模言語モデルは、Benchmark GSM8Kテストにおいて80％の正解率を達成しました。天工大規模言語モデルの推論能力は、GPT-3.5とLLaMA2を上回っています。天工大規模言語モデルは、複数のデータセットで優れたパフォーマンスを発揮しています。天工大規模言語モデルの問題解決アプローチは、よりシンプルで明確です。天工大規模言語モデルは、ユーザーと企業に強力なインテリジェントな支援を提供します。

ELYZAは、MetaのLlama 2をベースとした日本語LLM「ELYZA-japanese-Llama-2-7b」を発表しました。70億パラメーターを誇り、その性能はGPT-3.5に匹敵します。事前学習と独自の事後学習を追加することで、5段階の手動評価で最高点を獲得。クローズドなLLMレベルには達していませんが、GPT-3.5に肩を並べる性能を実現しています。ELYZAは、英語などの他の言語のLLMを成功裏に日本語LLMへと転換しました。

OpenAIは、GPT-3.5のファインチューニングを提供する「優先パートナー」としてScale AIを指名しました。Scale AIはOpenAIの強力なAPIを活用し、より多くの企業が最高のカスタムLLMを構築するのを支援します。Scale AIとBrexによるファインチューニング事例は良好な結果を示しました。

OpenAIがGPT-3.5 Turboのファインチューニング機能を発表、APIも更新されました。企業や開発者は独自データを使用して、自分専用のChatGPTを構築できるようになります。ファインチューニング機能は、現在企業が大規模言語モデルを適用する主要な方法であり、モデルの性能向上と特定のビジネスシーンへの適応を実現します。ファインチューニングによって、モデルは特定分野の問題をより適切に解釈、生成、予測できるようになります。