10月17日、百度は正式に文心大模型4.0を発表しました。量子位は早速、実測による比較を行いました。その結果、文心大模型4.0は、日本語の理解力や動画生成において、GPT-4に劣らず、場合によっては優れていることが分かりました。
これは主に、文心大模型のトレーニングにおける3つの技術的進歩によるものです。より大きな計算能力、より多くのデータ、そしてより強力なアルゴリズムです。
専門家は、文心大模型4.0はGPT-4と肩を並べるレベルに達しており、AIネイティブ時代の幕開けを告げたと述べています。
アメリカのイロン大学による調査によると、アメリカ成人の52％がChatGPT、Gemini、Claude、CopilotなどのAI大規模言語モデルを使用したことがあることがわかりました。ノースカロライナ州イロン大学の「想像デジタル未来センター」が1月に実施したこの調査では、500人の回答者を対象としています。調査結果によると、AIを使用したことがある人のうち、34％が少なくとも1日に1回は大規模言語モデルを使用していると回答しました。その中で、ChatGPTが最も人気があり、回答者の72％が使用したと回答しています。グーグルのG…
人工知能分野における激しい競争の中、100万ドル規模の大規模実験が、大規模言語モデルのトレーニング方法を静かに変えつつあります。階躍星辰研究チームは最近、重要な研究成果を発表しました。彼らは、約100万NVIDIA H800 GPU時間という膨大な計算能力を費やし、ゼロから3,700個もの異なる規模のモデルをトレーニングし、合計で驚異の100兆個のトークンを処理することで、Step Lawと呼ばれる普遍的なスケーリング則を発見しました。これは、大規模言語モデルの高効率トレーニングのための全く新しい指針を提供するものです。
途方もない費用がかかるOpenAI Soraをご存知でしょうか？数百万ドルにも上るトレーニング費用は、まさにビデオ生成におけるロールスロイスと言えるでしょう。今、潞晨科技がオープンソースのビデオ生成モデルOpen-Sora2.0を発表しました！わずか20万ドル（約224枚のGPU投入に相当）で、110億パラメーターを持つ商用レベルのビデオ生成大規模言語モデルのトレーニングに成功しました。OpenAI Soraに匹敵する性能を誇ります。Open-Sora2.0は低コストにもかかわらず、
人工知能分野において、大規模言語モデル（LLM）は絶えず進化を続けています。最近、カーネギーメロン大学(CMU)とHuggingFaceの研究者らは、メタ強化微調整(Meta Reinforcement Fine-Tuning、略してMRT)と呼ばれる新たな手法を発表しました。この手法は、大規模言語モデルのテスト時の計算効率を最適化することを目的としており、特に複雑な推論問題を解く際に顕著な成果を示します。研究によると、既存の大規模言語モデルは推論において
