陳丹琦チームが開発した最新のLLM-Shearing大規模モデル剪定法は、高性能と低コストの両面で大きな進歩を遂げました。
この手法は、巨大な事前学習済みモデルを効率的に剪定し、コストをわずか5%に抑えながら、最先端レベルの性能を維持します。
研究チームは、剪定によって性能が低下する可能性という問題にも対処し、動的バッチ読み込み方法を提案しました。
この革新的な手法は、大規模深層学習モデルに幅広い影響を与えるでしょう。
【AIデイリー】へようこそ！ここは、毎日人工知能の世界を探求するためのガイドです。毎日、開発者に焦点を当て、技術トレンドを洞察し、革新的なAI製品アプリケーションを理解するのに役立つ、AI分野のホットなコンテンツをお届けします。
最近、Google、カーネギーメロン大学、MultiOnの研究チームは、大規模言語モデルのトレーニングにおける合成データの応用に関する新たな研究を発表しました。AI開発研究機関Epoch AIの報告によると、現在、公開されている高品質なテキストトレーニングデータは約300兆トークンですが、ChatGPTなどの大規模モデルの急速な発展に伴い、トレーニングデータの需要は指数関数的に増加しており、2026年までに枯渇する可能性があると予測されています。そのため、合成データがますます重要になってきています。
During the Qingming Festival holiday, Guangxi province implemented an AI-powered traffic model on its highways to manage and alleviate traffic congestion.
【AIデイリーニュース】へようこそ！AIの世界を探求するための毎日のガイドです。毎日、AI分野のホットなトピックを紹介し、開発者に焦点を当て、テクノロジーのトレンドを把握し、革新的なAI製品の応用を理解するお手伝いをします。最新のAI製品はこちらをご覧ください：https://top.aibase.com/1、アリババの通義千問Qwen2.5-Omniがグローバルオープンソースモデルランキングで首位を獲得2024年4月2日、HuggingFaceが最新のLLMランキングを発表し、アリババのQwe…
百度が開発した深層学習プラットフォームPaddlePaddleは、新世代フレームワークPaddlePaddle 3.0の正式リリースを発表しました。今回の3.0リリースでは、「動静統一自動並列」など5つのコア技術革新が導入され、大規模モデルの開発とトレーニングコストの有効な削減、大規模モデル時代のインフラ構築支援を目指しています。大規模モデルのトレーニングと推論タスクを支える中核インフラとして、PaddlePaddle 3.0は性能最適化において優れた成果を上げています。このフレームワークは既に文心4.5、文心X1など複数の主流大規模モデルをサポートしており、最適化によって…
最近、順豊同城は、すべての業務プロセスにおいて、運用デジタル化とAI(人工知能)による意思決定のインテリジェント化を全面的に推進すると発表しました。同社はこれにより、即時配送業界に最適な大規模モデル基盤インフラを構築し、より効率的な運用とサービスを実現したいと考えています。この目標達成のため、順豊同城はDeepSeekのオープンソースエコシステムとそのマルチモーダルAI能力を活用し、迅速なカスタマイズ開発を実現します。これは、順豊同城がさまざまな顧客の具体的なニーズに合わせて、サービスと製品を迅速に調整し、市場のニーズを満たせることを意味します。
【AIデイリーニュース】へようこそ！AIの世界を探求するための毎日のガイドです。毎日、AI分野のホットなトピックを厳選してご紹介します。開発者をフォーカスし、テクノロジーのトレンドを把握し、革新的なAI製品の応用を理解するお手伝いをいたします。最新のAI製品はこちらをご覧ください：https://top.aibase.com/1、智譜がAgent製品AutoGLM沉思を発表：初の「考えながら行動する」インテリジェントエージェント 智譜AIは2025中関村フォーラムで、最新のAgent製品であるAutoG...