アマゾンの機械学習チームは先日、開発したMistral7B基礎モデルがSageMaker JumpStartで利用可能になったと発表しました。ユーザーはワンクリックで展開して使用できます。
Mistral7Bは、パラメータ規模が70億個の英語テキストコード生成モデルで、トランスフォーマーアーキテクチャを採用し、8000トークンのコンテキスト長を備えています。そのため、推論速度が速いのが特徴です。
ユーザーはMistral7Bを簡単に体験できます。このモデルはApache2.0ライセンスでオープンソース化されており、無制限に使用できます。
【AIデイリー】へようこそ！ここは、毎日人工知能の世界を探求するためのガイドです。毎日、開発者に焦点を当て、技術トレンドを洞察し、革新的なAI製品アプリケーションを理解するのに役立つ、AI分野のホットなコンテンツをお届けします。
DeepSeek R1に続き、アリババクラウドの通義千問チームは、最新のオープンソースモデルQwen2.5-1Mを発表し、再び業界の注目を集めています。今回発表されたQwen2.5-1Mシリーズには、Qwen2.5-7B-Instruct-1MとQwen2.5-14B-Instruct-1Mの2つのオープンソースモデルが含まれています。これは通義千問が初めて、100万トークンのコンテキスト長をネイティブサポートするモデルを発表したものであり、推論速度も大幅に向上しています。
Google Researchは最近、革新的なTitansシリーズのモデルアーキテクチャを発表しました。バイオミメティック設計により、画期的な200万トークンコンテキスト長を実現し、将来的には関連技術をオープンソース化することを計画しています。このアーキテクチャの中核となる革新は、深層神経長期記憶モジュールの導入です。その設計は人間の記憶システムから着想を得ています。Titansは、短期記憶の迅速な応答能力と長期記憶の永続的な特性を巧みに組み合わせ、同時にアテンションメカニズムを使用して即時コンテキストを処理することで、効率的な情報処理システムを形成しています。Googleによると
IBMは、エンタープライズAI分野におけるリーダーシップを目指して、次世代オープンソース大規模言語モデルGranite3.1を発表しました。このモデルシリーズは、128Kの拡張コンテキスト長、埋め込みモデル、ビルトインの幻覚検出機能、およびパフォーマンスの大幅な向上を備えています。IBMは、Granite8B Instructモデルが、MetaのLlama3.1、Qwen2.5、GoogleのGemma2などの同規模のオープンソース競合他社の中で最高の性能を発揮すると主張しています。
アリババクラウドは、大幅にアップグレードされた新しい大規模言語モデルQwen2.5-Turboを発表しました。そのコンテキスト長は驚異的な100万トークンに達します。これはどういうことでしょうか？『三体』10冊分、150時間の音声書き起こし、または3万行のコードに相当します！これで「小説10冊を一気読み」が夢ではなくなります！Qwen2.5-Turboモデルは、Passkey Retrievalタスクで100％の精度を実現し、長文理解能力においてGPTを凌駕しています。
aiOSは、hyperspaceai組織が開発した、Mistral7Bモデルに基づく世界初の分散型AIネットワークです。最先端の分散型AIコンピューティングをユーザーに提供し、AIのアクセシビリティを根本的に変革することを目指しています。現在、このアプリケーションは初期開発段階にあり、Windows、Linux、macOSユーザー向けにダウンロードして体験いただけます。Llama-3にも対応しており、無料で体験可能です。
X AIは、最新の大規模言語モデルGrok-1.5のアップデートを発表しました。Grok-1.5は、コーディングと数学関連タスクのパフォーマンスが大幅に向上し、最大128Kトークンのコンテキストを処理できるようになりました。メモリ容量は16倍に増加し、JAX、Rust、Kubernetesを基盤とする柔軟なインフラストラクチャを提供しています。この新機能は、大規模言語モデルの発展を促進し、より豊かで効率的なエクスペリエンスを提供します。
AI21は、世界初のMamba生産レベルモデルであるJambaを発表しました。これはSSM-Transformerアーキテクチャを採用し、520億パラメーターを備えています。Jambaは256Kコンテキスト長に対応し、Joint AttentionとMambaテクノロジーを組み合わせることで、長文処理タスクの効率を3倍に向上させます。JambaモデルはSSMテクノロジーとTransformerアーキテクチャを融合することで、それぞれの限界を克服し、高い効率と性能を維持しています。MistralAIがMis…
Mistral 7B v0.2ベースモデルがオープンソース化。コンテキストが32Kに拡張。マイクロソフトとの提携により、1600万ドルの投資を受け、GPT-4に対抗するフラッグシップモデル「Mistral Large」を発表。継続的な開発により、従来の競合他社を凌駕する新たなモデルが登場。
Googleが発表したGemini 1.5 Proモデルのコンテキスト長が1000万トークンに達し、RAG技術の未来に関する議論を巻き起こしています。長文入力によりRAGの多くの問題が解決され、RAGに取って代わる可能性があると考える人もいます。一方で、長文入力はコストと効率性の面で課題が残るため、RAGは今後も重要な役割を果たし続けると考える人もいます。Googleの圧倒的な計算能力により、コンテキスト長の探求において他社をリードしています。この記事では、LangChain...
阿里雲通義千問2.0が正式にリリースされ、パラメータ規模は千億規模に達しました。阿里雲の最高技術責任者である周靖人が、阿里巴巴の大規模モデルファミリーの全面的なアップグレードを発表しました。通義千問2.0モデルのパラメータ規模は千億レベルに達し、大幅な向上を実現しました。通義千問2.0は音声対話などの機能をサポートしており、ユーザーはダウンロードして体験できます。阿里雲通義千問2.0は、人工知能の新しい章を開きます。