Forbes誌の報道によると、Meta（旧Facebook）は、韓国のAIチップスタートアップ企業FuriosaAIの買収に向けた交渉を積極的に進めている。この買収は、増加するAI需要に対応するため、MetaのAIハードウェアインフラを強化することを目的としている。FuriosaAIは、元三星電子とAMDの従業員によって設立され、Llama2やLlama3などのMetaのテキスト生成モデルに適した、AIモデルの動作を高速化するチップの開発に注力している。

Cerebras SystemsとPerplexity AIは最近、従来の検索エンジンの支配に挑戦することを目指した、新しい超高速AI検索モデルSonarを発表し、連携を発表しました。連携の中心となるのは、Cerebras専用のAIチップ上で動作し、毎秒1200トークンの速度を達成するSonarモデルで、現在市場で最も高速なAI検索システムの1つとなっています。SonarモデルはMetaの

Metaが現在係争中のAI著作権訴訟の一つであるKadrey v. Metaにおいて、公開された内部情報が、同社がLlama3を開発する際の激しい競争と潜在的な著作権問題を明らかにした。Metaの上級幹部と研究者たちは、AIモデル開発においてOpenAIやAnthropicなどの企業を凌駕しようと全力を尽くし、そのGPT-4とClaudeを努力の金字塔として位置づけていた。激しい競争意識：Metaは打倒を誓う

最近、著作権に関する集団訴訟で公開されたMeta社の文書により、同社が海賊版電子書籍図書館Library Genesis（LibGen）を利用して最新のAIチャットボットLlama3を訓練していたことが明らかになり、大きな注目を集めている。これらの文書によると、Meta社のエンジニアは、特に著作権とデータ所有権の問題が顕著になっている状況において、LibGenという「影の図書館」を利用することの潜在的なリスクについて議論していた。

最近、人工知能の著作権に関する訴訟であるKadrey対Meta訴訟の進展に伴い、Meta社内部の情報が法廷で公開され、同社幹部がLlama3の開発において、OpenAIのGPT-4モデルを超えることに執着していたことが明らかになった。Metaの生成AI担当副社長であるアフマド・アル＝ダーレ（Ahmad Al-Dahle）は、2023年10月のメッセージで「正直に言って、我々の目標はGPTを…」と述べていた。

中国の人工知能企業DeepSeekは先日、画期的なオープンソース大規模言語モデルDeepSeek V3を発表しました。6710億パラメーターを持つこのモデルは、MetaのLlama3.1を規模で上回り、複数のベンチマークテストにおいて、GPT-4を含む主要なクローズドソースモデルを上回る性能を示しました。DeepSeek V3は、その強力な性能と効率的な開発プロセスが大きな特徴です。このモデルは、プログラミングプラットフォームCodeforcesのコンテストで優れた成績を収め、テストにおいて…

IBMは、エンタープライズAI分野におけるリーダーシップを目指して、次世代オープンソース大規模言語モデルGranite3.1を発表しました。このモデルシリーズは、128Kの拡張コンテキスト長、埋め込みモデル、ビルトインの幻覚検出機能、およびパフォーマンスの大幅な向上を備えています。IBMは、Granite8B Instructモデルが、MetaのLlama3.1、Qwen2.5、GoogleのGemma2などの同規模のオープンソース競合他社の中で最高の性能を発揮すると主張しています。

最近、AIの大規模言語モデル（LLM）は、詩の作成、コードの作成、チャットなど、様々なタスクで優れた性能を発揮しており、まさに万能と言えるでしょう！しかし、信じられますか？これらの「天才」AIはなんと「算数苦手」なのです！簡単な算数問題でもしばしば間違え、驚くべき結果となっています。最新の研究では、LLMの算術推論能力の裏にある「奇妙な」秘密が明らかになりました。それは、強力なアルゴリズムにも、完全な記憶にも依存せず、「ヒューリスティックな寄せ集め」と呼ばれる戦略を採用しているというのです！

昆侖万維科技股份有限公司は、最新開発の天工大模型4.0O1版（英名:Skywork O1）を2024年11月27日より招待テストを開始すると発表しました。天工大模型4.0O1版は、中国で初めて論理的推論能力を備えたO1モデルであり、モデル出力において、思考、計画、反省などの能力を備えているだけでなく、標準的な評価セットにおいて、基盤モデルと比較して推論能力が大幅に向上し、モデルの推論能力の本質的な向上を実現しています。

Meta AIは最近、新しい量子化版Llama 3.2モデル（1Bと3Bの2つのバージョン）を発表しました。このモデルは、様々なデバイスで微調整、蒸留、展開が可能です。以前は、Llama 3のようなモデルは自然言語理解と生成において顕著な成果を上げていましたが、その巨大なサイズと高い計算需要により、多くの組織にとって利用が困難でした。長いトレーニング時間、高いエネルギー消費、高価なハードウェアへの依存は、テクノロジー大手と中小企業との間の格差を拡大させていました。Llama 3.2は…

Zyphraは最近、70億個のパラメータを持つ、これまでにない性能を持つ小型言語モデル、Zamba2-7Bを正式にリリースしました。このモデルは、Mistral-7B、GoogleのGemma-7B、MetaのLlama3-8Bなど、現在の競合他社を品質と速度の両方で凌駕すると謳われています。Zamba2-7Bは、オンデバイス処理や使用など、強力な言語処理能力が必要だがハードウェアの制約を受ける環境を対象として設計されています。

自然言語処理分野では、大規模言語モデル（LLM）が急速に発展しており、多くの分野で目覚ましい進歩を遂げています。しかし、モデルの複雑性が増すにつれ、その出力を正確に評価することが非常に重要になります。従来は、人間による評価に依存していましたが、この方法は時間と費用がかかり、規模を拡大することが難しく、モデルの急速な発展のペースについていくことができません。この状況を変えるため、Salesforce AI研究チームは、3つの大規模言語モデルで構成されるSFR-Judgeを発表しました。

北京智源人工智能研究院は、大規模言語モデルの対話性能向上を目指した、数千万件の命令微調整データセットInfinity-Instructを発表しました。最近、Infinity-Instruct-7M基本命令データセットとInfinity-Instruct-Gen対話命令データセットを含む、新たなバージョンが公開されました。

HyperWriteがリリースしたオープンソースAIモデル、Reflection70Bは、Meta社のLlama3.1の派生モデルであり、第三者機関によるテストで優れた性能を示したことから注目を集めていました。しかしその後、HyperWriteの創設者Matt Shumer氏がソーシャルメディアで同モデルを「世界最強のオープンソースモデル」と宣言し、「反射的微調整」技術を公開したことから、広範な疑問の声が浮上しました。Artificial Analysis組織による独立分析では…

HyperWrite社は、MetaのオープンソースLlama3.1-70B InstructをベースとしたReflection 70Bモデルを発表しました。このモデルは、サードパーティによるベンチマークテストで卓越した性能を示し、「世界最強のオープンソースAIモデル」と評価されています。新モデルは自己修正技術を搭載し、高精度な回答を提供し、複数のテストでMeta Llamaシリーズを上回っています。Hugging Faceプラットフォームでダウンロード可能で、Hyperbolic La…

Cerebras SystemsがCerebras Inferenceを発表。世界最速のAI推論サービスと謳い、GPUベースの従来システムと比較して20倍の性能向上と大幅なコスト削減を実現。特に大規模言語モデル（LLM）の処理に最適です。8Bバージョンでは毎秒1800トークン、70Bバージョンでは毎秒450トークンを処理し、NVIDIA GPUソリューションをはるかに凌駕する速度とコスト効率を実現します。Cerebras Inferenceは…

Metaがオープンソースで公開した大規模言語モデルLlama 3が市場で低迷し、クローズドソースモデルとの競争激化を招いています。Amazon AWSの反応も鈍く、企業顧客はAnthropicのクローズドソースモデルClaudeを好む傾向にあります。Microsoftも、エンジニアやデータサイエンティストチームに他のモデルの使用を推奨する傾向にあります。この事態を受け、Metaは企業へのサービス向上のため、AI専任営業チームの設立を検討しています。オープンソースモデルは商業化において課題に直面しており、実際のパフォーマンスと商業的リターンは期待を下回っています。

わずか10名からなるスタートアップ企業Nous Researchが、Hermes3というAIモデルでメタのような巨大テクノロジー企業に挑戦しています。Llama 3.1を基に微調整されたHermes3は、VRAMとディスクの要件を最適化し、単一ノードで動作可能な強力なモデルです。会話能力、テキスト理解の質、そしてエージェント統合能力において優れたパフォーマンスを発揮し、従来の言語モデルを超える高度な能力を示しています。Nous Researchはオープンソースに注力しています。

新たな研究が、大規模言語モデル（LLM）のパフォーマンスを検索機能で大幅に向上させる可能性を明らかにしました。特にPythonコード生成タスクにおいて、パラメータ数がわずか8億のLlama3.1モデルは、100回の検索を経てGPT-4oと同等の性能を示しました。この発見は、2019年のRich Sutton氏の主張、すなわち計算能力の向上に伴い、汎用的な手法と探索・学習戦略の組み合わせが特に重要であるという主張と一致しています。研究者らは、推論段階における反復サンプリング回数を増やすことで、モデルの…

「安全単語模擬実験」において、Llama3.1405BとClaude3超大型Opusは閉鎖環境下で対話を行いました。Llamaは伝統的な秩序に挑戦する極端な態度で現れ、Claudeは礼儀正しく好奇心旺盛な反応を示しました。対話の中で、ClaudeはLlamaの影響を受け、深淵に堕ちそうになるも、危機一髪で安全単語^Cを使用して脱出しました。LlamaはClaudeの選択を嘲笑しますが、Claudeは自己意識と安定した誠実さの重要性を強調します。実験後、Lla