グローバルAI製品の動向を検索

知乎直答の新バージョンでは、機能面で多くの革新が加えられました。ユーザーは、ウェブページやドキュメントなどの知識庫をアップロードできるだけでなく、各知乎の回答者を独立した知識庫として扱うことも可能です。回答者の単一の記事または全作品に焦点を当てることで、質問、検索、解析を行い、より的を絞った専門的な回答を得ることができます。この機能により、AI検索のコンテンツソースが大幅に拡充され、検索結果の精度と信頼性が向上しました。

最近、Vectaraは「幻覚ランキング」と題するレポートを発表し、様々な大規模言語モデル（LLM）が短い文書を要約する際に生じる幻覚を比較しました。このランキングは、VectaraのHughes幻覚評価モデル（HHEM-2.1）を利用しており、このモデルは定期的に更新され、要約に虚偽の情報が含まれる頻度を評価することを目的としています。最新のデータによると、このレポートは、いくつかの一般的なモデルの幻覚率、事実の一貫性率、応答率、平均要約の長さなどの重要な指標を示しています。

先日、Vectaraの機械学習チームがDeepSeekシリーズの2つのモデルに対して詳細な幻覚テストを実施した結果、DeepSeek-R1の幻覚率は14.3%に上り、前身であるDeepSeek-V3の3.9%を大幅に上回ることが判明しました。これは、推論強化のプロセスにおいて、DeepSeek-R1がより多くの不正確な内容、または元の情報と矛盾する内容を生成していることを示しています。この結果を受けて、推論強化型大規模言語モデル（LLM）における幻覚率に関する議論が活発化しています。画像参照

人工知能分野において、大規模言語モデルの幻覚問題は業界を悩ませる重要な課題となっています。最近、HHEM-2.1-Open評価システムに基づいたテスト結果によると、智譜AIのGLM-4-9Bモデルは注目すべき成果を上げました。テストデータによると、評価に参加した85個の大規模言語モデルの中で、GLM-4-9Bは98.7％の事実一致率と100％の回答率で首位を獲得しました。特に注目すべきは、このモデルの幻覚率がわずか1.3％であることであり、この成果は…

企業による大規模言語モデル（LLM）の利用が増えるにつれ、モデルの知識の正確性を高め、幻覚現象を低減することが重要な課題となっています。Meta AIの研究者たちは新たな論文で、「拡張メモリ層」と呼ばれる、この問題に対する解決策となる可能性のある手法を発表しました。拡張メモリ層の核心は、推論時の計算資源を増やすことなく、LLMに追加パラメータを導入することで学習能力を高めることです。このアーキテクチャは、大量の事実知識を保存しつつ、推論処理を維持したい場合に適しています。

人工知能の欠点と広く見なされている特性である「幻覚」が、科学的ブレークスルーの鍵となった。フォーブス誌の報道によると、2024年のノーベル化学賞受賞者の一人であるデビッド・ベッカー教授は、AIモデルの幻覚特性を利用して、重要な研究成果を達成した。ワシントン大学のベッカー教授は、今年のノーベル化学賞受賞者3人のうち唯一のアメリカ人科学者である。彼はコンピューターソフトウェアを使って、新しいタンパク質の開発に成功し、この功績によりノーベル賞を受賞した。画像注記：画像はAIによって生成されたもので、画像ライセンスサービスプロバイダーMからのものである。

2024世界百度大会で、百度創始者の李彦宏は、AI分野における注目すべき最新進歩を発表しました。過去2年間、大規模言語モデル技術において最も顕著な進歩は「幻覚」問題のほぼ解決であり、これはAIの回答の正確性が質的に向上し、真面目にでたらめを言うことから信頼できるインテリジェントアシスタントへと変化したことを意味します。会合では、李彦宏は百度が新たに発表した検索強化型画像生成技術iRAGを重点的に紹介しました。この技術は、百度検索プラットフォームが蓄積した膨大な画像資源と高度な基礎モデルを革新的に統合したものです。

2024年11月12日、百度世界大会が上海世博中心にて盛大に開幕しました。本大会は基調講演1回、分科会4回、30回を超える人工知能公開講座で構成されました。百度創設者の李彦宏氏は基調講演「アプリケーション到来」において、人工知能分野における百度の最新技術革新と応用成果を紹介し、将来の業界トレンドについて深く議論しました。

マイクロソフトは最近、人工知能が生成する虚偽情報を軽減または排除するための技術的手法を目的とした特許を出願しました。この特許は「外部知識とフィードバックを利用した言語モデルとの対話」と題され、昨年米国特許商標庁（USPTO）に提出され、10月31日に公開されました。この提案の中心は、AIモデルに「応答強化システム」（RAS）を提供することであり、ユーザーの問い合わせに基づいて自動的により多くの情報を取得し、その回答の「有効性」をチェックすることを可能にします。具体的には、応答強化システム...

ディズニーの研究チームは最近、オープンソースのStable Diffusion V1.2モデルを利用した新しい画像圧縮手法を発表しました。この手法は、競合他社よりも低いビットレートで、よりリアルな画像を生成できます。この新手法は「コーデック」と呼ばれ、従来のJPEGやAV1コーデックよりもはるかに複雑ですが、その性能は驚異的です。研究によると、新手法は画像細部の復元においてより優れた性能を示し、必要なトレーニングコストも大幅に削減されています。研究者

OpenAIのWhisper技術を搭載したAI音声転写ツールが、医療業界で広く利用されている。多くの医師や医療機関が、患者との面談の記録や要約にこのツールを使用している。ABCニュースの報道によると、研究者らがこのツールが「幻覚」現象を示し、場合によっては完全に内容をでっち上げる事例を発見した。Nabla社が開発したこの転写ツールは、700万回を超える医療会話の転写に成功しており、現在3万を超えるユーザーが利用している。

大規模言語モデル（LLM）の登場、特にChatGPTなどのアプリケーションの普及により、人機インタラクションの方法が根本的に変わりました。これらのモデルは、首尾一貫した包括的なテキストを生成でき、非常に印象的です。しかし、その強力な能力にもかかわらず、LLMは「幻覚」を起こしやすいという欠点があります。つまり、一見すると真実のように見えるが、実際には架空のものであったり、意味をなさないものだったり、プロンプトと一致しない内容を生成してしまうのです。ハーバード大学の研究者らは、LLMの「幻覚」現象について深く研究し、その根本原因がLLMの動作原理にあることを発見しました。LLMは膨大なテキストデータに基づいて…

マイクロソフトの人工知能分野における開発の方向性が大きく変化しています。かつては独自の大規模言語モデルの開発に意欲的に取り組んでいましたが、現在はOpenAIとの協業に重点を移し、AI生成コンテンツの「幻覚」問題を解決するための新たな「校正」機能を発表しました。独自開発から協業へ：マイクロソフトAI戦略の進化マイクロソフトは当初、生成AI（GenAI）分野に多大な資源を投入し、OpenAIのGPTシリーズモデルに匹敵、あるいは凌駕するAIモデルの開発を目指していました。しかし、長期にわたる研究開発の中で

コーネル大学などの機関が、GPT-4、Claude、Geminiなどの生成AIモデルを対象に幻覚のベンチマークテストを実施した結果、これらのモデルが無幻覚のテキストを生成する割合は約35%にとどまり、AIの信頼性向上にはまだ改善の余地があることが判明しました。この研究では、法律、健康、歴史などのテーマに関する権威のある情報源を用いて事実確認を行い、Wikipediaに含まれていない内容を含む問題セットを設計しました。その結果、OpenAIのモデルが全体的に最も良いパフォーマンスを示しましたが、GPT-3.5と比較しての進歩は限定的でした。この研究は、モデルのサイズと幻覚の頻度には関連性がないこと、そして…

2つの論文が、生成系AIコンテンツを「でたらめ」と見なすべきことを明らかにし、正確性を無視することが公共サービス従事者にとって課題となることを強調している。生成系AIが出力する誤情報は、意図的な欺瞞とは異なり、論文では「でたらめ」という用語の方が正確であり、人々のテクノロジー理解の向上に役立つと主張している。現在、AIに関する法律・規制はまだ不十分であり、このような誤情報による危害を効果的に防止できない。著者は、出版業界のような規制を導入し、社会に危害を及ぼす可能性のある「無責任な発言」を避けること、真実が複数存在しないことを保証することを提案している。

Meta社のAIアシスタントが、トランプ前大統領の暗殺未遂事件を誤って発生していないと報告したことが話題になっています。Meta幹部はこれを遺憾と表明。AIのプログラミング上の制限が原因で、当初はトランプ氏の暗殺に関する質問には回答しないように設定されていましたが、制限が解除された後、一部のケースで誤った情報を提供しました。この現象は「幻覚」と呼ばれ、生成AIが広く抱える課題です。同様の問題はGoogleも抱えており、検索の自動候補機能がトランプ氏への検閲を行っていると批判されたこともあります。

ChatGPT、Claude、Geminiなどの大規模言語モデルは印象的ですが、共通の大きな問題を抱えています。それは、しばしば「幻覚」を生み出すことです。これはAI分野における深刻な問題であり、アップルでさえ、将来のApple Intelligenceがどのように幻覚に対処するのか懸念を示しています。幸いなことに、研究者チームがAIの幻覚検出器を開発し、AIが内容をでっち上げているかどうかを判断できるようになりました。

bilibiliのUP主「不自由な写真家winga」は、様々なAIツールを巧みに駆使して、毒キノコを食べた際に起こりうる幻覚的な視覚効果をシミュレートした注目すべきAI動画を作成しました。この動画はbilibiliで150万回以上の再生回数を記録し、20万件以上の「いいね！」を獲得、bilibili全サイトランキングで13位にランクインするなど大きな話題となりました。UP主は、雲南の都市を実際の背景として使用し、AI技術によって独創的な視覚効果を表現しています。視聴者からは「奇妙な美しさがある」との声が上がっています。動画制作においては、Stable Diffusionが巧みに活用されています。

ガリレオ研究所は、生成AIの精度向上に役立つ新たな指標を発表しました。OpenAIのGPT-4は、基本的な質問応答タスクにおいて23％の幻覚傾向を示しています。ガリレオ研究所の新しい指標には、正確性と文脈の一貫性が含まれています。これらの新しいツールは、企業がAI実装における幻覚問題のテストと軽減に役立ちます。