NVIDIAは先日、AIビデオ検索と要約のための新しいAIブループリントを発表しました。この技術は、従来のビデオ分析の限界を根本的に変えるものです。過去の固定モデルのように事前に設定されたオブジェクトしか認識できないのではなく、生成AI、ビジュアル言語モデル(VLM)、大規模言語モデル(LLM)を組み合わせることで、ビデオコンテンツを深く理解し、自然な対話を実現します。

このシステムはNVIDIA NIMマイクロサービスアーキテクチャ上に構築されており、その最大の強みは強力なビデオ理解能力です。ビデオのセグメント化処理、密な記述の生成、知識グラフの構築などの技術を有機的に組み合わせることで、超長尺のビデオコンテンツも正確に理解し、分析できます。ユーザーはシンプルなREST APIインターフェースを通じて、ビデオ要約の生成、インタラクティブな質疑応答、リアルタイムビデオストリームのカスタムイベント監視を行うことができます。

image.png

技術アーキテクチャから見ると、このソリューションにはいくつかの重要なコンポーネントが含まれています。ストリームプロセッサはコンポーネント間の相互作用と同期を処理します。NeMo Guardrailsはユーザー入力のコンプライアンスを保証します。NVIDIA DeepStream SDKベースのVLMパイプラインは、ビデオのデコードと特徴抽出を担当します。ベクトルデータベースは中間結果を保存します。Context-Aware RAGモジュールは、統一された要約を生成するために統合されます。Graph-RAGモジュールは、グラフデータベースを使用してビデオ内の複雑な関係をキャプチャします。

image.png

実際のアプリケーションでは、システムはまずビデオを小さなセグメントに分割し、VLMを使用して密な記述を生成し、LLMを使用して分析結果をまとめます。ライブストリームの場合、システムはビデオセグメントを継続的に処理し、リアルタイムで要約を生成します。同時に、知識グラフを構築することで、ビデオ内の複雑な情報を正確に捉え、より深いレベルの質疑応答をサポートします。

この技術的ブレークスルーは、工場、倉庫、小売店、空港、交通ハブなどのシナリオに革命的な変化をもたらします。運用チームは自然言語インタラクションを通じて、より豊富なビデオ分析の洞察を得ることができ、より賢明な意思決定を行うことができます。

現在、NVIDIAは早期アクセス申請を受け付けています。開発者はNVIDIAが提供するAPIカタログから適切なモデルを選択し、NVIDIAがホストするサービスを使用することも、ローカルに展開することもできます。この柔軟な展開オプションにより、企業は実際のニーズに合わせてカスタマイズされたビデオ分析ソリューションを構築できます。

AI技術の進歩に伴い、ビデオ分析分野は劇的な変化を遂げています。NVIDIAのこの最新の技術ソリューションの発表は、さまざまな業界におけるインテリジェントなビデオ分析の導入を加速させるでしょう。

詳細:https://developer.nvidia.com/blog/build-a-video-search-and-summarization-agent-with-nvidia-ai-blueprint