グローバルAI製品の動向を検索

Meta社は最近、Video Sealと呼ばれる新しいニューラルウォーターマークシステムを発表しました。このシステムは、AI生成ビデオの識別を目的としており、編集されたビデオでもそのソースを効果的に追跡できます。このウォーターマークは視聴者には見えませんが、検出することでビデオの真偽を検証できます。Meta社は、Video Sealウォーターマークモデル、研究論文、トレーニングおよび推論コードを含む、このシステム全体をMITライセンスのオープンソースソフトウェアとして公開しています。さらに、Meta社は…

OpenAIが直面する課題：学生によるChatGPT不正行為への対処法とは？ChatGPT生成コンテンツを99.9％の精度で検出できる「透かし」技術を開発したものの、学生によるAI不正行為への広範な懸念から、まだ公開されていません。内部での技術検討はほぼ2年間続き、公開を妨げている主な要因は、透明性へのコミットメントとユーザーロイヤルティの維持とのバランス、そして非英語話者への悪影響への懸念です。教育現場ではこの技術への要望が強く、AI不正行為への懸念が高まっています。

OpenAI社内では、ChatGPT生成テキストに透かし技術を導入し、学生による剽窃を防ぐべきか否かで議論が巻き起こっています。この透かし技術は、モデルの単語やフレーズの予測を調整することで検出可能なパターンを生成し、教師による課題の剽窃検出を支援することを目的としており、テキストの質には影響を与えません。高い精度を誇り、単純な書き換えにも耐性がありますが、他のモデルを用いた書き換えでは透かしを回避できるため、懸念が生じています。透かしの導入は、一部ユーザーにスティグマを与え、利用率の低下につながる可能性があります。そのため、技術の有効性とユーザーエクスペリエンスの両立が課題となっています。

先日、Metaは6つの研究成果を静かに発表し、AI分野に新たな応用と技術的ブレークスルーをもたらしました。これには、マルチモーダルモデル、テキストから音楽を生成するモデル、オーディオ透かし技術、データセットなどが含まれます。これらの研究成果を詳しく見ていきましょう。

Google DeepMindは、人間が感知できないAIオーディオ透かし技術SynthIDを発表しました。このオーディオ透かしは、AI生成元の識別を目的とし、聴覚体験に影響を与えません。圧縮、加速、減速されたオーディオでも透かしを検出可能です。生成AIによる悪用を防ぐための重要な保護策となります。SynthIDは、オーディオ波を2次元視覚化する方法を採用しています。