Googleは今週、Magic Editor AI機能を使用して編集された画像にデジタル透かしを追加すると発表しました。この透かしは、Pixel 9デバイスでReimagine機能を使用して変更された画像に特に適用されます。この新機能の導入は、AI生成および編集コンテンツの識別能力を高めることを目的としています。Reimagine機能は2024年に発表され、生成AI技術を使用してデジタル写真の多面的な修正を行います。この機能はMagic Editorと連携して…

Meta社は最近、Video Sealと呼ばれる新しいニューラルウォーターマークシステムを発表しました。このシステムは、AI生成ビデオの識別を目的としており、編集されたビデオでもそのソースを効果的に追跡できます。このウォーターマークは視聴者には見えませんが、検出することでビデオの真偽を検証できます。Meta社は、Video Sealウォーターマークモデル、研究論文、トレーニングおよび推論コードを含む、このシステム全体をMITライセンスのオープンソースソフトウェアとして公開しています。さらに、Meta社は…

ディープフェイクは今やあらゆる場所に浸透しています。生成AIの普及に伴い、オンライン上の偽情報は爆発的に増加しました。認証プラットフォームSumsubの統計によると、2023年から2024年にかけて、世界のディープフェイク数は4倍に増加。2024年には、ディープフェイクが不正行為全体の7％を占め、なりすまし、アカウント乗っ取りから高度なソーシャルエンジニアリング攻撃まで、あらゆるものにその影が見られます。Metaはディープフェイクに対抗するため、

ディープフェイク技術の普及に伴い、オンライン上の虚偽情報が急増しています。ID検証プラットフォームSumsubのデータによると、2023年から2024年にかけてディープフェイクの数は4倍に増加し、2024年にはすべての詐欺行為の7％を占めています。これには、なりすまし、アカウント乗っ取り、高度なソーシャルエンジニアリング攻撃など、さまざまな形態が含まれます。この課題に対処するため、Meta社は最近、AI生成による…

生成AIの商業化に伴い、オンライン上の虚偽情報が急増しています。認証プラットフォームSumsubのデータによると、2023年から2024年にかけて、世界的なディープフェイクの数は4倍に増加しました。2024年には、ディープフェイクが全ての不正行為の7％を占め、なりすまし、アカウント乗っ取りから複雑なソーシャルエンジニアリング活動まで、様々な形態に及んでいます。この問題に対処するため、MetaはAI生成動画に透かしを挿入する新しいツール「Meta Video Seal」を発表しました。

近年、デジタルコンテンツの急速な普及に伴い、著作権保護のための重要な手段として透かしがますます注目されています。しかし、透かしは画像の見栄えを損ね、共有や利用に制限を加える場合があります。kaze.aiは、無料のオンライン透かし除去ツールです。高度な人工知能技術を活用し、画像から透かしやロゴを簡単に削除できます。kaze.aiは非常に簡単に使用でき、画像または画像のURLをアップロードするだけで、すぐに透かし除去プロセスを開始できます。このプラットフォームは処理を…

グーグルは最近、AI生成テキストの識別を支援するテキスト透かしツールSynthIDをオープンソース化すると発表しました。このツールは現在、グーグルの「責任ある生成AIツールキット」を通じて一般公開されています。グーグルDeepMindの研究担当バイスプレジデントであるPushmeet Kohli氏は、この技術により、他の生成AI開発者はテキスト出力が自社の大規模言語モデル（LLM）によるものかどうかを検出できるようになり、より責任ある開発に繋がるとしています。

OpenAIが直面する課題：学生によるChatGPT不正行為への対処法とは？ChatGPT生成コンテンツを99.9％の精度で検出できる「透かし」技術を開発したものの、学生によるAI不正行為への広範な懸念から、まだ公開されていません。内部での技術検討はほぼ2年間続き、公開を妨げている主な要因は、透明性へのコミットメントとユーザーロイヤルティの維持とのバランス、そして非英語話者への悪影響への懸念です。教育現場ではこの技術への要望が強く、AI不正行為への懸念が高まっています。

OpenAI社内では、ChatGPT生成テキストに透かし技術を導入し、学生による剽窃を防ぐべきか否かで議論が巻き起こっています。この透かし技術は、モデルの単語やフレーズの予測を調整することで検出可能なパターンを生成し、教師による課題の剽窃検出を支援することを目的としており、テキストの質には影響を与えません。高い精度を誇り、単純な書き換えにも耐性がありますが、他のモデルを用いた書き換えでは透かしを回避できるため、懸念が生じています。透かしの導入は、一部ユーザーにスティグマを与え、利用率の低下につながる可能性があります。そのため、技術の有効性とユーザーエクスペリエンスの両立が課題となっています。

先日、『ウォールストリートジャーナル』紙は、人工知能企業OpenAIがChatGPTで生成されたテキストを高精度で識別できるツールを開発したが、まだ正式に公開されていないと報じました。これに対し、OpenAIはテキスト透かし技術の研究を進めていることを認めましたが、その技術はまだ多くの課題に直面していると述べています。

先日、Metaは6つの研究成果を静かに発表し、AI分野に新たな応用と技術的ブレークスルーをもたらしました。これには、マルチモーダルモデル、テキストから音楽を生成するモデル、オーディオ透かし技術、データセットなどが含まれます。これらの研究成果を詳しく見ていきましょう。

OpenAIの画像生成ツールDALL-E 3は、コンテンツの起源と真正性に関する業界標準の導入を支援するため、画像のメタデータに透かしを追加します。C2PAの透かしは、ChatGPTウェブサイトとDALL-E 3モデルAPIで生成された画像に表示されます。ユーザーは、Content Credentials Verifyなどのウェブサイトを使用して、OpenAIプラットフォームで生成された画像の起源を確認できます。C2PAは、AdobeやMicrosoftなどの企業で構成されるコンソーシアムです。

Google DeepMindは、人間が感知できないAIオーディオ透かし技術SynthIDを発表しました。このオーディオ透かしは、AI生成元の識別を目的とし、聴覚体験に影響を与えません。圧縮、加速、減速されたオーディオでも透かしを検出可能です。生成AIによる悪用を防ぐための重要な保護策となります。SynthIDは、オーディオ波を2次元視覚化する方法を採用しています。

マイクロソフトは、「Content Credentials as a Service」と呼ばれるデジタル透かしツールを発表しました。これは、ディープフェイクによる脅威から政治キャンペーンを守ることを目的としています。このツールは、コンテンツの作成日時、方法、作成者などのメタデータ情報を付加します。マイクロソフトは組織と協力してBing上に信頼できる選挙情報ウェブサイトを立ち上げ、AIによる虚偽の政治広告を禁止する法案を支持しています。デジタル透かしツールに加え、マイクロソフトはサイバーセキュリティ保護とAIに関するアドバイスを提供し、選挙連絡センターを設置しています。

研究者らは、現在存在するすべてのAI生成画像の透かし技術は容易に回避できることを発見しました。デジタル透かしは削除できるだけでなく、本物の画像に追加して誤検知を引き起こすことも可能です。現時点では、透かし技術はAI生成画像の信頼できる識別手段とはなっていません。悪意のある行為者は、透かしを容易に回避したり操作したりできます。アーティストの作品が誤ってAI生成と識別される可能性もあります。

Google Cloud 次世代イベントはAIをテーマに展開され、多数の新製品が発表されました。特に生成AIに重点が置かれています。Googleは新世代AIチップCloud TPU v5eを発表、性能は2倍に向上し、コストは半減しました。また、Google CloudとNVIDIAはA3仮想スーパーコンピュータを発表、性能は3倍に向上し、数万個のGPUに拡張可能です。

SynthIDは、AI生成画像に目に見えない透かしを付加し、AI画像として識別できるようにするツールです。SynthIDは、2つの深層学習モデルを用いて透かしを生成・検出し、トリミングや変色などの一般的な画像処理にも耐性があります。DeepMindはまずGoogle Imagen画像AIでSynthIDを使用し、成功すれば他のシステムにも展開する予定です。