Zoomは、ユーザーに驚くべき新機能を提供しようとしていますが、その全貌を目にするには来年まで待つ必要があるかもしれません。このビデオ会議の巨人は、年次開発者会議で、ユーザーのビデオをAI駆動のリアルなデジタルアバターに変換できる機能を発表しました。
このデジタルアバターは、頭部だけでなく、上腕と肩も含まれており、「デジタル分身」と呼ぶにふさわしいものです。ユーザーはアバターに話させたい内容を入力するだけで、Zoomはアバターの口の動きと同期した音声を作成します。まるで魔法のようですよね？
Zoomの最高製品責任者であるSmita Hashim氏は、この機能は人々が同僚と「非同期」で「より速く、より効率的に」コミュニケーションをとることを目的としていると述べています。彼女は、このアバターがユーザーの貴重な時間と労力を節約し、同時にビデオ作成の効率を向上させると強調しました。
しかし、この技術の登場は、いくつかの懸念も引き起こしています。ディープフェイクのリスクが生じる可能性があるかどうかを考えなければなりません。
実際、すでに多くの企業が同様のAI技術を開発しており、人の顔をデジタルで「クローン」化し、非常に自然な合成音声と組み合わせることができます。例えば、Tavusはブランドがパーソナライズされたビデオ広告のために仮想キャラクターを作成するのを支援しており、マイクロソフトも昨年、説得力のあるデジタル分身を作成できるサービスを発表しました。
しかし、これらのツールは通常、悪用を防ぐための厳格な保護策を講じています。Tavusは口頭での同意声明を要求し、マイクロソフトは顧客に、アバターに関わるすべての人材からの書面による許可と同意を得ることを要求しています。
これに対して、Zoomは、そのセキュリティ対策の説明はやや曖昧です。Hashim氏は、同社がカスタムアバター機能のために「多層防御」を構築しており、「高度な認証」と透かしが含まれていると述べています。彼女は、セキュリティ対策を継続的に見直し、必要に応じて将来追加していくことを約束しました。
Zoomのこの取り組みは、CEOの袁征氏の壮大なビジョンと一致しています。彼は、将来、Zoom会議への参加、メールへの返信、さらには電話への応答を代わりにできるAIを作りたいと考えています。
しかし、この技術の登場は、ディープフェイクがソーシャルメディアで野火のように広まっている時期と重なっており、真実と虚偽の情報を見分けることがますます困難になっています。今年に入ってから、アメリカの大統領ジョー・バイデン氏、テイラー・スウィフト氏、副大統領カマラ・ハリス氏に関するディープフェイク動画がオンラインで数百万回再生され、拡散されています。最近では、ハリケーン・ヘレン襲来後、虚偽のAI生成画像が大量にネット上に拡散され、架空の破壊や人間の苦しみの様子が描かれていました。
ディープフェイク技術は、個人を標的にすることもあり、例えば、親族になりすまして詐欺を行うといったケースがあります。米国連邦取引委員会のデータによると、昨年、なりすまし詐欺に関連した損失は10億ドルを超えています。
では、Zoomは詐欺師がそのツールを使って悪意のある偽のビデオを作成するのをどのように防ぐのでしょうか？現時点では不明です。同社が公開したシミュレーション画像によると、カスタムアバタービデオの右上に透かしが表示されます。しかし、この透かしは、スクリーンレコーディングツールで簡単に切り取ることができます。
2025年前半にZoomがこの機能をリリースする予定であるため、より詳細な情報が得られることを期待しています。その際、ユーザーはZoom Clips（非同期ビデオツール）でカスタムアバターを使用するために、月額12ドルの追加料金を支払う必要があります。
Zoomが最終的にどのような対策を講じるにせよ、ディープフェイクの蔓延を抑えようとする規制の取り組みが進められています。米国連邦レベルではディープフェイクを犯罪とする法律がない中で、すでに10以上の州がAI支援によるなりすましを対象とした規制を制定しています。カリフォルニア州の法律（現在保留中）は、裁判官に、ディープフェイクコンテンツの公開者にコンテンツの削除を命じる権限を与え、そうでなければ罰金を科す可能性のある最初の法律となります。
Zoomがこの新機能を発表したことで、私たちはこう問わざるを得ません。技術の進歩は常に肯定的な影響をもたらすのでしょうか？利便性を享受する一方で、私たちは知らないうちにパンドラの箱を開けてしまったのでしょうか？これは私たち一人ひとりが深く考えるべき問題です。
