マイクロソフト、リアルな顔と声を生成するAIツールを発表、ディープフェイクへの懸念も

最近、マイクロソフトはIgniteカンファレンスで、新しいAIツール「Azure AI Speech」を発表しました。このツールは、新しいアバターと音声を作成したり、ユーザーの既存の外見と声を複製したりすることができます。

この技術は人間の画像を用いてトレーニングされており、ユーザーがスクリプトを入力すると、AIが作成したリアルなアバターがそれを朗読します。マイクロソフトは、このツールの悪用を防ぐための様々な制限と保護策を強調していますが、この発表はディープフェイクの増加に対する懸念を引き起こしています。

批判者は、このツールを「ディープフェイク製造機」と呼び、個人の顔と声を複製して偽のコンテンツを作成するために使用される可能性があると指摘しています。マイクロソフトはこれに対し、このツールはアクセスが制限されており、ユーザーは使用に際してマイクロソフトの承認が必要であり、AIでアバターや音声を作成する際には開示する必要があると回答しています。