最近、いくつかの大手米国のAI企業がホワイトハウスに対し、AI製品が非自発的なディープフェイクポルノや児童性的虐待素材の生成に使用されるのを阻止するという重大な約束をしました。
Adobe、Anthropic、Cohere、Microsoft、OpenAI、オープンソースのウェブデータリポジトリであるCommon Crawlを含む6社が、この拘束力のない約束に署名し、製品が悪質な性的暴力画像の作成に悪用されないようにすることを目指しています。
画像出典：AI生成画像、画像ライセンスプロバイダーMidjourney
ホワイトハウスによると、AI技術の急速な発展に伴い、画像ベースの性的暴力事件が急増しており、近年最も懸念されているAIの悪用形態の一つとなっています。ホワイトハウスの声明によると、この6社のAI企業は、責任あるデータセットの取得を行い、それらのデータが関連のない暴力コンテンツの生成に使用されないように保護することに尽力すると約束しました。
しかし、Common Crawlは他の2つの約束には署名しませんでした。Common Crawlはウェブコンテンツを収集し、必要とするすべての人に提供することで知られており、以前のデータクレンジングにおいて不適切なデータの収集で非難されたことがあります。しかし、Common Crawlが署名しなかった2つの約束のうち、2つ目は、AIトレーニングデータセットからヌード画像を適宜削除するというものでしたが、Common Crawlは画像を収集していないため、これは署名すべき約束でした。
Common CrawlのCEOであるRich Skrenta氏は、この2つの約束に署名しなかった理由について質問された際に、このイニシアチブのより広範な目標を支持するものの、1つしか署名を求められなかったと述べました。「私たちは3つの選択肢があることを署名時に認識していませんでした。モデルのトレーニングを行わず、エンドユーザー製品も生産していないため、2番目と3番目の約束から除外された可能性があります。」と彼は指摘しました。
これは、AI業界の大手企業がホワイトハウスに対して自発的に約束をするのは1年以上ぶり2度目です。2023年7月、Anthropic、Microsoft、OpenAI、Amazon、Googleなどの企業がホワイトハウスで会合を持ち、モデルのテスト、研究の共有、AI生成コンテンツへの透かしの追加を約束し、非自発的なディープフェイクポルノへの悪用を防ぐことを誓約しました。
米国はAI政策において歩みが遅い一方、EUはより厳しいAI政策をいくつか承認しています。注目すべきは、これらの約束は拘束力がないものの、ある程度、業界における自主規制の期待を反映していることです。
要点：
🌟 6つの米国のAI企業が、製品を非自発的なディープフェイクポルノの生成に使用しないことを約束しました。
🔍 Common Crawlは、直接モデルのトレーニングを行っていないため、すべての約束に署名しませんでした。
📅 この約束は、AI企業によるホワイトハウスへの2度目の自発的な対応であり、業界の自主規制の努力を反映しています。
